Функция распределения вероятностей

Функция распределения вероятностей (Probability Mass Function, PMF) — это функция, описывающая вероятность того, что дискретная случайная величина примет конкретное значение. В отличие от функции плотности вероятности (PDF), которая применяется к непрерывным случайным величинам, PMF используется только для дискретных распределений.

🧠 Формальное определение:

Для дискретной случайной величины $X$, которая может принимать значения из множества $\{x_1,x_2,\dots ,x_n\}$, функция распределения вероятностей $p(x)$ задаётся как:

где $P(X=x)$ — вероятность того, что $X$ примет значение $x$.

Условия:

1. $p(x)\ge 0$ для всех $x$.
2. ${\sum }_{x}p(x)=1$.

🔑 Основные особенности:

• Определена только для дискретных случайных величин.
• Каждое значение случайной величины имеет строго определённую вероятность.
• Позволяет вычислять вероятность событий как сумму вероятностей отдельных исходов.

📌 Примеры:

• Бросок кубика: для честного кубика $$p(x)=\frac{1}{6},x\in \{1,2,3,4,5,6\}$$
• Подбрасывание монеты: $$p(О)=0.5,p(Р)=0.5$$
• Распределение Пуассона: $$p(k;\lambda )=\frac{{\lambda }^k{e}^{-\lambda }}{k!},k=0,1,2,\dots$$

⚖️ Применение:

• В машинном обучении — для моделирования категориальных распределений (например, softmax-выходы нейросети задают PMF).
• В статистике — для анализа дискретных экспериментов и гипотез.
• В обработке текста — для вероятностных языковых моделей (n-граммы).
• В теории информации — для вычисления энтропии дискретных источников.

💡 Вывод:

Функция распределения вероятностей (PMF) — это способ описания вероятностей дискретных случайных величин. Она является основой для дискретных статистических моделей, обеспечивает вычисление вероятностей событий и играет ключевую роль в задачах классификации, моделирования и анализа данных.