Толковый словарь по нейросетям и искусственному интеллекту
Нормальное распределение
Normal Distribution
Категория термина
Нормальное распределение (Normal Distribution) — это одно из фундаментальных распределений вероятности в статистике и машинном обучении, характеризующееся симметричной колоколообразной кривой. Оно описывает случайные величины, значения которых чаще всего сосредоточены вокруг среднего и с уменьшающейся вероятностью встречаются по мере отклонения от него.
🧠 Механизм работы:
Нормальное распределение задаётся функцией плотности вероятности (PDF):
f(x∣μ,σ2)=12πσ2exp(−(x−μ)22σ2)f(x|mu,sigma^2) = frac{1}{sqrt{2pisigma^2}} expleft(-frac{(x-mu)^2}{2sigma^2}right)где:
- μmu — математическое ожидание (среднее значение),
- σ2sigma^2 — дисперсия (характеризует разброс значений),
- σsigma — стандартное отклонение.
🔑 Основные особенности:
- Симметричность относительно среднего μmu.
- 68-95-99.7 правило: около 68% значений лежат в пределах одного стандартного отклонения от среднего, 95% — в пределах двух, 99.7% — в пределах трёх.
- Центрированное нормальное распределение со μ=0,σ=1mu=0, sigma=1 называется стандартным нормальным распределением.
📌 Примеры применения:
- Моделирование шума в данных и ошибочных измерений.
- Инициализация весов нейронных сетей (например, Xavier Initialization).
- Байесовские методы и вероятностные модели.
- Оценка статистических гипотез и доверительных интервалов.
- Алгоритмы машинного обучения, использующие предположение о гауссовском шуме (например, линейная регрессия).
⚖️ Преимущества и недостатки:
✅ Преимущества:
- Хорошо описывает многие реальные явления (рост людей, погрешности измерений).
- Имеет строгие математические свойства, удобные для анализа.
- Универсальность благодаря центральной предельной теореме — сумма независимых случайных величин стремится к нормальному распределению.
❌ Недостатки:
- Не подходит для распределений с сильной асимметрией или "тяжёлыми хвостами".
- Может приводить к неверным выводам при несоблюдении предположений о нормальности.
🧠 Связанные понятия:
- Стандартное нормальное распределение (N(0,1)N(0,1)).
- Центральная предельная теорема.
- Z-преобразование (z-score).
💡 Вывод:
Нормальное распределение — ключевая модель вероятности в статистике и машинном обучении. Благодаря универсальности и удобным свойствам оно широко используется в анализе данных, построении моделей и теоретической математике, хотя не всегда адекватно описывает сложные реальные процессы.
