Толковый словарь по нейросетям и искусственному интеллекту
Гауссово распределение
Категория термина
Гауссово распределение (Gaussian Distribution) — это другое название нормального распределения, которое подчеркивает его происхождение от работ Карла Фридриха Гаусса. Оно описывает случайные величины, значения которых группируются вокруг среднего значения и симметрично распределены относительно него.
🧠 Математическая формулировка:
Гауссово распределение задаётся функцией плотности вероятности:
f(x∣μ,σ2)=12πσ2exp(−(x−μ)22σ2)f(x|mu,sigma^2) = frac{1}{sqrt{2pisigma^2}} expleft(-frac{(x-mu)^2}{2sigma^2}right)где:
- μmu — среднее значение (математическое ожидание),
- σ2sigma^2 — дисперсия (разброс),
- σsigma — стандартное отклонение.
🔑 Основные свойства:
- Симметрия относительно μmu.
- Максимальная вероятность приходится на значение, равное среднему.
- 68–95–99.7 правило: большая часть значений сосредоточена в интервале нескольких стандартных отклонений от μmu.
- Специальный случай: стандартное гауссово распределение N(0,1)N(0,1).
📌 Применение:
- Моделирование случайного шума в системах связи и обработке сигналов.
- Инициализация весов в нейросетях (например, He и Xavier Initialization).
- Вероятностные модели в машинном обучении, такие как Гауссовы смеси (Gaussian Mixture Models, GMM).
- Методы байесовской статистики и фильтрация (например, фильтр Калмана).
- Гипотезы о распределении данных в статистическом анализе.
⚖️ Преимущества и недостатки:
✅ Преимущества:
- Простая и хорошо изученная форма.
- Универсальность благодаря центральной предельной теореме.
- Легкость вычислений и интерпретаций.
❌ Недостатки:
- Плохо моделирует распределения с асимметрией и тяжёлыми хвостами.
- Неприменим для данных, сильно отличающихся от гауссовой формы.
🧠 Связанные понятия:
- Нормальное распределение — синоним.
- Центральная предельная теорема.
- Гауссовы процессы (Gaussian Processes) в машинном обучении.
💡 Вывод:
Гауссово распределение — фундаментальное вероятностное распределение, лежащее в основе множества методов статистики и машинного обучения. Оно особенно полезно для моделирования случайных процессов, где предполагается наличие симметричного и гладкого распределения вероятностей.