Ошибка нехватки памяти

Ошибка нехватки памяти (Out Of Memory, OOM) — ситуация, при которой системе (чаще всего GPU) не хватает доступной памяти для выполнения операции, связанной с обучением или генерацией нейросети. В результате процесс прерывается с ошибкой.

🧠 Механизм работы

1. Модель и данные загружаются в память (обычно VRAM).
2. Во время выполнения создаются дополнительные промежуточные тензоры.
3. Если суммарный объём используемой памяти превышает доступный лимит — возникает ошибка.
4. Операция немедленно останавливается.
5. Пользователь получает сообщение об ошибке Out Of Memory.

🔑 Особенности

• Чаще всего возникает на GPU с ограниченной VRAM.
• Зависит от batch size, разрешения изображений и размера модели.
• Может возникать как при обучении, так и при инференсе.
• Требует оптимизации параметров или ресурсов.

📌 Примеры применения

• Генерация изображений высокого разрешения в Automatic1111.
• Обучение LoRA или LyCORIS моделей в Kohya_SS.
• Запуск больших моделей (например, LLaMA) на слабом GPU.

⚖️ Преимущества и недостатки

Преимущества:

• Отсутствуют (это техническое ограничение).

Недостатки:

• Прерывает процесс обучения или генерации.
• Требует изменения настроек или оборудования.
• Может затруднять работу с большими моделями.

🧠 Связанные понятия

• VRAM — видеопамять GPU.
• Batch Size — размер пакета данных.
• Resolution — разрешение изображения.
• bitsandbytes — библиотека для экономии памяти.
• Mixed Precision — уменьшение потребления памяти.

💡 Вывод

Out Of Memory (OOM) является распространённой проблемой при работе с нейросетями, связанной с ограничениями памяти. Эффективное управление ресурсами и настройками позволяет минимизировать риск её возникновения.

⚙️ Практическое применение

• В Automatic1111 уменьшайте разрешение (например, с 1024 до 512).
• Снижайте batch size до 1 при обучении в Kohya_SS.
• Используйте 8-bit Adam и библиотеку bitsandbytes.
• Включайте xformers и memory-efficient attention.
• Закрывайте другие GPU-процессы перед запуском.