Запрос на генерацию откровенных фото в Midjourney, DALL-E или Stable Diffusion почти всегда завершается одинаково: сервис возвращает ошибку модерации, блокирует генерацию или выдаёт нейтральное изображение вместо запрошенного. Это не сбой и не «тупость» нейросети, а результат встроенных фильтров контента, которые работают на уровне анализа текста промта и самой сгенерированной картинки.
В этой статье разберём, как устроена модерация в генеративных моделях, почему попытки обойти её через «хитрые» формулировки промта несут реальные риски — от блокировки аккаунта до юридических последствий, — и какие легальные сценарии работы с изображениями остаются доступными.
Как нейросети фильтруют запросы на откровенный контент
Модерация в генеративных сервисах обычно многоуровневая. На первом этапе текст промта проверяется классификатором, который распознаёт прямые и завуалированные описания откровенного контента — включая эвфемизмы, транслитерацию и намеренные опечатки. На втором этапе готовое изображение анализируется отдельной моделью компьютерного зрения: даже если промт прошёл проверку, картинка с признаками запрещённого контента будет отброшена или замазана.
У разных сервисов политика различается. DALL-E и Midjourney применяют жёсткую модерацию на стороне сервера и не позволяют её отключить. Stable Diffusion распространяется как открытая модель, которую можно запустить локально, — формально фильтры там слабее, но это не снимает юридических ограничений на создание и распространение определённых изображений.
💡Фильтры работают в два слоя: анализ текста промта и анализ готового изображения. Обойти один слой не означает пройти второй.