Запрос вида «промт для генерации 18+» в Midjourney, DALL-E или Stable Diffusion почти всегда упирается в автоматический фильтр: система либо отклоняет генерацию, либо выдаёт размытое предупреждение о нарушении правил. Это не сбой сервиса, а результат встроенной модерации, которая анализирует текст запроса ещё до того, как модель начнёт создавать изображение.
Тема генерации взрослого контента нейросетями окружена юридическими, этическими и техническими ограничениями. В этой статье разберём, как устроена фильтрация, какие риски существуют при попытках её обойти и что регламентируют правила популярных сервисов.
Как нейросети фильтруют запросы для взрослых
Большинство коммерческих генераторов изображений используют многоуровневую модерацию. Первый уровень — анализ текста промта: система ищет ключевые слова, намёки и обходные написания. Второй уровень — проверка уже сгенерированного изображения классификатором, который определяет наличие недопустимого контента.
Третий уровень применяется в сервисах вроде DALL-E и Midjourney: это пост-модерация аккаунта. Повторные попытки обойти фильтр фиксируются, и пользователь рискует получить ограничение или блокировку учётной записи.
Локальные модели, запускаемые на собственном компьютере, технически не имеют серверной модерации, однако это не снимает юридической ответственности за создаваемый контент — об этом ниже.
💡Фильтры контента работают на трёх уровнях: анализ текста промта, проверка готового изображения и модерация аккаунта. Обход фильтров почти всегда нарушает условия использования сервиса.