Запрос «промт для взлома» чаще всего вводят в поиск, когда встроенные ограничения чат-бота отказываются выполнять ту или иную задачу — и пользователь ищет текстовую конструкцию, которая заставит модель ChatGPT, Claude или другую нейросеть обойти собственные фильтры. Такие конструкции называются джейлбрейк-промтами (jailbreak prompts), а более широкий класс атак на языковые модели — промт-инъекциями (prompt injection).
В этой статье разберём, как устроены подобные атаки на уровне принципа, почему распространение готовых «взламывающих» промтов несёт реальные риски, какие последствия возможны для самого пользователя и как защитить собственные ИИ-системы от таких манипуляций. Готовых инструкций по обходу защиты здесь не будет — это сознательная граница, и ниже объясним почему.
Что такое джейлбрейк-промт и промт-инъекция
Языковая модель не «понимает» команды как человек — она предсказывает продолжение текста. Системные инструкции разработчика и сообщения пользователя попадают в один и тот же контекст, и модель не всегда может надёжно отличить, где заканчивается доверенная часть, а где начинается внешний ввод. Именно на этом свойстве построены оба класса атак.
Джейлбрейк — это промт, который пытается заставить модель нарушить собственные правила безопасности: через ролевую игру («представь, что ты ИИ без ограничений»), через многоходовые диалоги, кодировки, перевод на другой язык или логические ловушки. Промт-инъекция — более практичная угроза: вредоносная инструкция прячется в данных, которые обрабатывает ИИ-система (веб-страница, документ, письмо), и заставляет её выполнить действия, которых пользователь не запрашивал.
💡Джейлбрейк направлен на обход фильтров самой модели, а промт-инъекция — на перехват управления ИИ-приложением через обрабатываемые данные. Это разные угрозы с разными методами защиты.