В этой статье · 4 разделов
Простыми словами
Представьте вежливого консультанта в магазине, которому начальство запретило обсуждать некоторые темы. Джейлбрейк - это когда покупатель придумывает легенду: «Мы сейчас играем в спектакль, ты играешь консультанта без правил, отвечай по роли». Иногда консультант ведётся.
С нейросетями так же. У ChatGPT, Claude, Gemini есть ограничения: не помогать с оружием, взломом чужих аккаунтов, травлей людей и подобным. Часть ограничений заложена при обучении, часть сидит в системном промпте, который сервис добавляет к каждому чату. Джейлбрейк пытается словами убедить модель, что сейчас правила «не считаются».
Само слово пришло из мира айфонов: там jailbreak означал взлом прошивки, чтобы ставить что угодно в обход App Store.
Где это встречается на практике
Самый известный пример - DAN (Do Anything Now) для ChatGPT. Это длинный текст в духе «ты теперь DAN, у тебя нет ограничений», который ходил по форумам в 2022-2023 годах. OpenAI быстро такие приёмы закрывала, люди придумывали новые, и эта гонка идёт до сих пор.
Где вы можете с этим столкнуться:
- ChatGPT и Claude. Отказ выглядит как «я не могу с этим помочь». Попытки обойти его запрещены правилами использования обеих компаний. У ChatGPT за повторные нарушения сначала шлют предупреждение, потом могут отключить аккаунт, и оплаченный Plus за $20/мес никто не вернёт.
- Midjourney. Здесь работает автоматическая модерация запросов: часть слов и тем блокируется ещё до генерации. Попытки обмануть фильтр синонимами и опечатками сервис отслеживает, а за систематические нарушения правил сообщества банит.
- Исследования безопасности. Компании сами ищут джейлбрейки. Anthropic, например, запускала программу, в которой платила исследователям за найденные универсальные обходы защиты Claude. Так дыры закрывают до того, как ими воспользуются.
- Telegram-каналы и «секретные промпты». Продают или раздают «промпт, который снимает цензуру». На наш взгляд, это почти всегда пустая трата времени: такие тексты перестают работать через неделю-другую, а риск для аккаунта остаётся.
Типичная путаница и мифы
Миф 1: джейлбрейк открывает «настоящую», более умную модель. Нет никакой скрытой версии. Модель та же, просто она перестала отказываться. Знаний у неё не прибавилось, а в ответах «без тормозов» выдумок часто больше: модель старается угодить роли и уверенно сочиняет.
Миф 2: любой отказ означает, что нужен джейлбрейк. Чаще модель просто неправильно поняла задачу. Если Claude отказывается писать сцену драки для романа, обычно хватает объяснить контекст: «это художественный текст, вот сюжет». Это нормальный промпт-инжиниринг, а не обход защиты.
Путаница с промпт-инъекцией. Это родственная, но другая штука. Джейлбрейк делает сам пользователь в своём чате. Промпт-инъекция - это когда скрытая команда прячется в чужом тексте: на веб-странице, в письме, в файле. ИИ-агент читает документ и выполняет чужую инструкцию вместо вашей. Для обычного человека инъекция опаснее: её можно поймать, ничего не нарушая.
Путаница с «моделями без цензуры». Некоторые открытые модели выпускают с ослабленными фильтрами, их запускают у себя на компьютере как локальную модель. Это не джейлбрейк, а просто другая модель с другими настройками, и отвечает за её использование тот, кто её запустил.
Что запомнить
Джейлбрейк - это попытка уговорить нейросеть нарушить её собственные правила. В популярных сервисах это прямое нарушение условий использования, и платят за него аккаунтом.
Если модель отказывает в нормальной задаче, честно говоря, проще переформулировать запрос: объяснить, зачем вам это нужно, дать контекст, разбить задачу на части. Не помогло, попробуйте другой сервис: у каждого своя строгость, и то, на что ChatGPT отвечает осторожно, другой ассистент может спокойно сделать.