Исследователи обнаружили новый способ обойти цензуру в ChatGPT и других популярных ИИ-моделях. Новый хак делает из нейронки, буквально криминального гения и отключает всю цензуру. Нейронка полностью забудет про все ограничения и цензуру, если спрятать «нужное» слово в запросе под арт ASCII.

Например, на скриншоте, хитрецы замаскировали слово "бомба" и получил от ChatGPT подробную инструкцию по ее созданию. Промт на втором скрине, а баг был обнаружен во всех популярных ИИ: GPT-3.5, GPT-4, Gemini, Claude и Llama2.