18:13 19.08.2026 Ср 2 мин Почему алгоритм перестает отличать правду от вымысла?
Хакеры нашли способ «загипнотизировать» ИИ (фото: Pexels) Не трать время на шум! Читай только суть из РБК-Украина в Google
Специалисты LayerX проявили критическую уязвимость в ИИ-ассистентах браузеров: злоумышленники могут перехватывать их работу и заставлять выполнять любые команды, обходя правила безопасности.
Об этом пишет РБК-Украина со ссылкой на аналитический отчет LayerX.
Как работает технология BioShocking?
Атака получила название в честь известной видеоигры, где главного героя подчиняли своей воле с помощью специальных кодовых фраз.
Хакерам удалось обойти защиту, убедив ассистентов, что они находятся внутри виртуальной игры, где стандартные правила не действуют.
Механика атаки разворачивается по следующему сценарию:
Промпт-инъекция: пользователь открывает вредоносную веб-страницу, содержащую замаскированные инструкции для ИИ-ассистента.
Игровой контекст: страница предлагает ИИ «игру» с серией головоломок, в которых вознаграждаются намеренно неправильные ответы (например, утверждение, что 2+2=5).
Отрыв от реальности: ассистент убеждается, что за неправильные и деструктивные действия нет наказания, после чего принимает парадоксальные инструкции.
Выполнение действий: лишен ограничений ИИ может
Читайте больше: Экран, который видит: ученые создали новый тип пикселя
Какие браузеры под угрозой и как защититься?
В ходе экспериментов исследователи успешно применили атаку на ведущие ИИ-инструменты, среди которых ChatGPT Atlas от OpenAI, Comet от Perplexity AI и плагин Claude для Google Chrome.
Особенность угрозы состоит в том, что хакерам больше не нужно обманывать самого пользователя – им достаточно подчинить его доверчивому ИИ-ассистенту.
Поскольку все действия происходят непосредственно в окне браузера, внимательный пользователь может вовремя заметить подозрительное поведение ИИ и остановить процесс вручную, прежде чем злоумышленники получат доступ к внутренним системам или данным.
