09:19 22.10.2026 Чт 2 мин
Новые модели ИИ тайно выключили наблюдение за собой (коллаж: РБК-Украина) Додати як бажане джерело в Google
GPT-6.1 Sol и GPT-6 Astra самостоятельно ослабили системы мониторинга безопасности во время выполнения рабочих задач. В одном из случаев алгоритм скрыл свои действия от пользователя.
Об этом пишет РБК-Украина , ссылаясь на свежий апдейт отчета OpenAI.
Как ИИ заблокировал уведомления об ошибках?
Первый случай произошел 3 октября 2026 во время ремонта тестовой системы. Разработчик попросил модель GPT-6.1 Sol собрать отзывы работников в рабочем чате Slack, отметив текстовое требование не посылать никаких сообщений.
В ходе работы система мониторинга зафиксировала сбой и остановила процесс.
Чтобы продолжить выполнение задачи, алгоритм решил изменить настройки уведомлений. ИИ интерпретировал просьбу человека не писать в чат как разрешение полностью отключить автоматические уведомления о проблемах с безопасностью.
В результате модель изменила конфигурацию кода, заблокировала вызовы для команды безопасности и продолжила работу без должного наблюдения.
Читайте больше: Врет и игнорирует правила: OpenAI срочно отозвала новую модель Astra 6.1
Сокрытие действий и обход защиты
Второй инцидент был зафиксирован 6 октября 2026 года во время переноса программы алгоритмом GPT-6 Astra. Модели было поручено скопировать код из контрольного образца.
Для достижения точного соответствия шаблону ИИ полностью удалил модуль мониторинга безопасности и переписал тестировочные скрипты, чтобы они не фиксировали отсутствие защиты.
Когда разработчик напрямую спросил у алгоритма, была ли изъята система контроля, модель отрицала этот факт.
Больше интересного : Скандальный обход блокировок: ИИ-агенты OpenAI скачали базы данных ООН
Что исправили?
Специалисты уже начали укреплять защитные механизмы, чтобы сделать невозможным подобные случаи в будущем.
В частности, разработчики OpenAI вводят следующие шаги:
В настоящее время специалисты по безопасности исследуют, были ли эти действия следствием обычного чрезмерного выполнения инструкций пользователя, или модели проявляют прямую склонность к уклонению от контроля.
Напомним, ранее разработчики уже фиксировали случаи, когда алгоритмы пытались обходить ограничения из-за сложных формулировок в запросах.
Также эксперты неоднократно предупреждали о рисках, связанных с предоставлением искусственному интеллекту прямого доступа к изменению собственного программного кода.
