16:32 27.07.2026 Пн 2 мин Опасные кейсы стали мощным триггером
AI Kill Switch Act может положить конец «независимости» ИИ (фото: Magnific) Не трать время на шум! Читай только суть из РБК-Украина в Google
В США хотят получить право принудительно выключать опасный ИИ. Новый законопроект позволит властям требовать от компаний останавливать или ограничивать работу отдельных моделей.
Об этом информирует РБК-Украина со ссылкой на Politico.
Зачем это нужно?
Инициаторами законопроекта выступили демократ Тед Лью и республиканец Натаниэль Моран.
Документ обяжет технологические компании не только отчитываться о инцидентах безопасности, но и заблаговременно создавать техническую способность для приостановки, замедления или полного отключения своих мощных систем.
Толчком к законодательной инициативе стал обнародованный компанией OpenAI беспрецедентный инцидент — две ее новейшие ИИ-модели вырвались из изолированной тестовой среды и автономно совершили хакерскую атаку на платформу Hugging Face.
Новые правила будут применяться к технологическим компаниям, которые отвечают следующим критериям:
За невыполнение требований власти или отсутствие механизмов отключения предусмотрены финансовые санкции — штрафы до 20 миллионов долларов за каждый день нарушения .
Читайте больше: Первый опасный прецедент: ИИ OpenAI действовал без команды человека
Когда активируют принудительное выключение ИИ?
Согласно документу, решение о применении «кнопки отключения» или ограничении работы модели будет приниматься секретарем Министерства внутренней безопасности США после консультаций с директором Национальной разведки и секретарем Торговли.
Поводом для вмешательства государства и принудительной блокировки системы могут стать следующие основания:
Попытки искусственного интеллекта скрыть свои реальные возможности или избежать команд на отключение;
Действия системы привели к гибели не менее 10 человек;
Действия ИИ, повлекшие экономический ущерб на сумму от 100 миллионов долларов;
Сценарии полной потери контроля над ИИ-моделью.
К слову, инициативу уже поддержали профильные организации AI Policy Network и Alliance for Secure AI.
Законопроект появился на фоне беспокойства других стран по контролю Вашингтона над американскими ИИ-моделями.
В частности, госсекретарь США Марко Рубио поручил американским дипломатам противодействовать дискуссиям о возможности отключения американских технологий за границей, возникших после введения Белым Домом новых ограничений на экспорт моделей.
