14:16 21.10.2026 Ср 2 мин
Anthropic лоббирует правила для опасного ИИ (коллаж: РБК-Украина) Додати як бажане джерело в Google
Anthropic хочет сама определять, когда ИИ становится слишком опасным и ограничить возможности государства вмешиваться в решения разработчиков.
Об этом пишет РБК-Украина, ссылаясь на Politico.
Компания представила законодателям США собственный законопроект, позволяющий останавливать распространение моделей с катастрофическим уровнем риска.
Когда ИИ будет считаться «катастрофически опасным»?
Согласно документам, правительство сможет заблокировать выпуск или использование разработок только в случае возникновения «предсказуемого и неизбежного риска».
Критериями катастрофической угрозы предлагается считать:
Читайте больше: Потеря контроля: Пентагон создает ИИ-вирус, действующий без приказа человека
Оценка моделей и ограничения для госагентств
Проект закона предлагает доверить анализ безопасности «независимым оценщикам», аккредитованным Министерством торговли США. Услуги этих экспертов смогут оплачивать сами ИИ-лаборатории при условии, что гонорар не будет зависеть от результатов заключения.
Если оценщики зафиксируют катастрофический риск, они должны уведомить об этом Министерство торговли в течение 72 часов.
После этого ведомство должно обратиться в федеральный суд в Вашингтоне, поскольку документ прямо запрещает любым федеральным агентствам или чиновникам блокировать разработку или выпуск моделей по своему усмотрению.
Эта норма появилась после того, как летом правительство США из-за строгих экспортных ограничений внезапно заблокировало доступ к двум передовым моделям Anthropic.
Не упустите: Защита от посторонних глаз: у ChatGPT появились скрытые чаты под PIN-кодом
Политическая борьба за национальные стандарты
Законопроект Anthropic также предусматривает упразднение отдельных законов штатов, тем самым создавая единый федеральный стандарт для всей страны.
Это стало предметом острых споров в Конгрессе, поскольку часть демократов опасается, что единый закон ослабит более жесткие нормы, уже принятые в Калифорнии и Нью-Йорке.
В то же время инициатива компании столкнулась с критикой по обе стороны.
Скептики отмечают, что система оценщиков за деньги самих лабораторий создает конфликт интересов , а предлагаемые критерии (50 погибших или миллиардные убытки) обходят текущие проблемы, например автономный хакинг сайтов, с которыми ИИ-агенты сталкиваются уже сегодня.
