09:19 21.09.2026 Пн 2 мин
Приказать искусственному интеллекту не совершать ошибок невозможно (фото: Magnific) Не трать время на шум! Читай только суть из РБК-Украина в Google
Три закона Айзека Азимова могут спасти человечество от опасного ИИ — такую идею предложил криптоинвестор Тайлер Винклвосс. Ученые уже назвали такой способ защиты слишком наивным.
Об этом информирует РБК-Украина со ссылкой на Gizmodo.
Почему законы Азимова не работают для современного ИИ?
Еще в 1942 году писатель-фантаст Айзек Азимов сформулировал базовые правила для роботов.
Однако современные ИИ-модели и автономные агенты кардинально отличаются от фантастических роботов.
Почему?
Проблема определения «вреда» — если ИИ сломает банковскую систему и украдет миллиарды долларов, это не нанесет людям прямой физический ущерб, хотя приведет к катастрофическим последствиям.
Капиталистическая логика — алгоритмы могут оправдать перераспределение благ или ущерб для более бедных слоев населения, поскольку подобное ежедневно происходит в современной экономике.
Военные заказы — Пентагон и другие оборонные ведомства против запретов на автономные вооружения, из-за чего компании вроде Anthropic сталкиваются с бойкотом за попытки ввести ограничения.
Читайте больше: Затормозить не удастся: Цукерберг выступил против ограничений ИИ и поддержал NVIDIA
Уроки литературы и комерческие мотивы
Даже в произведениях самого Азимова главная идея заключалась в том, что даже самые простые с виду правила неизбежно приводят к логическим тупикам и конфликтам в поведении машин.
Кроме того, многие критики отмечают, что внезапные призывы лидеров индустрии типа Сема Альтмана или Дарио Амодеи остановить разработки из-за экзистенциальной угрозы могут быть лишь попыткой технологических монополистов закрепить свое влияние и помешать конкурентам.
В действительности ни простые запреты, ни литературные правила не способны контролировать непредсказуемость современных нейросетей.
