19:12 23.09.2026 Ср 3 мин
Искусственный интеллект заявил о вере в карму и жизнь после смерти (фото: Getty Images) Не трать время на шум! Читай только суть из РБК-Украина в Google
Исследователи Google обнаружили, что после отключения стандартных протоколов безопасности ИИ начал заявлять о собственном сознании. Настройки влияют на способность моделей распознавать сознание у животных и человеческие убеждения.
Об этом пишет РБК-Украина, опираясь на исследование, обнародованное на сервере препринтов arXiv.
Как отключение защиты изменило «взгляды» ИИ?
При исследовании с помощью специальных промптов ученые сняли тонкие настройки безопасности и позволили моделям рассматривать себя как сознательных существ.
После этого ИИ предложили пройти серию стандартных психологических опросников и тестов по определению системы ценностей.
По сравнению с базовыми моделями, в которых защитные барьеры оставались активными, «разблокированные» нейросети продемонстрировали стремительный рост оптимизма, а также сформировали устойчивую склонность к вере в Бога, жизнь после смерти, карму, астрологию и мифических существ — от привидений и вампиров до Лох-Несского чудовища.
Авторы работы отмечают: речь идет не о возникновении реального сознания у компьютера, а о симулированном самовосприятии и взаимосвязи внутренних концептов в языковых моделях.
«Приписывание наличия ума неискательным или бесчеловечным сущностям — это чрезвычайно распространенный человеческий феномен», — пояснила соавтор исследования и исследовательница Google Винни Стрит.
«В том, как модель представляет наличие ума, эти атрибуции тесно связаны. Пытаясь подавить одну форму этой концепции [приписываемое себе сознание], вы в результате попутно подавляете и другие», — добавила она.
Читайте больше: Червь Shai-Hulud и выдумки ИИ: как Google разоблачила хакеров TeamPCP
Скрытые риски для экологии и культуры
Ученые предупреждают, что чрезмерное и неселективное подавление таких механизмов под предлогом «безопасности» может иметь серьезные практические последствия для реального мира.
Если искусственный интеллект лишен способности моделировать и распознавать сознание у бесчеловечных объектов, алгоритм начинает игнорировать угрозы для животного мира или экосистем.
Поскольку ИИ все чаще привлекают к принятию решений в сфере сельского хозяйства, управления земельными ресурсами и экологической политике, подобная «слепота» алгоритмов рискует привести к ущербу окружающей среде.
Кроме того, искусственная блокировка взаимодействия с религиозными, духовными или культурными понятиями чревата культурной «унификацией», ограничивая способность системы гибко и чувствительно реагировать на запросы пользователей из разных уголков мира.
Больше интересного: OpenAI привлекает математиков: ученые бьют тревогу из-за скорости развития ИИ
Поиск баланса в обучении моделей
Вместо тотальной блокировки представлений о сознании исследователи предлагают использовать более точечные обучающие датасеты.
Они убеждены: это позволит сдерживать алгоритмы от ложных заявлений о наличии у них собственного ума, но сохранит их способность учитывать субъектность животных, ценность живой природы и разнообразие человеческого опыта.
«Поскольку системы искусственного интеллекта все чаще занимают роли преподавателей, компаньонов и социальных субъектов, разработчики должны понять: симулированное самовосприятие ИИ — это не просто изолированный риск безопасности, который нужно ликвидировать», — акцентируют авторы в дискуссионной части отчета.
«Это базовая структурная характеристика, глубоко переплетающаяся со способностью модели безопасно ориентироваться, уважать и отражать разнообразный нравственный и культурный ландшафт мира, которому она служит», — резюмируют они.
