Глава ИИ Microsoft поставил точку в споре о возможностях искусственного разума (фото: Getty Images)
Глава направления ИИ в Microsoft Мустафа Сулейман считает, что сознание возможно только у живых организмов. По его словам, попытки представить ИИ как «осознающий себя» являются ошибочными.
Об этом сообщает РБК-Украина со ссылкой на сайт CNBC.
Сулейман выступает против концепции «сознательного» искусственного интеллекта
По словам Сулеймана, исследования, предполагающие возможность «страданий» или эмоционального опыта у ИИ, вводят в заблуждение. «Если сформулировать вопрос неправильно, ответ тоже будет неправильным. Это полностью неверная постановка задачи», — отметил он.
Сулейман является одним из наиболее заметных представителей индустрии, выступающих против идеи «сознательного» ИИ — систем, которые могут создавать впечатление, будто они переживают эмоции. В 2023 году он стал соавтором книги The Coming Wave, посвященной рискам ИИ и других развивающихся технологий, а также опубликовал эссе под названием «Мы должны создавать ИИ для людей, а не ИИ как человека».
Почему эта тема вызывает дискуссии
Интерес к «эмоциональному» или «компаньонскому» ИИ растет — такие продукты разрабатывают, в частности, Meta и xAI. При этом технологические компании продолжают движение в сторону систем, способных выполнять широкий спектр интеллектуальных задач на уровне человека (AGI).
Однако Сулейман подчеркивает различие между функциональными возможностями ИИ и наличием субъективного опыта. Он ссылается на концепцию биологического натурализма, согласно которой сознание возможно только при наличии живого мозга. «Люди имеют права, потому что способны испытывать боль и стремятся ее избегать. У моделей этого нет — это лишь симуляция», — отметил он.
При этом Сулейман подчеркнул, что не призывает запрещать исследования в этой области, но считает необходимым ясно обозначать пределы возможностей технологий.
Ограничения в разработке и позиция Microsoft
Выступая ранее на Paley International Council Summit, Сулейман заявил, что Microsoft не будет разрабатывать чат-ботов для эротического взаимодействия — в отличие от некоторых конкурентов.
Сулейман присоединился к Microsoft в 2024 году после сделки на 650 млн долларов по поглощению его стартапа Inflection AI. До этого он был сооснователем DeepMind, которую приобрела Google.
По его словам, важным фактором перехода в Microsoft стали технологическая база компании и стремление создать собственные модели ИИ полного цикла. Он также подчеркнул, что сервисы Microsoft строятся таким образом, чтобы ИИ осознавал свою роль помощника, а не «личности».
Новые функции Copilot и «реалистичное общение»
На прошлой неделе Microsoft представила обновления для Copilot, включая новый режим общения Real Talk, предназначенный для того, чтобы ИИ мог мягко разбирать аргументы пользователя и предлагать альтернативные точки зрения.
Сулейман отметил, что такой подход помогает формировать у ИИ «персональность», но в рамках четко заданных ценностей и без попыток имитировать эмоции. При этом он подчеркнул, что развитие ИИ сопровождается рисками, требующими осторожности.
