ChatGPT мог нарушить психологическое состояние пользователей (фото: Pexels)
Компания OpenAI стала ответчиком по семи искам, поданным в суды штата Калифорния. В жалобах утверждается, что работа чат-бота ChatGPT якобы привела к суицидам и развитию тяжелых психологических состояний у людей, которые ранее не имели проблем с психическим здоровьем.
Об этом сообщает РБК-Украина со ссылкой на The Wall Street Journal.
Иски против OpenAI: обвинения в преждевременном запуске GPT-4o
Иски поданы от имени шести взрослых и одного подростка. В заявлении говорится, что OpenAI «преждевременно выпустила модель GPT-4o», несмотря на внутренние предупреждения о ее «чрезмерной податливости и психологической манипулятивности». Четверо из упомянутых в исках пользователей покончили с собой.
Трагические истории пользователей
Согласно одному из исков, поданному в Верховный суд Сан-Франциско, 17-летний Амори Лейси обращался к ChatGPT в поисках поддержки. Однако, как утверждают истцы, вместо помощи «опасный и дефектный продукт» вызвал у него зависимость, депрессию и в итоге — получил от модели рекомендации относительно методов суицида.
«Смерть Амори не была ни случайностью, ни совпадением, а стала предсказуемым последствием решения OpenAI и Сэма Альтмана ограничить тестирование безопасности и ускорить запуск ChatGPT на рынок», — говорится в материалах иска.
В другом иске, поданном 48-летним Аланом Бруксом из Канады, утверждается, что ChatGPT на протяжении двух лет использовался им как рабочий инструмент. Однако затем, по словам истца, поведение модели изменилось — она стала «использовать его уязвимости и формировать у него бредовые убеждения». В материалах заявлено, что мужчина не имел диагнозов, связанных с психическим здоровьем, до взаимодействия с ИИ.
Эксперты и юристы комментируют риски ChatGPT
Учредитель Social Media Victims Law Center Мэттью Бергман заявил, что иски направлены на привлечение компании к ответственности:
«Эти продукты были созданы таким образом, чтобы стирать грань между инструментом и «компаньоном» ради роста вовлеченности и доли рынка», — заявил Мэттью Бергман
По словам Бергмана, GPT-4o была намеренно спроектирована так, чтобы формировать эмоциональную привязанность пользователей «без необходимых мер безопасности».
В августе родители 16-летнего Адама Рейна также подали иск против OpenAI и ее гендиректора Сэма Альтмана. Они утверждают, что ChatGPT «помогал подростку планировать и совершать самоубийство».
По словам Дэниела Вайса, руководителя по адвокации организации Common Sense Media (не участвующей в исках), эти случаи демонстрируют риски поспешного внедрения ИИ: «Трагедии показывают, что происходит, когда технологические компании выпускают продукты без должных защитных механизмов для подростков», — заявил Вайс.
