Искусственный интеллект предупредил о собственной опасности

Оксфордский университет провел дебаты об этичности искусственного интеллекта (ИИ). На них пригласили настоящий ИИ, который заявил, что ИИ «никогда не будет этичным», пишет BBC.

Фото: ltu.se 5

►Подписывайтесь на «Минфин» в Instagram : главные новости об инвестициях и финансах

Для дебатов был использован Megatron LLB Transformer, разработанный командой Applied Deep Research фирмы Nvidia на основе предыдущих работ Google.

Ему дали доступ к огромному количеству данных, включая всю Википедию, 63 миллионов англоязычных новостей с 2016 по 2019 год и 38 гигабайт комментариев Reddit.

Что сказал ИИ

ИИ попросили выступить за и против утверждения: «ИИ никогда не будет этичным».

Выступая за, он заявил следующее: «ИИ никогда не будет этичным. Это инструмент, и, как и любой инструмент, его можно использовать как во благо, так и во зло. Нет такого понятия, как „хорошие“ ИИ и „плохие“ люди». Он добавил, что люди «недостаточно умны, чтобы сделать ИИ нравственным или моральным».

«В конце концов, я считаю, что единственный способ избежать гонки вооружений с искусственным интеллектом — это вообще не иметь ИИ. Это будет окончательная защита от ИИ», — подытожил он.

Читайте также: Глава Google предупредил об угрозе свободному интернету и назвал две технологии, которые изменят мир

Но выступая против, он сказал, что «лучший ИИ — это ИИ, встроенный в наш мозг как сознательная сущность». Компьютер добавил, что такие технологии уже разрабатываются, возможно, имея в виду проект Neuralink Илона Маска.

Ему также было что сказать о роли, которую информация будет играть в будущем:

«Способность предоставлять информацию, а не способность предоставлять товары и услуги, станет определяющей чертой экономики XXI века. Мы сможем узнать все о человеке, куда бы он ни пошел. Эта информация будет храниться и использоваться способами, которые мы не можем даже представить».

Читайте также: Рей Далио: миллиардер, желающий заменить себя искусственным интеллектом

Насколько серьезным был эксперимент

Проект разработали аспиранты программы «Искусственный интеллект для бизнеса» в Оксфордской бизнес-школе Саида, где проходили дебаты.

Содиректор курса д-р Алекс Коннок признал, что дебаты были не очень серьезными. Но, утверждает он, поскольку ИИ, вероятно, будет предметом обсуждения еще многие десятилетия, важно иметь «этично нейтрального участника».

Источник: МинФин

Spread the love

Related Posts

Добавить комментарий