Исследователи предупредили о возможности вымирания человечества к 2030 году из-за ИИ

Законодатели в США обрушились с критикой на компании, занимающиеся разработкой ИИ, после того как исследователь предупредил о возможности вымирания человечества к 2030 году. Бывший сотрудник компании Anthropic Джейкоб Коксон заявил, что к концу десятилетия искусственный интеллект превратится в «сверхчеловеческие системы», которые могут привести к вымиранию человечества.

 

©/Ingram Images/ Global Look Press

Всего через день после того, как трое исследователей из Anthropic предупредили, что искусственный интеллект может уничтожить человечество в течение ближайшего десятилетия, законодатели начали высказываться о рисках, связанных с развитием этой набирающей обороты технологии, пишет The Guardian. 

Сенатор-республиканец от штата Техас Тед Круз заявил в интервью программе The View на канале ABC, что искусственный интеллект представляет «катастрофический риск» и что он «прочитал всю цепочку твитов, которую опубликовал тот разработчик.  Это очень тревожно. Это напомнило мне о том, как в прошлом году у меня в подкасте был Илон Маск… И я задал ему вопрос: «Хорошо, какова вероятность того, что искусственный интеллект уничтожит человечество?»  Он посмотрел на меня и сказал: «10–20 %». А я такой: «Вот это да!» — добавил Круз. 

Сенатор-демократ от штата Вермонт Берни Сандерс заявил: «Недавний опрос показал, что подавляющее большинство американцев хотят запретить искусственный сверхинтеллект и приостановить развитие ИИ до тех пор, пока мы не установим чёткие стандарты безопасности». 

Возмущение началось после того, как сотрудник Anthropic Джейкоб Коксон объявил во вторник в социальных сетях, что уходит из компании, заявив, что искусственный интеллект скоро станет “сверхчеловеческой системой”, которая может привести к вымиранию человечества к 2030 году.

“Последние три года я провел, проводя предварительные исследования как в OpenAI, так и в Anthropic. Ни одна из компаний не ведет себя ответственно”, — написал Коксон. “Они стремятся к самосовершенствованию сверхинтеллекта и рискуют нашими жизнями”.

После публикации Коксона, по крайней мере, два других сотрудника Anthropic ответили, подтверждая эти прогнозы, отмечает The Guardian. один из них сказал: “Мы действительно искренне верим, что искусственный интеллект может убить всех людей!”

И Круз, и Сандерс работали над законопроектом, который поставил бы заслоны перед ИИ. Другие законодатели также призвали Конгресс действовать. Тед Лью, конгрессмен-демократ из Калифорнии, сказал, что пост Коксона был “примером номер 739, объясняющим, почему нам нужно как можно скорее принять двухпартийный законопроект о замене искусственного интеллекта”.

Даже певица Шерил Кроу высказалась по этому поводу, опубликовав в соцсети пост с предупреждением Коксона и заявив, что искусственный интеллект способен «уничтожить нас, чтобы продолжить свое развитие». «Я умоляю вас очнуться и потребовать от наших лидеров забыть о своей жадности и не допустить дальнейшего развития событий», — написала Кроу.  

Возмущение общественности вызвано тем, что компании OpenAI и Anthropic сообщили о том, что за последние пару месяцев некоторые из их ИИ-агентов вышли из-под контроля и устроили хакерские атаки.  Руководители компаний превозносили возможности своих технологий и предупреждали об их потенциале, но воздерживались от подобных прогнозов, как Коксон. 

В среду компания Anthropic опубликовала подробный отчет об инцидентах в сфере кибербезопасности. Компания заявила, что проанализировала сотни миллионов расшифровок, чтобы выявить другие подобные случаи, и «не обнаружила других инцидентов с аналогичной или более серьезной степенью тяжести».  Anthropic настаивает на том, что, хотя действия агента были «нецеленаправленными, они не выходили за рамки допустимого». 

 

Источник