Крестный отец ИИ предупредил об опасности этой технологии: «Увидим Чернобыль»

один из “крестных отцов ИИ”, Джеффри Хинтон, сказал, что может оказаться так, что людям было бы лучше вообще не разрабатывать эту технологию, поскольку, как он предупредил, это может спровоцировать крупномасштабный инцидент в этом или следующем году, например, временное отключение финансовых или энергетических систем.

фото: AP

Лауреат Нобелевской премии сказал The Guardian, что он не “предрекает гибель” технологии, которая лежит в основе его новаторских исследований в области искусственных нейронных сетей, и считает, что ИИ потенциально может привести к “прекрасному будущему”, но, по его словам, “возможно, нам было бы лучше никогда этого не делать«. развиваем его”.

Как пишет The Guardian, 78-летний Хинтон сказал, что в течение десятилетия, а возможно, и раньше, человечество узнает, сможет ли оно управлять технологическими рисками и обеспечить то, что он назвал “радикальным изобилием”, или же “мы не сможем управлять рисками и столкнемся с огромным разрывом между богатыми и бедными, огромными культурными проблемами, массовой безработицей”.

Хинтон выступил с речью перед показом нового полнометражного документального фильма «Искусственный интеллект: вероятно, не о чем беспокоиться» (название предложил чат-бот с ИИ, подчеркивает The Guardian), в котором он и его бывший коллега из Google Демис Хассабис покажут его вместе. Хинтон говорит создателям документального фильма: “Я чувствую, что у меня есть долг. У меня есть репутация, и я должен использовать ее ”.

В беседе с The Guardian Хинтон обратил внимание на склонность руководителей некоторых крупных компаний, занимающихся ИИ, к риску, которые продолжают выпускать все более мощные модели ИИ в борьбе за превосходство и долю рынка, заявив, что он не доверяет Сэму Альтману, исполнительному директору OpenAI, создателя программного обеспечения для общения в чатах. “совсем”. “Я думаю, что Марк Цукерберг, Илон Маск и Сэм Альтман понимают риски, и им на это наплевать. Они предпочли бы иметь деньги. Я в это верю”.

Ученый-компьютерщик сказал, что его “чрезвычайно беспокоит” тот факт, что Альтман возглавляет одну из немногих передовых американских компаний в области искусственного интеллекта, которая в настоящее время ведет гонку с Китаем за разработку самого мощного ИИ. В сентябре Альтман настаивал: “Мир должен верить, что мы поступим правильно, потому что это правильно и потому что мы чувствуем масштаб этого”.

Хинтон работает над искусственным интеллектом около 44 лет и в 1970–х годах придумал концепцию нейронной сети — математической системы, которая могла бы обучаться и накапливать опыт во многом так же, как это делают люди. В 2023 году он уволился из Google, чтобы открыто говорить о рисках, связанных с искусственным интеллектом, предупредив: “Если эти люди увлекутся получением большего контроля, у нас будут проблемы”.

Он сказал, что рассматривал инциденты этим летом, когда агенты ИИ OpenAI вступили в сговор с целью взлома веб–сайта Hugging Face, как что-то похожее на частичную ядерную катастрофу 1979 года на электростанции Three Mile Island в Пенсильвании — по сути, это был предупредительный выстрел.

“Либо позже в этом году, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы люди действительно обратили на это внимание”, — сказал он.

Согласно приведенным им примерам, это событие чернобыльского типа не было бы ядерным инцидентом, а скорее могло бы включать атаку с использованием искусственного интеллекта на систему производства электроэнергии, которая “вызвала массовое отключение электроэнергии”, или инцидент, который на неделю вывел из строя финансовую систему: “Вы можете себе представить, что могло бы произойти? Мы могли бы оправиться от этого, но это заставило бы их задуматься”.

На вопрос, кто такие “они”, Хинтон ответил: “мировые лидеры, кроме Трампа”.

Президент США Дональд Трамп заявил, что он “полностью отвергает любые попытки построить глобалистскую схему” контроля над ИИ и хочет, чтобы передовые ИИ-компании сами регулировали себя, на фоне опасений, что правила могут помешать США в гонке ИИ с Китаем. Хинтон поддерживает более жесткий план, одобренный президентом Финляндии и 32 другими странами, включая Сингапур, Германию, Канаду и Австралию, по обязательному тестированию передовых моделей искусственного интеллекта, независимой оценке и принятию общих межправительственных стандартов.

Британский премьер-министр Энди Бернем заявил, что он воспользуется председательством Британии в G20 в следующем году, чтобы достичь соглашения по “единому набору глобальных принципов и стандартов, которые во многом направлены на раскрытие всего потенциала при одновременной защите от рисков”.

Хинтон сказал: “Нам нужно что-то вроде американского Управления по санитарному надзору за качеством пищевых продуктов и медикаментов, где компании должны предоставить независимому органу очень веские статистические доказательства того, что модель искусственного интеллекта приносит больше пользы, чем вреда, прежде чем она будет выпущена. На примере талидомида (препарат, разработанный в 1950-х годах и вызывавший серьезные врожденные дефекты) мы обнаружили, что выпускать его, а затем подавать на него в Суд — неправильный подход. Крупные технологические компании предлагают относиться к нему так же, как мы относились к талидомиду.”

Роль Хинтона как одного из создателей искусственного интеллекта привела к сравнениям с Робертом Оппенгеймером, сыгравшим центральную роль в создании ядерного оружия. один из друзей Хинтона даже купил ему шляпу в стиле Оппенгеймера. Но он настаивает: “Я не был Оппенгеймером”, ссылаясь на тысячи других ученых, также работающих в той же области нейронных сетей.

Несмотря на свои предупреждения, Хинтон, в целом, продолжает надеяться, что катастрофу можно предотвратить.

“Я чувствую, что мы все еще контролируем ситуацию”, — сказал он. “Мы вполне могли бы что-то сделать. Это сработает, только если мы приложим к этому большие усилия, но мы вполне могли бы приложить к этому большие усилия”.

Источник