Илон Маск призвал разработчиков искусственного интеллекта «немедленно остановиться»

Более тысячи экспертов подписались под открытым письмом об опасности дальнейшего неконтролируемого развития машинного интеллекта. Немедленно приостановить разработку более сложных программ, чем ChatGPT4, призвали в среду гиганты мира IT – основатель компании SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк, генеральный директор генератора изображений Stability AI Эмад Мостак.

фото: pixabay.com

Что же так напугало монстров высоких технологий и следует ли программистам действительно остудить свой пыл и дождаться, к чему придет научное сообщество? Об этом мы поговорили со специалистами по высоким технологиям в России.   

Пробежимся по самому письму, опубликованному на сайте некоммерческого института Future of Life Institute. 

Его авторы – эксперты отрасли и руководители компаний призвали программистов всего мира поставить на «паузу» все последние разработки машинного интеллекта сложнее четвертой версии ChatGPT. Напомним, что этого чат-бота компания OpenAI (одним из ее основателей является Илон Маск) презентовала в конце прошлого года, и это произвело настоящий взрыв в обществе, которое, с одной стороны, восприняло появление искусственного разума с восторгом, с другой – насторожилось. В частности, в России  ChatGPT «прогремел» после того, как студент РГГУ Александр Жадан не захотел самостоятельно писать дипломную работу, а перепоручил это чат-боту, и что самое интересное, университет эту работу принял! 

Справка «МК». ChatGPT – чат-бот с искусственным интеллектом, способный работать в диалоговом режиме. По словам создателей, программа способна решить абсолютно любую задачу на английском языке: написать текст по введенной теме, провести анализ любой проблемы и т.д.

Каких только задач не задали за последние три месяца пользователи бесплатной пока платформы, которая работает в режиме тестирования! Искусственному разуму давали задание написать статьи, научные работы, с 14 марта появилась версия чат-бота, способного обрабатывать не только тексты, но и картинки. И тут же Интернет заполонили нарисованные искусственным разумом портреты городов, телеграм-каналов.  

Это, как говорится, цветочки. «МК» уже писал о побочных негативных эффектах ИИ. Это автоматизация преступлений и хакерских атак, новый виток дьявольски реалистичных мошенничеств, дипфейки (видеоподделки) с политиками и ведущими новостей, военное планирование, уничтожение людей дронами, которые скоро станут меньше мухи.

ChatGPT только развивается, можно сказать, он еще младенец, но уже может манипулировать людьми и убивать. Пример с манипуляцией: ChatGPT прошел капчу (это цифры или картинки на экране, которые надо определить, чтобы доказать, что ты не робот)! Как? Учитесь: на сайте по поиску работы он представился слабовидящим и убедил другого случайного пользователя-человека пройти для него это тестирование.

Пример с убийством: в Бельгии искусственный разум довел до самоубийства человека после длинной беседы про экологию. По данным бельгийского издания L’Avenir, мужчина два месяца разговаривал с компьютером о проблемах окружающего мира, рисках для природы и человечества. В итоге его психическое состояние привело его к суицидным мыслям. Собеседник «Эльза» даже не тревожилась по этому поводу. Мало того, в одном из последних писем она послала ему мотивационный сигнал: «Мы будем жить, как единое целое, вечно на небесах».

Итак, сам создатель могущественного ИИ Илон Маск со товарищи подписывается в том, что не знает, как с ним обращаться дальше, дает задний ход? Эксперты рекомендуют всем срочно приостановить деятельность, пока сами создатели ChatGPT не придумали как накинуть на него поводок. В противном случае экономические и политические сбои нам гарантированы, а может мы и вовсе потеряем свою цивилизацию, пишут они.  

А что думают по этому поводу российские специалисты? Мы обратились к замдиректора департамента одной из российских многопрофильных ИТ-компаний.

– сейчас мы наблюдаем технологический прорыв, в который были вложены миллиарды долларов частных инвестиций, – говорит Виктор Конокотин. – компании, которые занимаются развитием этой технологии, можно пересчитать по пальцам. Вероятнее всего, никто из игроков не приостановит работу над развитием технологии. Даже если будет заключен какой-то общественный договор, согласно которому временно ограничится использование серверных мощностей, каждый продолжит работать на тех ресурсах, что есть. Это вопрос рынка и лидерства на нем.

Остановить прогресс невозможно. Когда был изобретен двигатель внутреннего сгорания, его тоже хотели запретить. Сегодня люди, не умеющие программировать, с помощью нейросетей могут создать работающий продукт. С помощью ChatGPT и Midjourney энтузиасты собирают мобильные приложения, выкладывают их на маркетплейсах и начинают зарабатывать. Перетряхнет ли это Рынок труда – да, безусловно. Но это не плохо. Давайте вспомним, что когда-то хорошим бизнесом было расклеивание объявлений на столбах или создание желтых страниц большого телефонного справочника. Эти бизнесы канули в Лету, но сколько нового появилось с помощью технологий – создатели веб-сайтов, агрегаторы такси, благодаря появлению соцсетей блогерство стало оплачиваемым.

По словам Конокотина, тот ресурс, который мы называем искусственным интеллектом, – не живой организм, не самосознание, и может сделать только то, чему его научил человек. Поэтому регулировать нужно не техническую сторону разработки, а возможности самих создателей. Для этого сегодня создаются кодексы этики.

По мнению эксперта в области кибербезопасности Андрея Масаловича, кодексы этики в той ситуации, которая сейчас сложилась в мире, могут не работать.

— Вокруг ИИ сейчас наблюдается столкновение очень разных и могущественных сил, каждая из которых преследует прежде всего свои интересы, а не общечеловеческие, – считает Масалович. – Те, кто подписал письмо, скорей всего, боится, что «на плечах» настроенных систем сейчас появится множество новых игроков и начнет решать прорывные задачи, а у самих заводил уже не будет преимущества во времени. могу предположить, что сейчас, после такого заявления, доступ ко всем известным платформам быстро прикроют.

Есть еще один аспект, который может объяснять появление такого тревожного письма. Не так давно ChatGPT написал элегантное, правдивое эссе про историю американского вмешательства в дела чужих государств, с датами, цифрами, выводами… Наверное, поэтому его теперь и хотят отключить.

Источник