«Крестный отец искусственного интеллекта» рассказал об опасности своего детища

Джеффри Хинтон, которого называют “крестным отцом искусственного интеллекта”, подтвердил, что он оставил свою должность в Google на прошлой неделе, чтобы высказаться об «опасностях» технологии, которую он сам помогал разрабатывать.

фото: pixabay.com

Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, которые используются во многих современных продуктах, рассказывает CNN. В течение десяти лет он работал в режиме неполного рабочего дня в Google, занимаясь разработкой искусственного интеллекта технологического гиганта, но с тех пор у него появились опасения по поводу технологии и своей роли в ее продвижении.

“Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой”, — сказал Хинтон газете The New York Times.

В Твиттере в понедельник Хинтон сообщил, что покинул Google, чтобы свободно говорить о рисках искусственного интеллекта, а не из-за желания конкретно критиковать Google.

“Я ушел, чтобы поговорить об опасностях искусственного интеллекта, не задумываясь о том, как это повлияет на Google”, — написал Хинтон в твиттере.

Джефф Дин, главный научный сотрудник Google, сказал, что Хинтон “совершил фундаментальные прорывы в области искусственного интеллекта”, и выразил признательность Хинтону за “десятилетний вклад в Google”.

“Мы по-прежнему привержены ответственному подходу к ИИ”, — сказал Дин в заявлении, предоставленном CNN. “Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации”.

Как отмечает CNN, решение Хинтона уйти из компании и высказаться о технологии было принято на фоне того, что растущее число законодателей, правозащитных групп и технических инсайдеров подняли тревогу по поводу потенциального появления нового поколения чат-ботов на базе искусственного интеллекта для распространения дезинформации и смещения рабочих мест.

Волна внимания, обрушившаяся на ChatGPT в конце прошлого года, помогла возобновить гонку вооружений среди технологических компаний по разработке и внедрению аналогичных инструментов искусственного интеллекта в свои продукты. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, но и IBM, Amazon, Baidu и Tencent работают над аналогичными технологиями.

В марте некоторые видные деятели в сфере технологий подписали письмо, призывающее лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, ссылаясь на “серьезные риски для общества и человечества”. Письмо, опубликованное Институтом будущего жизни, некоммерческой организацией, поддерживаемой Илоном Маском, пришло всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, которая поддерживает ChatGPT. В ранних тестах и демоверсии компании GPT-4 использовался для составления судебных исков, сдачи стандартизированных экзаменов и создания рабочего веб—сайта по нарисованному от руки эскизу.

В интервью The New York Times Хинтон повторил опасения по поводу потенциала искусственного интеллекта для устранения рабочих мест и создания мира, в котором многие “больше не смогут знать, что является правдой”. Он также указал на ошеломляющие темпы продвижения, намного превосходящие то, что он и другие ожидали.

“Идея о том, что этот материал действительно может стать умнее людей — в это верили немногие, — сказал Хинтон в интервью. – Но большинство людей думали, что это будет далеко не так. И я думал, что это будет далеко не так. Я думал, что до этого еще 30-50 лет, а то и больше. Очевидно, я больше так не думаю”.

Еще до того, как уйти из Google, Хинтон публично говорил о потенциале искусственного интеллекта приносить как вред, так и пользу.

“Я верю, что быстрый прогресс искусственного интеллекта преобразит общество способами, которые мы не до конца понимаем, и не все последствия будут хорошими”, — сказал Хинтон в своей вступительной речи в 2021 году в Индийском технологическом институте Бомбей в Мумбаи. Он отметил, как искусственный интеллект улучшит здравоохранение, одновременно создавая возможности для смертоносного автономного оружия: “Я нахожу эту перспективу гораздо более непосредственной и гораздо более пугающей, чем перспектива захвата власти роботами, до которой, я думаю, очень далеко”.

Источник