Гонку за высокими технологиями назвали угрозой для человечества: утянет на дно

профессор Массачусетского технологического института выступил с предупреждением, что бесконтрольное развитие фирм, использующих искусственный интеллект, создают угрозу для будущего общества. В последние годы отмечается, что рост ИИ приобретает экспоненциальный характер.

фото: соцсети

Технологические компании ставят под угрозу будущее человечества из-за неконтролируемого развития искусственного интеллекта. эксперт призвал 26 октября, что надо немедленно остановить «гонку на дно» и поставить на паузу все программы по созданию мощных систем ИИ.

профессор физики и исследователь ИИ в Массачусетском технологическом институте Макс Тегмарк в разговоре с The Guardian призвал обратить внимание, что сейчас мир «наблюдает за гонкой на дно, которую нужно остановить». Тегмарк подписал открытое письмо, опубликованное в апреле 2023, в котором призвал к шестимесячному перерыву в гигантских экспериментах с ИИ. Это обращение подписали тысячи деятелей технологической отрасли, включая Илона Маска и соучредителя Apple Стива Возняка.

«Нам срочно нужны стандарты безопасности ИИ, чтобы это превратилось в гонку на вершину. ИИ обещает много невероятных преимуществ, но безрассудное и неконтролируемое развитие все более мощных систем без надзора ставит под угрозу нашу экономику, наше общество и нашу жизнь. Регулирование имеет решающее <span class="wp-tooltip" title="Обобщенная форма отражения индивидом общественно-исторического опыта Запечатлено в схемах действий понятиях социальных ролях нормах и ценностях Система значений индивида обусловливает управление процессами его деятельности" для безопасных инноваций, чтобы горстка корпораций с искусственным интеллектом не ставила под угрозу наше общее будущее» — заявил Тегмарк в разговоре с британским изданием.

В документе 23 эксперта по ИИ, включая двух современных «крёстных отцов» технологии, призвали, что правительства должны позволить прекратить разработку будущих моделей. Главный аргумент учёных — мощные системы ИИ следует разрабатывать только тогда, когда будет уверенность, что их эффект будет положительным, а риски управляемыми.

Директор Института технологий и общества Шварца Рейсмана при Университете Торонто Джиллиан Хэдфилд раскрыла, что в течение следующих 18 месяцев будут построены модели ИИ, которые будут во много раз мощнее, чем те, которые уже работают.

«Есть компании, которые планируют обучить модели с превышением количества вычислений в 100 раз, чем существует сейчас. И, по сути, нет никаких правил о том, что они смогут сделать с этими моделями», — предупреждает она.

Неограниченная разработка искусственного общего интеллекта — системы, которая может выполнять широкий спектр задач на уровне человеческого интеллекта или выше — является ключевой проблемой, которую призывают решить ученые и требуют жесткого регулирования и лицензирования правительств.

Почему же стоит контролировать развитие искусственного интеллекта? Появляется все больше и больше компаний, которые бесконтрольно могут «выпустить» ИИ в мир. В прошлом месяце Amazon заявил, что инвестирует до 4 миллиардов долларов в Anthropic, стартап, который планирует собрать данные об облачных сервисах Amazon. Сделка Amazon-Anthropic рассматривается как самый важный шаг гиганта электронной коммерции, чтобы догнать Microsoft и Alphabet, которые являются лидерами в области искусственного интеллекта.

Microsoft инвестировал 13 миллиардов долларов в OpenAI, создателя ультрапопулярного чат-бота ChatGPT и генератора изображений DALL-E 3, после первоначальных инвестиций в 1 миллиард долларов в 2019 году.

Компания Google не отстаёт от своих конкурентов и инвестировала 300 миллионов долларов в Anthropic и вложила ту же сумму в стартап AI Runway. Такой шаг компания сделала из-за того, что находится в процессе интеграции ИИ в свои самые популярных в мире программ: Google Search, Gmail, Google Maps, Google Docs.

«Мы видим, что это самый важный способ выполнить нашу миссию: организовать мировую информацию и сделать ее универсально доступной и полезной», — заявил исполнительный директор Alphabet Сундар Пичаи в феврале 2023.

Эти цифры не являются всей суммой инвестиционного бума в области искусственного интеллекта. Goldman Sachs опубликовала в августе этого года отчет, в котором предсказывается, что к 2025 будут крупномасштабные преобразования бизнеса и общества с помощью генеративного ИИ и общее повышение глобальной производительности и ВВП.

«Прорывы в этой области могут привести к радикальным изменениям в мировой экономике», — говорится в отчёте.

Ожидается, что Инвестиции в ИИ будут сосредоточены в четырех ключевых бизнес-сегментах: компании, которые обучают и разрабатывают модели ИИ; центры обработки данных для запуска приложений ИИ; компании, которые разрабатывают программное обеспечение для запуска приложений с поддержкой ИИ; корпоративные конечные пользователи, которые платят за это программное обеспечение и услуги облачной инфраструктуры.

Согласно данным, собранным для Bloomberg фирмой по обработке данных PitchBook, инвестиционный бум сравнивается с падением финансирования технологических стартапов на 31% по всему миру за тот же период времени.

Ранее во вторник, 24 октября, глава Google DeepMind Демис Хассабис призывал к удвоенному регулирования, чтобы подавить опасения по поводу технологий с уровнем интеллекта выше человеческого.

Хассабис утверждает, что мир должен немедленно действовать в ответ на опасность технологии, которые включают в себя помощь в создании суперинтеллектуальными системами биологического оружия.

«Мы должны относиться к рискам ИИ так же серьезно, как и к другим крупным глобальным проблемам, таким как изменение климата. Международному сообществу потребовалось слишком много времени, чтобы скоординировать эффективный глобальный ответ на это, и сейчас мы живем с последствиями этого. Мы не можем позволить себе такую же задержку», — обратился к техническому сообществу исполнительный директор подразделения искусственного интеллекта.

Источник