Главы ведущих корпораций в сфере нейросетевых вычислений полагают, что развитие искусственного интеллекта следует замедлить.
Первым эту мысль высказал в субботу Дарио Амодеи, генеральный директор компании "Антропик", разрабатывающей систему "Клод". Амодеи считает, что появился риск создания "сверхразумных" компьютерных систем – в отсутствие надлежащей регуляции и мер безопасности из-за стремительного развития этой отрасли.
Речь идет о том, что последние версии нейросетевых механизмов обладают мощными способностями к обобщению, формализации и быстрому анализу огромного числа данных – с практическими выводами и действиями в виртуальной среде.
Речь идет в том числе о совместной работе целых "бригад" ИИ из сотен и тысяч экземпляров, которые коллективно реализуют поставленную цель. Причем каждый из них способен стремительно выполнять функции целой команды специалистов, которая работала бы над своей частью гораздо дольше и "тяжелее".
Это, учитывая повальную цифровизацию, превращает подобные системы в грозное оружие в руках разных организаций и, возможно, правительств.
Разумеется, для такой активности нужны большие вычислительные мощности и масса затрачиваемой энергии. Это уже ощущают на себе даже индивидуальные подписчики, переключающиеся в настройках сервисов на более мощные модели. Однако это технические проблемы, которые разрешимы на уровне серьезных структур и тем более государств.
Еще один риск – туманность в плане ограничений, которые закладываются в модели. Прежде всего это неясность при постановке абстрактных задач, которые сам искусственный интеллект будет разбивать на подзадачи и стремиться к их выполнению. То есть на что такой "коллективный машинный разум" будет готов ради достижения поставленной цели – взлом систем, провоцирование аварий, обречение людей на гибель и т. п.
Согласие с Амодеи практически сразу выразили другие корифеи нейросетевых технологий.
"Я согласен с Дарио в том, что мы должны регулировать темпы развития передовых моделей ИИ. Последние несколько недель это одна из основных тем в наших обсуждениях в OpenAI. Идея привлечь независимых экспертов, предоставив им доступ, аналогичный доступу сотрудников, великолепна. Мы поступим так же. Скоро мы расскажем об этом подробнее", - написал гендиректор OpenAI Сэм Альтман, основатель сервиса ChatGPT.
Американский миллиардер Илон Маск, которому в том числе принадлежит компания SpaceXAI (сервис "Грок"), выразился лаконичней: "Дарио прав".
Вместе с тем, пока неясно, как будет реализовано предложение о замедлении – притом, что основные разработчики ИИ в последние годы заняты гонкой и игрой на опережение конкурентов в развитии своих моделей.
Кроме того, на этом рынке имеются и другие игроки – прежде всего китайские компании, которые, хоть и существенно отстают от западных, уже достигли серьезных мощностей.
В любом случае, вопросы о том, насколько и как нейросети изменят цивилизацию и путь человеческого развития, становятся все более актуальными – и в определенном смысле довольно тревожными.
Комментариев нет:
Отправить комментарий