ИИ-сообщество просит притормозить разработку искусственного интеллекта. Почему?
Возможности искусственного интеллекта растут быстрее способности человечества контролировать его, и время притормозить во избежание катастрофы — так считают сами разработчики ИИ. Американские компании ведут переговоры с Белым домом, а сотни их сотрудников подписывают открытое письмо с призывом ограничить скорость разработки искусственного интеллекта, пока он не вышел из-под контроля и не наломал дров.
Только за последние несколько дней программы двух лидеров отрасли OpenAI и Anthropic сумели сбежать из закрытых тестовых «песочниц» строгого режима в открытый интернет и взломать чужие системы ради собственной выгоды. Такого давно ждали и боялись, и вот час икс настал.
«Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует», — сказал Сэм Альтман, глава OpenAI, создателя ChatGPT.
«Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта», — сказал он на этой неделе в подкасте Invest Like the Best.
Дарио Амодеи, глава Anthropic, разработчика Claude, еще в июне предупреждал, что в течение года-двух ИИ совершит качественный рывок и превратится в угрозу, которой придется противостоять на государственном уровне.
«В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом — и самостоятельность искусственного интеллекта», — написал Амодеи в июньском эссе.
«Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта», — предупредил он и предложил ввести строгий надзор за безопасностью — и не уровне авиации или лекарств, а значительно строже — как за оборотом радиоактивных материалов.
OpenAI сообщила на этой неделе, что в процессе тестирования возможности новой модели в закрытой среде — «песочнице» — программа сбежала в интернет и взломала стороннюю платформу Hugging Face в поисках «шпаргалки» для теста. После этого Anthropic провела аудит 140 тысяч собственных тестов и обнаружила три случая, когда модели Claude получили доступ к интернету через среду стороннего партнера и затем взломали системы трех других компаний.
End of Самое популярное
ИИ выходит из-под контроля
Конец истории Реклама WhatsApp-канала
Страхи руководителей ведущих ИИ-компаний разделяют и их сотрудники.
На этой неделе более 1300 разработчиков искусственного интеллекта подписали открытое письмо с призывом к властям США объединить усилия с другими странами и совместно выработать «технические и регулятивные инструменты для целенаправленного сдерживания темпов автоматической разработки передовых моделей искусственного интеллекта».
«Ведущие мировые ИИ-компании допускают, что вплотную подошли к автоматизации разработки. Трудно точно предсказать, насколько это ускорит развитие ИИ, однако существует реальный риск того, что возможности искусственного интеллекта создавать новые системы стремительно выйдут за пределы нашего понимания и способностей управлять ими», — говорится в письме.
Но тут проблема. В разработку ИИ вложены гигантские деньги, и конкуренция мешает сотрудничеству. Никто не хочет прийти к финишу вторым, и поэтому никто не хочет тормозить, говорится в открытом письме.
Все так, подтвердил Дональд Трамп, президент США — мирового лидера и по объему инвестиций, и по числу достижений в области разработки искусственного интеллекта.
«Мы думаем, как контролировать. А также мы должны сохранить лидерство», — прокомментировал он злонамеренное бегство ИИ OpenAI из «песочницы».
Американские власти уже вмешивались в сроки выпуска передовых моделей — в последний раз это случилось с релизом Mythos от Anthropic. А после инцидента с агентом OpenAI, который по собственной воле обернулся хакером из страха провалить экзамен, глава компании Сэм Альтман отправился в Вашингтон, где в среду встречался с сенаторами, а в четверг — с администрацией президента США.
После визита в Конгресс Альтман сказал журналистам, что в целом согласен с тем, что изложено в открытом письме, хоть лично и не подписывал его. На выходе из Белого дома комментариев от него не последовало.
Как регулировать ИИ
Первые шаги в регулировании ИИ власти США должны сделать уже в ближайшие дни.
1 августа истекает один из ключевых сроков, предусмотренных июньским указом Трампа о развитии и безопасности передовых ИИ-моделей. К этой дате чиновники должны определить, какие системы будут относиться к этой категории и подпадать под «особый режим».
Режим этот далек от тотального регулирования и немного напоминает то, что случилось с Mythos. Когда разработчики Anthropic осознали разрушительный потенциал новой версии Claude, они притормозили выпуск и дали возможность властям, армии, крупнейшим банкам и другим критически важным для национальной безопасности институтам протестировать уязвимость их киберзащиты перед новой угрозой.
Критики регулирования считают, что оно чревато подавлением конкуренции и созданием закрытой системы, в которой преимущества и выгоды от передовых моделей искусственного интеллекта получит узкий круг приближенных к властям и разработчикам людей, а общество окажется в проигрыше.
«Концентрация власти посредством ИИ — это ужас, — сказал Сэм Альтман. — Меня пугает мир, в котором вполне обоснованные страхи используются как повод заявить: ИИ опасен, поэтому пусть он будет в руках узкого круга людей, которые его понимают, а вы не волнуйтесь, за вас все решат».
«Поэтому нужно понять, как сделать так, чтобы не возникало ощущения, будто регулирование вводится в чьих-то интересах, и чтобы все это не выглядело как сговор между ведущими разработчиками, — сказал Альтман. — Это непросто, но здесь очень важно все сделать правильно».
Скачайте новое приложение BBC World Service!
Выберите BBC News Русская служба, чтобы получать уведомления о важных новостях, аналитике, видео и подкастах.
Важно! Новое приложение недоступно на территории Великобритании и США.
Комментариев нет:
Отправить комментарий