«Суперинтеллект» и «саморегулирование». О чем Трамп говорил с главами IT-гигантов и насколько серьезны итоги встречи?
- Осмонд Чиа
- Би-би-си
- Время чтения: 6 мин
Президент США Дональд Трамп во вторник, 29 сентября, провел встречу с руководителями ведущих технологических компаний, работающих в сфере искусственного интеллекта. Он назвал это мероприятие «выдающимся собранием» умов, которые «строят золотой век Америки».
(Оригинал этой статьи на английском языке можно прочитать здесь.)
В числе приглашенных были руководители OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google — ключевые фигуры американской индустрии искусственного интеллекта.
Встреча проходила на фоне призывов ряда экспертов и представителей технологического сектора усилить контроль над ИИ-агентами из-за опасений по поводу потенциальных рисков их дальнейшей разработки.
В день проведения встречи компания OpenAI, создатель ChatGPT, подтвердила, что не будет выпускать свою новую модель искусственного интеллекта GPT-6.1 Astra из соображений безопасности. Это решение последовало за заявлением властей Австралии о случаях взлома правительственных сайтов и систем ИИ-агентами, созданными OpenAI.
Однако после встречи Дональд Трамп в очередной раз постарался заверить общественность, что угрозы использования новых ИИ-моделей не так велики и компании, работающие в сфере искусственного интеллекта, могут позаботиться о безопасности своих продуктов.
Вот три главных итога встречи Трампа с представителями технологических компаний в Белом доме.
1. Соглашение о «саморегулировании» в сфере ИИ
После завершения встречи Трамп вместе с руководителями технологических компаний около 30 минут отвечал на вопросы журналистов.
End of Самое популярное
Конец истории Расширение для браузера Chrome - ссылка
Президент сообщил, что участники встречи подписали документ, призванный служить «средством защиты» от потенциальных рисков, связанных с ИИ. При этом, по его словам, обязательства, оговоренные в этом документе, скорее носят «моральный» характер.
Согласно условиям соглашения, текст которого был позже опубликован, компании несут ответственность за обеспечение безопасности тех технологий, которые они создают.
Компании также договорились внедрить защитные механизмы, обеспечивающие работу ИИ-моделей в соответствии с заданными принципами. Эти механизмы также должны оперативно выявлять и устранять любые неполадки.
Кроме того, они будут сотрудничать с «независимыми аудиторами» для оценки того, функционируют ли их системы искусственного интеллекта надлежащим образом. Независимые проверяющие, как предполагается, также должны будут следить за тем, чтобы ИИ-агенты и платформы не взламывали «технические системы и не получали к ним доступ несанкционированными способами».
Подписи под соглашением поставили Дональд Трамп, глава Google Сундар Пичаи, руководитель Anthropic Дарио Амодеи, глава компании Meta Platforms Марк Цукерберг, президент OpenAI Грег Брокман, Илон Маск (SpaceX) и генеральный директор Nvidia Дженсен Хуанг.
«В некотором смысле это напоминает конституцию, — сказал Трамп, говоря об этом соглашении. — Его подписали самые влиятельные люди мира, и я подписал его как президент».
Трамп добавил, что создаст совет для контроля за безопасностью инструментов искусственного интеллекта. Он не уточнил, кто войдет в его состав.
Цукерберг заявил, что это соглашение вселяет в «американский народ и клиентов уверенность в том, что технология работает» так, как было задумано, и назвал эту встречу «историческим разговором».
Амодеи назвал это способом «победить безопасно», сославшись на недавнее высказывание президента США о том, что «тот, кто выиграет гонку в сфере ИИ, победит во всем».
Однако ряд экспертов отметили, что это соглашение вряд ли сможет защитить людей от угроз, которые будут возникать по мере совершенствования ИИ-технологий.
Хосе Мигелито Энрикес, исследователь в области управления искусственным интеллектом из Наньянского технологического университета (Сингапур), отметил, что документ свидетельствует о «формирующемся консенсусе», но не отвечает на вопрос о том, должны ли разработчики ИИ нести ответственность за возникающие инциденты.
По словам профессора права Сиднейского университета Кимберли Уэзеролл, соглашение «совершенно не впечатляет» и было подписано вопреки призывам некоторых мировых лидеров и представителей отрасли принять меры для ужесточения регулирования новых ИИ-технологий.
Уэзеролл отметила, что документ, судя по всему, позволяет компаниям самим определять, что считать безопасным, и не оговаривает последствия в случае возможных упущений или нарушений в вопросе безопасности технологий.
«Это соглашение следует игнорировать как пустую отвлекающую меру», — резюмировала она.
Трамп неоднократно говорил о том, что риски, связанные с искусственным интеллектом, не так уж велики. Он утверждал это, даже несмотря на то, что ведущие компании в этой сфере призывали к усилению контроля над технологиями ИИ.
В понедельник компания OpenAI объявила об отказе от выпуска своей новейшей флагманской модели ИИ — GPT-6.1 Astra — из соображений безопасности.
Система мер безопасности компании привлекла к себе серьезное внимание после ряда громких инцидентов с участием ее технологий — в частности, случаев, когда созданные ею ИИ-модели получили несанкционированный доступ к правительственным сайтам и системам в Австралии.
Джинни Патерсон из Центра искусственного интеллекта и цифровой этики при Мельбурнском университете отметила, что ставка на саморегулирование может привести к тому, что компании будут внедрять «лишь минимальные защитные меры».
По ее словам, это соглашение внушает «крайне мало доверия», поскольку недавние случаи «выхода ИИ-агентов из-под контроля» свидетельствуют о недисциплинированном подходе компаний к вопросу безопасности.
2. Ставка на расширение сети дата-центров
Трамп вновь заявил о своей поддержке стремительного расширения сети дата-центров — важнейшей инфраструктуры, обеспечивающей работу систем искусственного интеллекта.
Планы по развертыванию дата-центров в США вызвали протесты местных сообществ по всей стране из-за опасений по поводу высокого энергопотребления такими объектами и их потенциального воздействия на окружающую среду.
Кроме того, строительство дата-центров может стать политической проблемой для Республиканской партии Трампа в преддверии ноябрьских промежуточных выборов в США.
Согласно результатам опроса, проведенного компанией Marist Poll совместно с NPR и PBS News в начале этого месяца, 65% зарегистрированных избирателей высказались против строительства дата-центров в своих регионах.
В ответ на эти опасения Трамп заявил, что технологические компании будут стараться сделать так, чтобы люди были «довольны» строительством центров обработки данных.
«Эти крупные, влиятельные, очень богатые и очень умные компании внесут огромный вклад в развитие местных сообществ», — сказал Трамп журналистам.
Ранее Трамп писал в социальных сетях, что единственная причина, по которой местные сообщества могут выступать против дата-центров, — это если они «хотят остаться отсталыми и бедными».
Дженсен Хуанг из компании Nvidia, производящей ИИ-чипы, необходимые для работы систем искусственного интеллекта, после встречи с Трампом заявил, что центры обработки данных следует называть «фабриками суперинтеллекта».
Эти объекты способствуют «реиндустриализации Соединенных Штатов» и создают рабочие места в различных секторах экономики, добавил он.
3. Теперь это «суперинтеллект»
Кроме того, во вторник Трамп подписал указ, предписывающий правительственным ведомствам и агентствам США начать использовать термины «SI» (SI — аббревиатура от Super Intelligence) и «Super Intelligence» («суперинтеллект») и отказаться от использования термина «искусственный интеллект».
Согласно указу, термин SI должен заменить AI (ИИ, искусственный интеллект) в официальной переписке, в публикациях на сайтах, в отчетах и других видах коммуникации.
В указе говорится, что по мере совершенствования ИИ-технологий, новые возможности отражают не просто развитие «искусственного интеллекта», а «новую эру суперинтеллекта».
Выступая на прошлой неделе на Генеральной Ассамблее ООН, Трамп отметил, что слово «искусственный» (artificial) придает несколько негативный смысл термину.
Некоторые лидеры технологической отрасли, в том числе Цукерберг и Маск, а также другие лица из окружения президента, уже начали использовать термин «суперинтеллект».
По словам Джинни Патерсон, поскольку представители технологического сектора согласились с этим термином и его используют, то США вполне могут задать новый стандарт в наименовании технологии.
Однако после выступления Трампа в ООН некоторые эксперты подчеркнули, что термин «суперинтеллект» уже используется в науке, но имеет совсем другое значение — разум, который превосходит человека во всем. Они отметили, что использование термина в значении, предложенном Трампом, может создать путаницу.
Скачайте новое приложение BBC World Service!
При первом открытии приложения выберите «BBC News Русская служба» и получайте уведомления о важных новостях, аналитике, видео и подкастах.
Важно: новое приложение недоступно на территории Великобритании и США.
Комментариев нет:
Отправить комментарий