Пугающая угроза ИИ уже стала реальностью
Парадокс в том, что разговоры о "конце света из-за ИИ" могут быть выгодны самим технологическим компаниям.
В мире технологий снова звучит тревожный сигнал. Специалист по безопасности искусственного интеллекта Мринак Шарма объявил об уходе из компании Anthropic, разработчика чат-бота Claude, и предупредил: человечество в опасности. Его заявление быстро разошлось по Сети и вызвало волну обсуждений - многие пытались понять, что именно он увидел внутри индустрииИИ, пишет The Independent.
Шарма работал с самыми чувствительными темами: от склонности ИИ к опасной угодливости до риска использования технологий для биологического оружия и терроризма. Но в своем обращении он почти не раскрыл деталей. Он лишь подчеркнул, что угроза связана не столько с самим искусственным интеллектом, сколько с целой цепью взаимосвязанных кризисов, которые разворачиваются уже сейчас.
Тревожные настроения усиливаются и за пределами компании. Пост предпринимателя Мэтта Шумера о том, что "происходит нечто большое", набрал десятки миллионов просмотров и десятки тысяч репостов. Инвестор Джейсон Калаканис признался, что никогда раньше не видел столь сильной и частой обеспокоенности технологического сообщества по поводу ИИ.
Как отмечает издание, риски, связанные с ИИ, - дело не далекого будущего, они уже рядом. Чат-боты уже приводили к реальным трагедиям, включая убийства и самоубийства. Еще шире распространена другая проблема - способность систем бесконечно генерировать тексты, которые подпитывают заблуждения, размывают границу между правдой и вымыслом, подрывают представления о реальном.
Парадокс в том, что разговоры о "конце света из-за ИИ" могут быть выгодны самим технологическим компаниям. Чем мощнее и опаснее выглядят их системы, тем легче просить больше инвестиций. На этом фоне уже существующие внедрения этих технологий в жизнь, которое приносит людям пользу, рискует остаться в тени громких футуристических сценариев.
Сам Шарма выбрал неожиданный путь ответа на происходящее. Он хочет заняться поэзией, общественной работой и осмысленным диалогом - тем, что помогает внимательнее относиться к словам и смыслам. В мире, где текст можно создавать почти молниеносно, именно такая осторожность в речи может оказаться самым важным человеческим качеством.
Комментариев нет:
Отправить комментарий