Приведет ли искусственный интеллект к исчезновению человечества? Апокалиптические предсказания его разработчиков
Подпишитесь на нашу рассылку ”Контекст”: она поможет вам разобраться в событиях.
Бастующие сценаристы у здания Netflix в 2023 году. Они требуют, чтобы Netflix заявил, что не будет в будущем пользоваться услугами ИИ
"Искусственный интеллект может привести к исчезновению человечества", - с таким апокалиптическим предупреждением выступила группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind.
"Уменьшение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война", - говорится в заявлении, опубликованном на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско.
Это - весь текст заявления, которое его авторы сознательно сделали максимально коротким. "Мы не хотели публиковать список из 30 возможных рекомендаций, чтобы … не разбавлять нашу мысль", - сказал исполнительный директор организации Дэн Хендрикс.
Заявление уже подписали более 350 руководителей, исследователей и инженеров в области искусственного интеллекта, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодей из Anthropic.
"Оставь надежду всяк сюда входящий". Выставка в Сан-Франциско, на которой представлены смешные или пугающие произведения искусства, созданные искусственным интеллектом
Подписи под документом также поставили получившие премию Тьюринга за свою работу над нейронными сетями Джеффри Хинтон и Йошуа Бенджио, которых часто называют крестными отцами ИИ. В начале мая Хинтон даже уволился со своего поста в Google, чтобы получить возможность свободно говорить о потенциальном вреде технологий без оглядки на профессиональную этику.
Все не так страшно?
Однако далеко не все эксперты по искусственному интеллекту разделяют эти алармистские настроения. Например, Ян Лекун, вице-президент и ведущий AI-исследователь корпорации Meta (объявленной в России "экстремистской организацией"), считает их сильно преувеличенными. "Я думаю, что масштабы проблемы уравнивания ИИ [с человеческим интеллектом] были смехотворно преувеличены, а наша способность решить ее - сильно недооценена", - написал он.
С ним согласны и другие эксперты, которые полагают, что страхи перед ИИ во-первых, нереалистичны, а во-вторых, отвлекают внимание от реальных проблем. "Ныне существующий ИИ не настолько развит, чтобы подобные опасения материализовались", - сказал Би-би-си профессор Принстонского университета Арвинд Нараянан.
Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.
Автоматизированные линии упаковки уже давно стали реальностью - и действительно сократили рабочие места
Старшая научная сотрудница Оксфордского института этики в области искусственного интеллекта Элизабет Реньерис сказала Би-би-си, что ее больше беспокоит то, что "развитие ИИ может увеличить масштабы автоматизированного принятия решений… и привести к распространению дезинформации".
Не первое предупреждение
ИИ постепенно проникает и в графити. Президент компании Microsoft еще в 2021 году предупредил, что жизнь, изображенная в книге Джорджа Оруэлла "1984", "может стать реальностью в 2024 году, если законодатели не защитят нас от искусственного интеллекта
Заявление, опубликованное на сайте Центра безопасности ИИ - не первое предупреждение подобного рода. В марте ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надежные протоколы безопасности.
Они опубликовали открытое письмо, в котором подробно описывали потенциальные, с их точки зрения, риски, которыми может сопровождаться развитие искусственного интеллекта. Среди них были названы распространение дезинформации, сокращение рабочих мест, в том числе и в тех областях, которых приносят радость творчества, и в целом - возможность полной потери контроля над развитием человеческой цивилизации.
Законодательные рамки
Никто не возражает против ИИ на фермах, но когда речь заходит о вооружениях - это другое дело
Законодатели ЕС уже разрабатывают европейский закон об искусственном интеллекте, аналогичные ограничения рассматриваются и в США.
Европейские законодатели хотят разработать такие законы, которые бы не допускали дискриминационного применения ИИ, например, при приеме на работу, или потенциально могли бы привести к риску для здоровья и безопасности граждан.
При этом скептики считают, что любые ограничения бессмысленны до тех пор, пока они не получат глобального распространения. Учитывая, что сама природа интернета не предполагает соблюдения границ, опасные проявления ИИ, разработанные, например, в России, или Китае, все равно могут привести к негативным последствиям для граждан Европы или США.
ИИ - шпаргалки
Компания OpenAI выпустила ChatGPT в ноябре прошлого года
Менее апокалиптические, но вполне реальные нарекания вызывает чатбот ChatGPT, который способен писать тексты и давать точные ответы на заданные вопросы.
В его преимуществах убедились, например, студенты и школьники, хотя и преподаватели тоже не дремлют и уже в ряде случаев научились распознавать работы, написанные искусственным интеллектом.
По словам американского юриста Тайлера Майклза, "непосредственной угрозой являются не роботы-убийцы, а работоубийцы. Особому риску подвергаются те, кто зарабатывает на жизнь, отвечая на телефонные звонки, работая за прилавком или иным образом обслуживая клиентов".
Впрочем, эта эволюция идет уже давно, и ее вряд ли удастся остановить, тогда как авторов заявления беспокоят более серьезные проблемы. С другой стороны искусственная приостановка научных исследований еще ни разу не увенчивалась успехом. Скорее всего, наиболее разумным решением будет законодательное регулирование.
Комментариев нет:
Отправить комментарий