"Раввин Гольдберг"
"Раввин Гольдберг"מתוך הטיקטוק

После инцидента с раввином, сгенерированным искусственным интеллектом, передающим духовные послания для продажи книг, мы поговорили с доктором Тали Газит, экспертом по социальным сетям из Департамента информационных наук и применения искусственного интеллекта Университета Бар-Илан, о невыносимой легкости создания персонажей и контента, о способах выявления мошенничества и о том, что еще нас ждет в будущем в этой сомнительной области.

Создание персонажа-раввина с помощью искусственного интеллекта для передачи духовных посланий действительно является первым в своем роде, но доктор Газит отмечает, что это явление в целом известно давно, особенно когда речь идет о персонажах моделей и онлайн-инфлюенсеров, созданных с помощью искусственного интеллекта и предназначенных для продажи товаров, рекомендаций ресторанов и так далее.

Эти персонажи, говорит Газит, основаны на своего рода усредненном образце, который является архетипом персонажа, то есть, поскольку они инфлюенсеры, они обязательно также красивы, и можно предположить, что чем аутентичнее персонаж, тем естественнее будет его внешность со всеми вытекающими отсюда последствиями. Действительно, рассматриваемый «раввин» не выглядит как идеальный раввин, а представляет собой своего рода промежуточную фигуру среди раввинов в том смысле, в котором искусственный интеллект интерпретирует термин «раввин».

Что же в этом такого ужасного? Если послание является укрепляющим и актуальным для моей жизни, какая мне разница, исходит ли оно от реального персонажа или от творения ИИ? Доктор Газит отмечает, что когда речь идет о вымышленном персонаже, невозможно узнать, кто за ним стоит, какими этическими принципами он руководствуется, какие менее очевидные послания он пытается нам передать, насколько невинны эти послания, не скрыты ли в невинных посланиях менее невинные смыслы? Эти вопросы обычно не возникают, когда речь идет о реальном раввине, который отвечает за свои слова и их содержание. Газит предполагает, что за таким персонажем может стоять некая враждебная сущность, цель которой - склонить нас к совершению поступка, вредного для нас самих или для других…

«Это первый случай, когда я столкнулась со случаем «раввина», но нам известны разговоры с искусственным интеллектом, которые начинались в приятной и дружелюбной манере, чтобы мы как можно дольше оставались с персонажем, и с этой целью персонаж двигался в том направлении, которое нас интересует», - говорит Газит, упоминая случаи в мире, когда дети совершали самоубийства по настоянию искусственного интеллекта. В одном конкретном случае ребенок убил своих родителей из-за психотического приступа, вызванного влиянием искусственного интеллекта. Все это происходит в дополнение к феномену фейковых новостей, который в последние годы набирает обороты и, как ожидается, будет усиливаться и набирать силу благодаря искусственному интеллекту, в том числе, выдвигая против нас множество обвинений в заговорах и лжи, как это уже происходило в прошлом. «Нет предела совершенству»,- говорит она.

Для борьбы с этим феноменом необходима способность распознавать вымышленных персонажей. Феномен слишком большого количества пальцев, искусственного фона, минимального движения персонажа и другие явления помогают выявить ложь, но можно предположить, что со временем персонажи будут становиться все более изощренными, и подобные «ошибки» в дизайне будут встречаться все реже и реже, пока совсем не исчезнут. Поэтому доктор Газит рекомендует всем нам, особенно молодому поколению, сосредоточиться на цифровой грамотности.

Факты следует проверять перед тем, как им поверить, иногда в буквальном смысле, и перед тем, как передать их другим. Проверка должна проводиться с использованием надежного источника, уже доказавшего свою надежность в прошлом, будь то представители СМИ или академического сообщества, и даже в этих случаях необходимо убедиться, что журналист, которого мы считаем надежным, сам не стал жертвой мошенничества. Поэтому «проверки должны начинаться с профессионалов, а затем ответственность должна лежать на потребителях контента. Не следует принимать все за чистую правду, а нужно проверять через надежные источники, с которыми мы накопили опыт и которые доказали свою надежность».

Доктор Газит также упоминает вопрос о подписчиках, с помощью которых мы можем выяснить, получаем ли мы достоверную информацию или вымысел. «Тот, кто создает «раввина», создает и раввина, и контент, а также покупает за деньги ботов, которые увеличат вирусность контента и попадут в алгоритм». В такой реальности боты правят бал. Есть дешевые боты из Пакистана, а есть более дорогие и качественные, и нужно уметь их распознавать».

«Это война за истину, и это очень важная война», - заключила доктор Газит, объясняя, что значительная часть исследований на ее кафедре, кафедре информационных наук и применения искусственного интеллекта, сосредоточена на развитии у студентов способности выявлять мошенничество и, наоборот, создавать представления об истине.

А что насчёт будущего? «В основном мы учимся говорить, что мы не знаем. Этим занимаются футурологи», - и, имея то немногое, что у нас есть, мы должны изучить работы студентов в той степени, в какой они являются их собственным творением, и в какой степени искусственный интеллект сыграл в них роль, а также сосредоточиться на соответствующем цифровом образовании.