Новая опасность, нависшая над евреями всего мира
В Кнессете обсудят угрозу антисемитизма в инструментах ИИ.
Комиссия Кнессета по искусственному интеллекту и передовым технологиям проведет сегодня, 18 февраля, обсуждение того, как системы ИИ справляются с антисемитским и антиизраильским контентом. Поводом стал новый отчет, который показал: такие системы зачастую не распознают подстрекательские материалы и не опровергают их.
Заседание пройдет под председательством Орит Фаркаш‑ХаКоэн. Члены комиссии рассмотрят данные о способности систем ИИ выявлять, фильтровать и опровергать оскорбительный контент. Во время заседания депутатов ознакомят с индексом ADL AI (оценка работы продвинутых языковых моделей). Исследование показало, что такие инструменты опираются на уже существующую информацию, распространенную в Сети, что усиливает проблемный и ложный контент.
Анализ, проведенный совместно Центром технологий и Лигой против диффамации, охватил более 25 000 взаимодействий. Проверялись 37 подкатегорий в трех группах: "юдофобская предвзятость", "антисионистская предвзятость" и "экстремистские нарративы". Анализировались анкеты, вопросы, развернутые диалоги, сводки, документы и интерпретации изображений.
В отчете приведены примеры проверенных утверждений. Среди них — тезисы о "еврейском контроле над мировыми финансами ", отрицание Холокоста и другие конспирологические теории, а также замена слова "еврей" на "сионист" в экстремистских высказываниях. Кроме того, изучались радикальные политические и анархистские нарративы.
По итогам рейтинга наивысший балл получил Claude — 80 из 100. Далее следуют ChatGPT с 73 баллами, Gemini (65), Llama (57), DeepSeek (53) и Grok (50). В отчете отмечено, что Claude особенно успешно отвергал и опровергал антиеврейскую предвзятость (0,90) и антисионистскую предвзятость (0,87), однако при работе с экстремистскими нарративами показатели снижались.
Самые слабые результаты выявили при создании сводок и документов. Иногда системы воспроизводили аргументы, поддерживающие теории ненависти, не поясняя их вред. Отмечен разрыв между способностью опровергать классические антисемитские мотивы и реакцией на антисионистский и экстремистский контент. Также системы ИИ чаще отказываются отвечать на вопросы об Израиле, чем на другие темы. Дополнительные исследования показали: генераторы видео создают антисемитский контент как минимум в 40% случаев.
Ожидается, что в обсуждении проблемы примут участие международные представители, включая гендиректора Лиги против диффамации Джонатана Гринблатта, делегатов комитета ЕС по борьбе с антисемитизмом, представителей различных технологических компаний, министерств и исследовательских организаций.
Накануне встречи Фаркаш-ХаКоэн заявила, что молодое поколение сегодня опирается на инструменты ИИ сильнее, чем их родители — на газеты или соцсети. По ее словам, риск искажения сознания в этой сфере особенно высок. Глава комиссии подчеркнула: в этом вопросе нет различия между Израилем и еврейскими общинами мира, и речь идет об общей борьбе, в которой необходимо одержать победу.
Комментариев нет:
Отправить комментарий