Китай разрабатывает технологию на основе ИИ для выявления потенциальных диссидентов — NYT
Проект напоминает антиутопическую научную фантастику.
Китайская компания пытается разработать технологию на основе искусственного интеллекта, которая позволит авторитарным правительствам не только следить за диссидентами, но и потенциально предсказывать, кто может стать инакомыслящим в будущем, пишет NYT.
Этот проект, который, судя по всему, находится на стадии исследования, напоминает антиутопическую научную фантастику и дает представление о мире, в котором авторитарное государство способно принимать меры против своих граждан еще до того, как они начнут выражать публичное несогласие.
Китайская компания Geedge Networks продает коммерческую версию "Большого брандмауэра" — программного обеспечения для наблюдения и цензуры, которое Китай использует для контроля за деятельностью в интернете. Эти инструменты позволяют правительствам отслеживать интернет-трафик и сигнализировать, когда кто-то пытается обойти традиционную интернет-цензуру.
Но, согласно утечке документов компании, фирма работает над новыми разработками, которые используют искусственный интеллект для анализа данных о местонахождении и использовании интернета, чтобы предсказать, кто может сделать или сказать что-то критическое в адрес правительства, по данным исследователей из Университета Вандербильта.
Такая технология, если ее усовершенствовать, предоставит авторитарным правительствам мощный инструмент для борьбы с "врагами".
Сама мысль о том, что авторитарное правительство может использовать искусственный интеллект для подавления инакомыслия, уже вызывает серьезное беспокойство. Но, по мнению некоторых представителей отрасли, использование ИИ для прогнозирования инакомыслия задолго до того, как человек успеет предпринять какие-либо действия, превратилось в настоящий критический сценарий.
"Вот что происходит, когда массовая слежка сочетается с искусственным интеллектом. Без системы сдержек и противовесов то, что Китай делает со своими гражданами, является анонсом того, что станет возможным в любом месте, где эти инструменты остаются без контроля", — отметил Бретт Дж. Голдштейн из Института национальной безопасности Университета Вандербильта.
Аналитики Университета Вандербильта обнаружили, что компания Geedge, сотрудничая со своим исследовательским подразделением MESA Lab, поддерживаемым правительством, разрабатывала технологию, которая бы создавала профили китайских граждан, а затем использовала ИИ для выявления тех, кто может представлять политический риск.
Однако прогресс компании, похоже, был замедлен из-за введенных США во времена администрации Джо Байдена экспортных ограничений на ИИ-чипы американского производства. Документы Geedge показывают, что в 2024 году, когда действовали жесткие американские экспортные ограничения в отношении Китая, у компании были трудности с поиском достаточной вычислительной мощности для технологий наблюдения.
По словам американских чиновников, сегодня у Geedge есть доступ к достаточному количеству графических процессоров для своих текущих разработок. Однако для реализации самой амбициозной версии технологии прогнозирования компании, вероятно, понадобятся более совершенные чипы, чем те, которые Китай может приобрести.
Бывшие чиновники администрации Байдена говорят, что, по данным разведки, их политика ограничения доступа Китая к высокотехнологичным чипам американского производства позволила сохранить преимущество США в сфере искусственного интеллекта и замедлить развитие других китайских технологий.
Однако остается открытым вопрос, замедлят ли американские экспортные ограничения развитие Китая в направлении более репрессивного использования ИИ.
Администрация нынешнего президента США Дональд Трампа ослабила некоторые экспортные ограничения, введенные во времена Байдена, и сохранила ограничения на современные процессоры от Nvidia — американской компании, которая разрабатывает самые мощные в мире ИИ-чипы. Во время недавней поездки Трампа в Пекин американские чиновники заявили, что Китай получит доступ к более совершенной версии чипов Nvidia.
Но Китай пытается избавить свои компании, занимающиеся искусственным интеллектом, от зависимости от использования чипов американского производства, чтобы экспортный контроль больше не мог сдерживать их амбиции.
Новая информация получена из большого массива данных — ста тысяч документов компании Geedge, опубликованных в сентябре прошлого года. На основе этих документов СМИ описали, как Geedge экспортировала свое программное обеспечение для сетевой безопасности в такие страны, как Эфиопия, Казахстан, Мьянма и Пакистан, что позволило им осуществлять слежку в мобильных сетях.
Исследователи из Университета Вандербильта, которые тщательно изучали документы, сосредоточились не на технологии, которую продавала Geedge, а на технологии следующего поколения, которую компания пыталась разработать, а также на ограничениях, которые могли помешать ей реализовать эту стратегию.
Согласно документам Geedge, в первые месяцы 2024 года исследователи компании работали над разработкой поведенческих профилей людей на основе данных телекоммуникаций, социальных сетей и данных о местонахождении. Модели искусственного интеллекта использовались для классификации людей и "выявления вредной информации", что часто является эвфемизмом, который использует Коммунистическая партия Китая для идентификации политических диссидентов или материалов, которые правительство хочет подавить.
На одном из заседаний 5 февраля 2024 года исследователи обсуждали, как создавать профили людей для "выявления их намерений" и "вредной информации".
Предположительно, исследователи Geedge разрабатывали инструменты для использования искусственного интеллекта с целью прогнозирования, кто может стать критиком китайского правительства, на основе закономерностей в данных, собранных технологиями наблюдения.
"Исследовательская команда Geedge занималась не только фиксацией моделей поведения. Они пытались предсказать, что граждане могут сделать дальше. Эти запасы данных являются сырьем для создания профилей, которые определяют, кто вы есть и что будете делать дальше", — отмечают исследователи Университета Вандербильта.
Geedge не ответила на запрос NYT о комментарии.
Согласно исследованию Университета Вандербильта, команда китайской компании работала над связыванием физических перемещений с другой онлайн-активностью, в частности с тем, какие фильмы люди смотрели и какие книги читали.
Исследования Geedge в определенной степени были похожи на работу другой китайской компании, связанной с правительством, — GoLaxy. В прошлом году сообщалось, что GoLaxy работала над программным обеспечением на базе искусственного интеллекта, которое бы распространяло целевую пропаганду.
Китай годами разрабатывает технологии наблюдения и прогнозирования. Но, как показывают документы Geedge, модели искусственного интеллекта ускорили разработку таких инструментов.
Хотя документы не охватывают последние месяцы, нет доказательств того, что Geedge завершила работу над проектом или уже развернула технологию прогнозирования, по словам американских чиновников.
Но чиновники признали, что китайские компании работают над такой технологией, чтобы усовершенствовать систему слежения. А китайские бюро общественной безопасности спешат использовать DeepSeek, ведущую в стране модель искусственного интеллекта, для разработки других технологий полицейского контроля и прогнозирования.
Geedge и другие китайские компании, занимающиеся технологиями слежения, вероятно, имеют достаточную вычислительную мощность для своих инструментов текущего поколения. Однако инструменты прогнозирования, особенно если компания в конце концов начнет использовать перехваченные телефонные разговоры или видео с камер наблюдения, могут столкнуться с ограничениями вычислительной мощности.
"Китайские службы безопасности имеют дело с чрезмерным объемом данных. Они получают слишком много информации одновременно. Настоящая ценность искусственного интеллекта заключается в том, что он может сортировать данные и выявлять угрозы. Но их способность масштабировать это зависит от доступа к вычислительным мощностям. Именно это делает экспортный контроль таким важным", — отмечает старший научный сотрудник Института глобальных конфликтов и сотрудничества Калифорнийского университета Джимми Гудрич.
Комментариев нет:
Отправить комментарий