© Фото: Gemini
Создан "шрифт-призрак", который мешает нейросетям читать текст
Дизайнер и разработчик Эрик Лу представил Ghost Font – экспериментальный способ отображения текста, который затрудняет его распознавание системами искусственного интеллекта. Человек видит буквы во время движения изображения, а на отдельном кадре они превращаются в набор хаотичных точек.
Несмотря на название, Ghost Font нельзя назвать обычным шрифтом. Это не файл, который можно установить на компьютер и использовать в текстовом редакторе, а генератор коротких видеоанимаций.
Текст в них складывается из множества движущихся элементов. Человеческий мозг объединяет направления их движения и распознает буквы. На скриншоте или остановленном кадре сообщение исчезает: остается лишь россыпь точек без заметных очертаний символов.
Проект отличается от более ранних попыток создать шрифты, защищенные от автоматического чтения. В них буквы намеренно искажали, чтобы запутать программы оптического распознавания. Современные нейросети уже научились справляться со многими такими изображениями, поэтому Эрик Лу решил использовать не форму символов, а движение.
В Ghost Font предусмотрен еще один уровень защиты. В анимацию можно добавить ложное сообщение, которое отвлекает систему компьютерного зрения. Во время испытаний некоторые модели распознавали эту подложку, но не замечали основной текст.
Автор проекта также проверил, смогут ли современные модели самостоятельно разобраться в принципе работы Ghost Font. Без точного объяснения способа кодирования они испытывали трудности и не определяли скрытую надпись. Однако после подробной подсказки основной текст удалось восстановить.
Это означает, что Ghost Font не обеспечивает полной защиты информации. Специализированная система, умеющая анализировать движение объектов в видео, теоретически сможет прочитать сообщение. Поэтому разработку пока стоит рассматривать как визуальный эксперимент, а не как надежный инструмент шифрования.
В будущем технология может использоваться для создания новых видов капчи, проверки возможностей компьютерного зрения и экспериментальной защиты коротких сообщений от автоматического сбора данных.
Эрик Лу планирует опубликовать исходный код генератора в открытом доступе. Он также собирается увеличить допустимую длину сообщений, поскольку нынешняя версия рассчитана прежде всего на короткие фразы.
Комментариев нет:
Отправить комментарий