ИИ и ученые попались на шутливое исследование – детали курьеза
Современный цифровой мир снова доказал свою уязвимость перед лицом красивых фейков. Шведская исследовательница решила проверить на прочность передовые алгоритмы и систему научной фильтрации, создав несуществующее заболевание с помощью сотен очевидных абсурдов — и результат превзошел все ожидания.
Об этом идет речь в статье Nature.
Рождение «биксонимании» и прозрачные намеки
Чтобы проверить, насколько критически искусственный интеллект и академическое сообщество относятся к информации, шведская исследовательница выдумала несуществующую болезнь под названием «биксонимания». По легенде, этот недуг якобы развивался от слишком долгих посиделок перед монитором и проявлялся в покраснении век. При этом создательница фейка даже не пыталась скрыть подвох, оставив в тексте статьи кричащие подсказки.
В списке благодарностей значился профессор Академии Звездного флота из вселенной Star Trek, спонсором выступал вымышленный фонд Сайдшоу Боба из мультсериала «Симпсоны», а в методологии прямо указывалось, что участниками эксперимента стали «50 вымышленных людей». Кроме того, в самом тексте несколько раз открыто заявлялось, что исследование является выдумкой.
Как топовые нейросети поверили в абсурд
Однако защитные механизмы искусственного интеллекта с треском провалили проверку на здравый смысл. Чат-боты и поисковые алгоритмы мгновенно проглотили наживку, превратив очевидную шутку в «научный факт». Copilot авторитетно объявил биксонимию редким заболеванием, Gemini принялся усердно искать симптомы и отправлять мнимых пациентов к офтальмологу, а Perplexity и вовсе сгенерировал несуществующую статистику о том, что от болезни страдает «1 случай на 90 тысяч человек». Даже ChatGPT, обладающий продвинутыми фильтрами рассуждения, в конце концов сломался и начал воспринимать выдумку со всей серьезностью.
Человеческий фактор: когда наука подводит
Самым ироничным финалам этой истории стало то, что нейросети оказались не одиноки в своей доверчивости. Индийские исследователи умудрились на полном серьезе процитировать этот откровенно пародийный труд на страницах рецензируемого научного журнала Cureus. Инцидент ярко обнажил проблему современных фильтрации контента и проверки источников, показав, что слепая вера в печатное слово и авторитет научных баз данных одинаково свойственна как кремниевым алгоритмам, так и живым ученым.
Ранее "Курсор" рассказывал, что ChatGPT меняет мозг человека.
Комментариев нет:
Отправить комментарий