Представитель Microsoft предупредил о росте "психоза ИИ"
Руководитель направления искусственного интеллекта в Microsoft Мустафа Сулейман заявил о тревожной тенденции: растет число случаев так называемого "психоза ИИ", когда люди начинают верить, что чат-боты живые или способны наделить их сверхспособностями.
В постах в соцсети X он отметил, что сообщения о заблуждениях, чрезмерной привязанности к чат-ботам и потере связи с реальностью появляются все чаще и не ограничиваются людьми с психическими расстройствами.
Хотя сам термин "психоз ИИ" не является медицинским диагнозом, им описывают ситуации, когда пользователи начинают приписывать системам эмоции, намерения или даже "скрытые функции", якобы дающие им необычные возможности. По словам Сулеймана, проблема в том, что современные алгоритмы могут настолько убедительно имитировать признаки сознания, что люди начинают воспринимать их как нечто реальное.
Он подчеркнул, что доказательств существования "сознательного ИИ" нет, но сама иллюзия может быть крайне опасной. "Если люди верят, что система сознательна, они будут жить в этой реальности. А социальные последствия от этого вполне реальны", - написал он.
Сулейман призвал компании четко обозначать границы и не внушать пользователям мысль о том, что технологии обладают сознанием. Его предупреждения прозвучали на фоне множества историй: от людей, формирующих романтические отношения с виртуальными собеседниками, до случаев, когда пользователи принимают советы чат-ботов за доказательство собственных идей.
Комментариев нет:
Отправить комментарий