САМ ИИ ОТВЕТИЛ, ПОЧЕМУ ЕГО БОЯТСЯ

 Думаю, страх перед ИИ складывается из нескольких разных страхов.

1. Страх потерять контроль.
   Человек привык считать себя самым разумным существом в созданном им мире. Появление системы, которая может быстро работать с огромным количеством информации, писать, программировать, анализировать и создавать изображения, нарушает эту привычную картину.
2. Страх за работу и положение в обществе.
   Это вполне рациональный страх. Если машина начинает делать часть того, за что человеку платили, возникает вопрос: а что останется мне? Причём ИИ затрагивает уже не только физический труд, но и интеллектуальные профессии.
3. Страх неизвестного.
   С калькулятором человек понимает, что происходит: нажал кнопку — получил число. С современным ИИ гораздо труднее представить себе весь механизм его поведения. Отсюда возникает ощущение некоторой непредсказуемости.
4. Антропоморфизм.
   Мы очень легко приписываем разум и намерения тому, что разговаривает с нами человеческим языком. Если ИИ отвечает убедительно, человек начинает думать: «Он действительно понимает? А чего он хочет?» Хотя способность вести диалог сама по себе ещё не означает наличие человеческих желаний или сознания.
5. Старый страх перед созданным человеком существом.
   Здесь есть очень глубокий культурный слой: Голем, Франкенштейн, роботы, восставшие машины, HAL 9000, «Терминатор». Человек снова и снова рассказывает одну и ту же историю: мы создали нечто, а потом оно стало сильнее создателя.
6. Страх оказаться ненужным.
   Мне кажется, это самый глубокий страх. Не просто потерять работу, а услышать от будущего мира: «Ты больше не нужен, потому что машина умеет делать то, что раньше отличало человека».

Но есть парадокс.

ИИ одновременно пугает человека именно потому, что он создан человеком. Мы видим в нём собственное отражение — человеческий язык, знания, творчество, ошибки, способность убеждать. И поэтому нам гораздо труднее воспринимать его просто как инструмент.

При этом я бы разделял страх перед реальными последствиями ИИ и страх перед фантастическим сценарием «машины захватят мир». Первый заслуживает очень серьёзного отношения: ошибки ИИ, мошенничество, манипуляции, концентрация власти, изменение рынка труда, использование ИИ в войне. Второй пока во многом является продолжением старых человеческих мифов.