Мы все умрем: правительству США предоставили доклад о новой угрозе человечеству
Американскому правительству представили отчет об угрозах для человечества со стороны искусственного интеллекта (ИИ). Его подготовила компания Gladstone AI по заказу Госдепартамента США. Исследование, легшее в основу доклада под названием "План действий по повышению безопасности передового искусственного интеллекта", проводилось более года. В "Плане" нарисована тревожная картина катастрофических рисков национальной безопасности и содержится предупреждение о том, что действовать следует прямо сейчас и быстро.
"При худшем сценарии ИИ может представлять для человечества угрозу уровня вымирания, — утверждают авторы доклада. — Текущее развитие ИИ представляет неотложные и все большие угрозы для национальной безопасности. Прогресс продвинутого ИИ и всеобщего искусственного интеллекта имеет потенциал к дестабилизации мировой безопасности, как это в свое время сделало появление ядерного оружия".
К основным рискам для человечества специалисты отнесли:
— Вероятное использование ИИ как оружия — "такие системы могут использоваться для разработки и даже запуска катастрофических биологических, химических или цифровых атак".
— Потеря контроля над ИИ — "системы могут стать неконтролируемыми, если их развивать с помощью современных техник, и вести себя враждебно по отношению к людям по умолчанию".
Обе категории рисков усиливает "динамика соревнования" в индустрии ИИ, отмечают авторы доклада. Вероятность того, что первая компания-разработчик общего искусственного интеллекта получит все сопутствующие экономические преимущества, заставляет ИИ-лаборатории ставить в приоритет скорость, а не безопасность.
В качестве мер по устранению угроз, исходящих от искусственного интеллекта, исследователи предлагают:
— сформировать Федеральное агентство по вопросам ИИ, которое будет определять максимально допустимый уровень вычислительной мощности для обучения моделей и выдавать разрешения компаниям на применение того или иного уровня вычислительной мощности;
— принять закон, запрещающий публично раскрывать особенности функционирования мощных ИИ-моделей, за нарушение которого должно следовать уголовное наказание. караться заключением. То есть исследователи предлагают запретить ИИ-системы с открытым исходным кодом (open-source);
— усилить контроль над производством и экспортом ИИ-чипов;
В отчете подчеркивается, что американское правительство должно "быстро и решительно" действовать, чтобы предотвратить существенные риски для нацбезопасности, которые несет искусственный интеллект.
Отметим, что в конце прошлого года в традиционных "шокирующих прогнозах" датского Saxo Bank упоминался искусственный интеллект, который в текущем году превратится в глобальную угрозу безопасности для человечества.
Впрочем, не все с пессимизмом смотрят на развитие ИИ. В частности, основатель компании "Майкрософт" миллиардер Билл Гейтс считает это благом для человечества, поскольку людям придется меньше работать.
Комментариев нет:
Отправить комментарий