OpenAI ищет руководителя для оценки угроз от искусственного интеллекта
OpenAI начала поиск человека, который будет отвечать за выявление и оценку рисков, связанных с развитием искусственного интеллекта. Об этом сообщил глава компании и разработчик ChatGPT Сэм Альтман.
В публикации в X Альтман признал, что быстрое совершенствование моделей ИИ создает серьезные проблемы. Он также указал на влияние технологий на психическое здоровье людей, а также на рост киберугроз, создаваемых с помощью ИИ.
Согласно описанию вакансии, новый руководитель будет заниматься анализом и прогнозированием новых угроз, способных привести к серьезному вреду для людей.
"Отслеживание и подготовка к действиям в условиях новых угроз, создающих риски серьезного вреда. Вы будете непосредственно ответственным руководителем за разработку и координацию оценок возможностей, моделей угроз и мер по их смягчению, которые формируют целостную, строгую и оперативно масштабируемую систему обеспечения безопасности", - говорится в объявлении.
Альтман также отметил, что в будущем этот специалист будет отвечать за реализацию "системы готовности" OpenAI, безопасность моделей с биологическими возможностями и установление ограничений для самосовершенствующихся систем. По его словам, это будет "стрессовая работа".
Комментариев нет:
Отправить комментарий