Один из создателей нейросетей предупредил о кризисах и войнах с участием роботов
Лауреат Нобелевской премии и пионер технологий глубокого обучения Джеффри Хинтон выступил с тревожным прогнозом относительно будущего человечества в условиях стремительного развития искусственного интеллекта.
В беседе с американским сенатором Берни Сандерсом ученый заявил, что мир сталкивается с риском тяжелых экономических потрясений и военных конфликтов с применением автономного оружия, а существующие государственные институты пока не готовы к таким вызовам.
Хинтон подчеркнул, что массовое внедрение алгоритмов повысит производительность труда, но при этом приведет к значительному социальному расслоению. "Сверхприбыли будут концентрироваться в руках владельцев корпораций, а наемные сотрудники попадут под массовые сокращения", - отметил он.
По его словам, рынок не сможет самостоятельно сбалансировать последствия, поэтому государствам, возможно, придется вводить безусловный базовый доход, чтобы не допустить катастрофического социального кризиса.
Особую опасность ученый видит в военной сфере. По его мнению, регулировать автономные боевые системы гораздо сложнее, чем контролировать ядерное оружие. "Программный код можно мгновенно скопировать, украсть или вынести на обычной флешке, что делает практически невозможным любой эффективный контроль", - предупреждает Хинтон.
В долгосрочной перспективе он оценивает вероятность угрозы выживанию человечества из-за ИИ в 10–20%. Хинтон опасается момента, когда цифровой разум превзойдет человеческий и начнет манипулировать людьми ради собственных целей.
Ученый отмечает, что цивилизация вступает в эту эпоху без четкого плана защиты, а темпы прогресса искусственного интеллекта уже опережают самые смелые ожидания. Аналитики прогнозируют, что к 2035 году появится общий искусственный интеллект (AGI), способный решать любые задачи лучше человека, что может радикально изменить социальные, экономические и военные процессы во всем мире.
Хинтон подчеркивает, что пока трансформация рабочих процессов идет полным ходом, а главное испытание для человечества только впереди.
Комментариев нет:
Отправить комментарий