В OpenAI назвали неожиданное препятствие на пути к общему ИИ - и это люди
Одним из недооцененных факторов, замедляющих появление общего искусственного интеллекта (AGI), является человек, а точнее - скорость его взаимодействия с ИИ. Об этом заявил руководитель продукта Codex в OpenAI Александр Эмбирикос в недавнем выпуске подкаста Lenny’s Podcast.
По его словам, современные ИИ-агенты уже способны выполнять значительный объем работы самостоятельно, однако "узкое место" возникает там, где требуется участие человека. Люди слишком медленно печатают, формулируют запросы, переключаются между задачами, а также тратят время на проверку и подтверждение результатов, созданных ИИ.
Эмбирикос отметил, что если агент не умеет самостоятельно валидировать собственную работу, человек вынужден просматривать код или другие результаты вручную, что снова ограничивает скорость процессов. В итоге потенциал автоматизации упирается не в вычислительные мощности или данные, а в человеческое внимание и темп работы.
Решение этой проблемы в OpenAI видят в максимальном сокращении участия человека в рабочем цикле. ИИ-системы, по задумке, должны быть "полезными по умолчанию": самостоятельно проверять свои действия, исправлять ошибки и работать автономно. В таком случае рост продуктивности может стать резким и экспоненциальным - по образцу так называемой "хоккейной клюшки".
По прогнозу Эмбирикоса, первые заметные эффекты такого скачка эффективности отдельные пользователи смогут увидеть уже в следующем году, затем изменения затронут компании. А где-то между первыми всплесками продуктивности и массовым внедрением автономных ИИ-агентов, считает он, и может появиться общий искусственный интеллект.
Комментариев нет:
Отправить комментарий