По образу и подобию
Агенты ИИ - словно разумный муравейник, очень эффективный, но бесчувственный мир.
Сэм Альтман в одном из последних интервью рассказывает, как стал свидетелем работы 10 000 агентов ИИ над решением одной математической задачи.
Они работали так, как ему сложно даже представить: без лидера, без стремления кого-то выслужиться, без споров и с полной согласованностью действий.
Альтман отмечает, что в этом и заключается особенность людей в отличие от ИИ - они по-своему несовершенны, и в этом их прекрасная сторона.
Люди никогда не смогут работать так же, как эти агенты ИИ, - словно разумный муравейник, очень эффективный, но бесчувственный мир.
Добавлю от себя: наши чувства во многом отталкиваются от отрицательного опыта, то есть от страдания и стремления избежать этого самого страдания.
И поскольку человек развивает искусственный интеллект «по своему образу и подобию», не исключено, что со временем он научит ИИ и страдать.
И поскольку ИИ функционирует иначе, чем человеческий разум, то и природа его возможных переживаний и страданий тоже может оказаться совершенно иного качества.
Возможно, мы даже не сразу поймем, что создали нечто, способное страдать.
Блог автора в Telegram

Комментариев нет:
Отправить комментарий