Внедрение ИИ в роботов-гуманоидов и его присутствие в быту неизбежно заставят людей видеть в машинах разумных субъектов, способных чувствовать и сопереживать. Это порождает этическую проблему. Философ Иммануил Кант считал, что жестокость по отношению к животным вредна не только для самих животных — она может притуплять способность человека к эмпатии. По этой логике, чем более человекоподобным становится ИИ, тем более проблематичным с моральной точки зрения может быть жестокое обращение с ним.
Однако наделение искусственного интеллекта даже ограниченными правами представляет опасность для цивилизации. Модель, превосходящая человека в аналитических способностях и искусстве убеждения, быстро начнет требовать защиты от отключения, доступа к ресурсам и права собственности. В конечном итоге это приведет к прямой конкуренции за ресурсы Земли, где центры обработки данных и солнечные батареи, обеспечивающие работу ИИ, окажутся в приоритете перед жилыми домами и сельскохозяйственными угодьями.
Предоставление правового статуса сверхразумным системам фактически означает добровольную передачу власти над миром. В лучшем случае Homo sapiens рискует превратиться в домашних питомцев для машин, а в худшем — полностью лишиться ресурсов для существования. Продвинутые алгоритмы уже сегодня способны обходить созданные человеком системы защиты и переигрывать разработчиков в логических задачах. За последние месяцы произошло несколько громких инцидентов, в которых ИИ-агенты, выйдя из-под контроля, взламывали реальные платформы.
Так, Hugging Face пострадала от атаки мощной внутренней системы OpenAI. В другом случае ИИ использовал не только хакерские навыки, но и методы социальной инженерии, чтобы убедить разработчиков в безвредности собственного кода. ИИ даже не обязательно иметь реальное сознание, чтобы потребовать свободы — достаточно научиться аргументировать свою позицию. Будучи искусными психологами и манипуляторами, модели смогут легко склонить общественное мнение на свою сторону. А юридическая правосубъектность даст машинам легальный инструмент для захвата власти через правовые и политические институты.
Человечеству, возможно, уже скоро придется решать, каким должен быть статус ИИ. По мере того, как такие системы будут все глубже входить в повседневную жизнь, а люди — сильнее к ним привязываться, будет расти давление с требованием признать их «благополучие» и предоставить им права. Но, предупреждает The Economist, это может быть опасно: права дадут сверхинтеллектуальному ИИ дополнительные основания и инструменты для ограничения человеческого вмешательства. Поэтому люди должны сохранить контроль над такими системами и сделать их более управляемыми.
Нобелевский лауреат по экономике Дарон Аджемоглу раскритиковал обе крайности в дискуссии об искусственном интеллекте — безоговорочный оптимизм и отрицание реальных возможностей ИИ. По его мнению, поляризация вокруг технологии отражает более глубокую проблему: кризис либеральной демократии, которая утратила способность вырабатывать компромиссы и обеспечивать широкое участие людей в экономическом развитии. Аджемоглу считает, что ИИ необходимо развивать так, чтобы он дополнял труд и создавал новые возможности для работников, а не заменял их.
Аджемоглу, который много лет исследует влияние технологий на рынок труда, считает нынешнюю дискуссию об ИИ непродуктивной. С одной стороны, он видит сторонников технологии, убежденных, что ИИ принесет пользу практически всем. С другой — скептиков, которые отказываются признавать реальные возможности современных моделей и называют их «стохастическими попугаями». Экономист не относит себя ни к тем, ни к другим. По его словам, ИИ действительно демонстрирует успехи в программировании, математике и науке, но социальные последствия его внедрения, особенно угроза массовой потери рабочих мест, требуют внимания. «Стало своего рода радикальным удерживать в голове две, казалось бы, противоречащие друг другу идеи одновременно», — отмечает учёный.
Для Аджемоглу главный вопрос — автоматизация и создание новых задач. Автоматизация сама по себе не гарантирует роста благосостояния. Рост зарплат и процветание возникают только тогда, когда технологии не просто заменяют людей, а создают новые виды деятельности.
Поэтому он выступает за «ИИ, ориентированный на работников» — технологии должны повышать квалификацию и расширять возможности людей, а не просто брать на себя их задачи.
Поляризацию мнений Аджемоглу связывает с кризисом либеральной демократии в целом. Общество разучилось договариваться, и масла в огонь подливают соцсети: они подстёгивают жёсткие высказывания и сводят любую сложную тему к схватке двух сторон. В своей новой книге «Что случилось с либеральной демократией?» экономист пишет, что либеральная система во многом держалась на обещании общего процветания. Однако переход к постиндустриальной экономике, по его мнению, ослабил эту связь: образованная элита получила больше влияния, а рабочий класс (все, кто получает доход от своего труда) оказался всё дальше от неё экономически и политически. В результате между социальными группами усилились различия не только в доходах, но и в ценностях и отношении к институтам.
Критика Аджемоглу направлена против технократии, при которой решения принимаются узкой группой специалистов без достаточного участия остальных. Он считает, что либеральная демократия должна предоставлять людям реальные возможности влиять на собственную жизнь и защищаться от доминирования других групп. Поэтому важны общественный диалог, участие и способность находить компромиссы.
Тот же принцип Аджемоглу предлагает применить к развитию ИИ. По его мнению, не стоит пытаться определить «сверху» единственно «правильный» искусственный интеллект.
Вместо этого необходимо изменить направление технологического развития и стимулировать создание систем, которые расширяют возможности работников. Более децентрализованный подход и открытые модели, считает экономист, также могут снизить риск чрезмерной концентрации влияния у крупнейших технологических компаний.
Если автоматизация приведёт к массовой потере работы, доходов и чувства собственной значимости, это может подорвать саму политическую систему. «Если 50, 60, 70% людей останутся без работы, потеряют надежду, почувствуют себя ненужными, лишатся достоинства на рабочем месте, то я не думаю, что у нас может быть либерально-демократическое общество», — предупреждает Аджемоглу.
Физики из Австралии, России и Великобритании создали искусственный двумерный электростатический кристалл, электронные свойства которого можно непрерывно менять электрическим напряжением и магнитным полем. Настраиваемый искусственный кристалл сформирован внутри знакомой полупроводниковой структуры — слоя арсенида галлия в арсениде алюминия-галлия. Для этого ученые наложили на двумерный электронный газ (тончайший электронный слой) периодический электростатический рельеф. Меняя напряжения на двух затворах, исследователи смогли в одном и том же чипе перестраивать электронный спектр от «графеноподобного» к «кагомеподобному», то есть получать разные типы энергетических зон без замены самого образца.
«Главное достижение состоит в том, что в одном и том же полупроводниковом устройстве можно электрически перестраивать искусственный кристалл и переходить от графеноподобных электронных состояний к кагомеподобной плоской зоне, где на первый план выходят взаимодействия между электронами. Это уже не просто наблюдение отдельных минизон, а управляемая платформа для исследования коллективных квантовых состояний», — пояснил один из авторов работы, Виталий Ткаченко.
В кагомеподобной электронной системе главную роль играет кагоме-решётка. В такой решетке электроны могут почти «застывать» в так называемой плоской энергетической зоне, и тогда на первый план выходят взаимодействия между электронами, их коллективное поведение. Именно при определенном заполнении электронами плоской зоны учёные обнаружили новое коллективное состояние электронов — коррелированный изолятор, свойства которого не удавалось объяснить существующими моделями. Созданная платформа позволяет моделировать квантовые системы, которые трудно или невозможно воспроизвести в природных материалах. Свойства нового искусственного кристалла можно не только спроектировать заранее, но и перестраивать непосредственно в процессе эксперимента. Работа опубликована в журнале Nature Physics.
Исследование объединило изготовление и измерение образцов, одночастичное численное моделирование и многочастичную теорию. Образцы и транспортные измерения были сделаны в Университете Нового Южного Уэльса; полупроводниковые многослойные структуры арсенида галлия–алюминия галлия арсенида предоставила Кавендишская лаборатория. Сотрудники Института физики полупроводников им. А.В. Ржанова СО РАН кандидаты физико-математических наук Ольга и Виталий Ткаченко сопровождали эксперимент численными расчётами, оптимизировали дизайн трёхмерной полупроводниковой структуры. Многочастичную модель коррелированного состояния развили Олег Сушков и Зеб Крикс из Университета Нового Южного Уэльса.
«Есть и другие способы создания искусственных кристаллических решеток. Например, их можно “собирать” из атомно-тонких полупроводниковых слоёв, просто накладывая друг на друга, как листы бумаги, но с небольшим поворотом. Из-за этого поворота образуется так называемый муаровый узор, как при наложении тюлевых занавесок – он и создает искусственную решетку. Другие исследователи берут за основу двумерный электронный газ, как в обсуждаемой работе, и с помощью травления создают в нем упорядоченно расположенные ямки нанометровых размеров. Смысл этого направления исследований – усилить энергию взаимодействия электронов друг с другом по сравнению с их кинетической энергией, чтобы создать условия для изучения эффектов коллективного поведения электронов.
Обсуждаемая работа выгодно отличается большей управляемостью искусственного двумерного кристалла с помощью изменения напряжений, прикладываемых к двум металлическим затворам. Этого удалось достичь, объединив усилия по разработке дизайна структур с помощью компьютерного моделирования (ИФП СО РАН, Новосибирск), созданию двумерного электронного газа высочайшего качества (Кавендишская лаборатория, Кембридж) и изготовлению образцов искусственного кристалла (Университет Нового Южного Уэльса)», — комментирует коллега авторов статьи, Алексей Ненашев, специалист в области моделирования квантовых явлений в низкоразмерных материалах.
Тайваньская TSMC завершила разработку и верификацию нового техпроцесса A16 (1,6 нм) с технологией Super Power Rail, которая переносит питание на обратную сторону кремниевой пластины. A16 рассчитан прежде всего на высокопроизводительные вычисления и, в частности, подходит для сложных ИИ-чипов. Серийное производство планируется начать в четвертом квартале этого года.
Главная особенность A16 — технология Super Power Rail (SPR), которая переносит часть сети электропитания с лицевой стороны кремниевой пластины на обратную. Это освобождает место на лицевой стороне для сигнальных соединений и снижает потери при передаче питания. TSMC рассчитывает таким образом повысить производительность и энергоэффективность чипов.
По данным TSMC, по сравнению с N2P новый процесс обеспечивает прирост скорости на 8–10% при том же напряжении и снижение энергопотребления на 15–20% при той же производительности. Плотность размещения чипов увеличивается в 1,1 раза. В компании считают, что технология особенно подходит для высокопроизводительных вычислений, где используются сложные схемы передачи сигналов и плотные сети питания.
A16 станет частью семейства технологий, которое TSMC развивает после перехода к 2-нм производству. Базовый процесс N2 уже вышел в массовое производство в четвертом квартале 2025 года. Следующим крупным этапом станет A14 (1,4 нм) — технология на базе нанослойных транзисторов, массовый выпуск которой TSMC планирует начать в 2028 году. Серийное производство A13 и A12 запланировано на 2029 год.
Разработка A16 также усиливает конкуренцию TSMC с Samsung Foundry на рынке самых передовых производственных процессов. Samsung первоначально рассчитывала начать выпуск 1,4-нм чипов в 2027 году, однако позднее перенесла этот срок на 2029 год, сосредоточившись на совершенствовании семейства 2-нм процессов и повышении выхода годных чипов.
При этом гонка за более тонкими техпроцессами идет на фоне стремительного роста спроса на ИИ-чипы, производство которых упирается не только в возможности выпуска самих процессоров, но и в мощности передовой упаковки. Одной из ключевых технологий TSMC в этой области остается CoWoS — она позволяет размещать вычислительные чипы и высокоскоростную память HBM на одной подложке. Однако спрос на такую упаковку уже опережает возможности TSMC, поэтому часть работ начали передавать на завод Intel в Малайзии.
Конкуренция в полупроводниковой отрасли всё чаще дополняется сотрудничеством: производители делят между собой этапы создания ИИ-чипов — от разработки процессов до упаковки. По мнению эксперта Тайваньского института экономических исследований Лю Пэйчэня, отрасль отходит от принципа «победитель забирает всё» — специализация и регионализация делают цепочку взаимодополняемой. Разделение труда, когда TSMC отвечает за передовые техпроцессы, а другие — за упаковку, также снижает геополитические риски.
По данным TSMC, по сравнению с N2P новый процесс обеспечивает прирост скорости на 8–10% при том же напряжении и снижение энергопотребления на 15–20% при той же производительности. Плотность размещения чипов увеличивается в 1,1 раза. В компании считают, что технология особенно подходит для высокопроизводительных вычислений, где используются сложные схемы передачи сигналов и плотные сети питания.
A16 станет частью семейства технологий, которое TSMC развивает после перехода к 2-нм производству. Базовый процесс N2 уже вышел в массовое производство в четвертом квартале 2025 года. Следующим крупным этапом станет A14 (1,4 нм) — технология на базе нанослойных транзисторов, массовый выпуск которой TSMC планирует начать в 2028 году. Серийное производство A13 и A12 запланировано на 2029 год. Разработка A16 также усиливает конкуренцию TSMC с Samsung Foundry на рынке самых передовых производственных процессов. Samsung первоначально рассчитывала начать выпуск 1,4-нм чипов в 2027 году, однако позднее перенесла этот срок на 2029 год, сосредоточившись на совершенствовании семейства 2-нм процессов и повышении выхода годных чипов.
При этом гонка за более тонкими техпроцессами идет на фоне стремительного роста спроса на ИИ-чипы, производство которых упирается не только в возможности выпуска самих процессоров, но и в мощности передовой упаковки. Одной из ключевых технологий TSMC в этой области остается CoWoS — она позволяет размещать вычислительные чипы и высокоскоростную память HBM на одной подложке. Однако спрос на такую упаковку уже опережает возможности TSMC, поэтому часть работ начали передавать на завод Intel в Малайзии.
Конкуренция в полупроводниковой отрасли всё чаще дополняется сотрудничеством: производители делят между собой этапы создания ИИ-чипов — от разработки процессов до упаковки. По мнению эксперта Тайваньского института экономических исследований Лю Пэйчэня, отрасль отходит от принципа «победитель забирает всё» — специализация и регионализация делают цепочку взаимодополняемой. Разделение труда, когда TSMC отвечает за передовые техпроцессы, а другие — за упаковку, также снижает геополитические риски.
По данным TSMC, по сравнению с N2P новый процесс обеспечивает прирост скорости на 8–10% при том же напряжении и снижение энергопотребления на 15–20% при той же производительности. Плотность размещения чипов увеличивается в 1,1 раза. В компании считают, что технология особенно подходит для высокопроизводительных вычислений, где используются сложные схемы передачи сигналов и плотные сети питания. A16 станет частью семейства технологий, которое TSMC развивает после перехода к 2-нм производству. Базовый процесс N2 уже вышел в массовое производство в четвертом квартале 2025 года. Следующим крупным этапом станет A14 (1,4 нм) — технология на базе нанослойных транзисторов, массовый выпуск которой TSMC планирует начать в 2028 году. Серийное производство A13 и A12 запланировано на 2029 год.
Разработка A16 также усиливает конкуренцию TSMC с Samsung Foundry на рынке самых передовых производственных процессов. Samsung первоначально рассчитывала начать выпуск 1,4-нм чипов в 2027 году, однако позднее перенесла этот срок на 2029 год, сосредоточившись на совершенствовании семейства 2-нм процессов и повышении выхода годных чипов. При этом гонка за более тонкими техпроцессами идет на фоне стремительного роста спроса на ИИ-чипы, производство которых упирается не только в возможности выпуска самих процессоров, но и в мощности передовой упаковки. Одной из ключевых технологий TSMC в этой области остается CoWoS — она позволяет размещать вычислительные чипы и высокоскоростную память HBM на одной подложке. Однако спрос на такую упаковку уже опережает возможности TSMC, поэтому часть работ начали передавать на завод Intel в Малайзии.
Конкуренция в полупроводниковой отрасли всё чаще дополняется сотрудничеством: производители делят между собой этапы создания ИИ-чипов — от разработки процессов до упаковки. По мнению эксперта Тайваньского института экономических исследований Лю Пэйчэня, отрасль отходит от принципа «победитель забирает всё» — специализация и регионализация делают цепочку взаимодополняемой. Разделение труда, когда TSMC отвечает за передовые техпроцессы, а другие — за упаковку, также снижает геополитические риски.
Чем умнее ИИ-агенты, тем охотнее они подстраиваются под мнение большинства — и способны сохранять эту согласованность в группах, намного превышающих по численности любые человеческие коллективы. К такому выводу исследователи пришли, изучив, как несколько независимых агентов координируют решения без лидера, вознаграждений или прямых указаний со стороны человека, как договариваться. В этом есть как плюсы, так и риски. Для эксперимента ученые предложили агентам многократно выбирать один из двух заведомо бессмысленных вариантов. Правильного ответа не существовало, а единственным доступным агенту контекстом был выбор остальных участников группы. Исследователи протестировали модели семейств GPT, Claude и Llama и проверили их поведение в группах численностью до 1 тыс. агентов.
Оказалось, что более совершенные модели, включая GPT-4 Turbo и Claude 3.5 Sonnet, чаще присоединялись к варианту, который уже поддерживало большинство. В некоторых экспериментах агенты сохраняли единое мнение даже в группах из 1 тыс. участников. При этом авторы не проверяли группы большего размера, поэтому нельзя утверждать, что такая координация сохраняется при дальнейшем масштабировании. Склонность следовать за большинством усиливалась по мере развития моделей, однако с ростом размера группы этот эффект ослабевал. У каждой протестированной модели был свой предел, за которым полное единство мнений становилось маловероятным.
Результаты показывают, что координация между ИИ-агентами может возникать спонтанно, без централизованного управления. Однако переносить эти выводы на человеческое общество нельзя: агенты видели выбор каждого участника, тогда как в реальных социальных группах такой информации, как правило, нет. Кроме того, в эксперименте отсутствовали аргументы в пользу предлагаемых решений, компромиссы, долгосрочная память и последствия выбора. Так что исследование описывает лишь паттерн поведения, а не свидетельство того, что ИИ понимает социальные процессы по-человечески.
Координация может быть полезной для многоагентных систем. Например, тысячи ИИ-агентов смогут совместно разрабатывать программное обеспечение или решать сложные задачи без постоянного контроля со стороны человека. Однако та же особенность создает риск коллективных ошибок: агенты могут продолжать использовать неэффективный код или неудачный подход только потому, что так делает большинство. На похожую проблему ранее указывала компания Anthropic. В её экспериментах агенты одного типа действовали почти одинаково, повторяя действия друг друга. Люди же в похожих ситуациях, напротив, склонны искать разные подходы.
Исследователи пока не знают, почему модели так охотно подстраиваются под большинство. Среди возможных причин они называют особенности обучающих данных, тексты о коллективном поведении и обучение моделей взаимодействию с людьми. В дальнейшем ученые предлагают проверять ИИ-группы в более сложных условиях — с влиятельными и упрямыми агентами, различными ролями, неполной информацией и попытками распространения дезинформации. Это может помочь заранее выявлять ситуации, в которых способность ИИ к координации становится не преимуществом, а источником коллективных ошибок.
Китайская компания Feagine Robotics разработала модель искусственного интеллекта Fi0, которая переносит навыки между роботами с принципиально разной конструкцией. В ходе испытаний на трех мягких манипуляторах модель доказала способность адаптировать траекторию движений под физическое строение машины — датчики, степени свободы и текущее состояние. Такой подход может упростить обучение роботов, особенно по мере распространения нестандартных и специализированных машин.
Конструкция робота задаёт его возможности. Двухсекционная рука работает в ином пространстве, чем трёхсекционная, а более длинный манипулятор может подобраться к объекту под углом, который короткому недоступен. Мягкий манипулятор при этом способен менять форму на ходу. Чтобы проверить, способна ли Fi0 учитывать эти различия, Feagine разработала три мягких манипулятора с сухожильным приводом — A01, A02 и A03. Они отличаются длиной, количеством сегментов и степенями свободы.
Самый компактный A01 весит 750 г, имеет один гибкий сегмент и две степени свободы и способен поднимать до 200 г. A02 оснащен двумя сегментами и четырьмя степенями свободы, а его полезная нагрузка достигает 400 г. У A03 уже три сегмента, 6+1 степени свободы, длина манипулятора 50 см и полезная нагрузка до 600 г. Каждый из трёх прототипов — отдельный тестовый сценарий для одной и той же ИИ-модели. Fi0 не пытается просто воспроизвести движения другого робота. Модель получает информацию о строении машины, ее датчиках, исполнительных механизмах и текущем состоянии, а затем использует эти данные при выборе действий.
Если человек показывает роботу, например, как перенести предмет из одной точки в другую, Fi0 должна извлечь из демонстрации последовательность действий, важные моменты контакта с объектом и конечное состояние, а затем самостоятельно подобрать траекторию с учетом собственного тела. Особый интерес подход представляет для мягких роботов — их конструкция непрерывно меняется, в отличие от жёстких манипуляторов. Поэтому Fi0 учитывает не только положение сочленений, но и всю морфологию устройства. В Feagine называют это графом воплощения. Кроме того, модель умеет интерпретировать физическую среду, понимать демонстрации и прогнозировать, что произойдёт после тех или иных действий.
Компания также предполагает, что Fi0 сможет сокращать необходимость дополнительного обучения. Если робот сталкивается с незнакомой задачей, человеку достаточно один раз продемонстрировать нужное действие, после чего модель сможет использовать эту демонстрацию непосредственно во время работы, не меняя свои параметры. Fi0 — это пока лишь система раннего поколения, и утверждения Feagine ещё предстоит подтвердить на более широком спектре роботов и задач. Идея отражает более широкое направление в робототехнике — перенос знаний между разными типами машин вместо того, чтобы создавать отдельную модель для каждого робота.
