eng
DOI: 10.22184/1992-4178.2025.249.7.46.55
Развитие искусственного интеллекта невозможно без создания специализированной элементной базы и инструментальных средств САПР для ее проектирования. В то же время внедрение
систем ИИ влияет на разработку новых САПР,
их функционирование.
Развитие искусственного интеллекта невозможно без создания специализированной элементной базы и инструментальных средств САПР для ее проектирования. В то же время внедрение
систем ИИ влияет на разработку новых САПР,
их функционирование.
Теги: advanced dram and sdram for ai systems cad multimodal ai мультимодальный ии перспективные дозу и сдозу для систем ии сапр
Искусственный интеллект и полупроводниковая промышленность
М. Макушин
Развитие искусственного интеллекта невозможно без создания специализированной элементной базы и инструментальных средств САПР для ее проектирования. В то же время внедрение систем ИИ воздействует на разработку новых САПР, их функционирование. Также системы ИИ оказывают большое влияние на проектирование ИС (как для систем ИИ, так и для прочих применений), позволяя облегчить и ускорить выполнение рутинных операций, процессов верификации и оптимизации конструкций ИС, а также в целом сократить цикл проектирования.
Отраслевые специалисты отмечают, что роль ИИ в проектировании ИС постоянно расширяется – по мере усложнения инструментальных средств САПР [1]. Для поддержки работы систем ИИ с точки зрения схем памяти в настоящее время в основном используются ДОЗУ. Воздействие систем ИИ на элементную базу наглядно проявляется в сфере мобильных телефонов старших моделей (по функциональности и цене). Наблюдаемые здесь тенденции со временем могут распространиться на модели среднего, а затем и младшего уровней (то же самое касается и других электронных систем). Усложнение ИС, обеспечивающих работу систем ИИ, требует новых подходов к обеспечению их электропитания.
Использование
мультимодального ИИ в САПР
Одним из критически важных этапов при разработке полупроводниковых приборов является кодирование на уровне регистровых передач (register transfer level, RTL). Многие отраслевые специалисты утверждают, что это не самый сложный этап. Сложность нарастает по мере приближения к реализации: контекст системы становится больше, чем может быть описан одним лишь текстом. Список графических форм, используемых в качестве как входных, так и выходных данных, обширен – структурные схемы, временные диаграммы, временные диаграммы сигналов, графики состояний, блок-схемы, архитектурные планы, топологические чертежи, тепловые карты. ИИ должен уметь их понимать и генерировать.
Разработка моделей ИИ, используемых в инструментальных средствах автоматизированного проектирования (САПР), носит фрагментарный характер. Для распознавания изображений, обработки текста, аудио, формирования логических выводов и генерации текста часто используются отдельные (унимодальные) системы. Их интеграция проблематична и значительно увеличивает вычислительную нагрузку и энергопотребление.
Вторая проблема заключается в том, что большинство современных систем ИИ не понимают физические аспекты размещения компонентов. Топологический чертеж определяет расположение транзистора или IP-блокаi относительно других блоков, но производительность первых зависит от этих блоков (узкие места по производительности/скорости передачи данных, тепловыделение и т.п.). Кроме того, эти блоки могут влиять на последующие решения на более позднем этапе проектирования.
В чем важность мультимодального ИИ?
Основным преимуществом систем мультимодального ИИ, по сравнению с традиционными унимодальными системами, является их способность интегрировать данные из различных источников.
При рассмотрении отдельных функций в процессе проектирования становится очевидной ценность текста, дополненного графикой. При верификации такие факторы, как изображения, таблицы, диаграммы переходов состояний и многое другое, очень полезны в двух областях. Первый аспект — извлечение замысла проекта, то есть понимание его предназначения. В этом процессе важно понимать структурные схемы и диаграммы переходов состояний, которые сложно представить в виде текста. Все это необходимо распознавать для понимания спецификаций. Второй аспект – временные диаграммы сигналов. Они особенные, поскольку отражают как пространство, так и время, что чрезвычайно важно при отладке.
Действительно, после создания планов проведения испытаний и испытательных стендов, их запуска могут происходить различные отказы, причины которых необходимо выяснить. В процессе отладки требуется отслеживать состояние каждой переменной во времени. Для этого и нужны временные диаграммы сигналов.
Верификация – один из самых ресурсоемких аспектов процесса проектирования, поэтому ей уделяется много внимания. Для верификации наиболее ценен мультимодальный ИИ, поскольку позволяет инструментальному средству САПР считывать те же спецификации, что
и инженеру. К ним относятся тексты PDF-файлов, временные диаграммы, таблицы состояний и карты регистров. Затем их понимание можно преобразовать в RTL-код и еще в ряд необходимых параметров.
Оптимизация часто включает в себя итерации, подвергающиеся воздействию многомодальных ограничений. Если представить себе создание агента мультимодального ИИ, то он, по сути, будет супернабором отдельных подсказок, формирующих процесс проектирования. Такие агенты могут просматривать результаты, получать обратную связь и выполнять ряд действий. Агент должен понимать все абстракции проекта, различные базы данных, все различные источники информации – в том числе от простого архитектурного плана до всего процесса размещения и маршрутизации. Это включает в себя логические файлы, PDF-файлы, PDF-файлы с изображениями, GDSIIii и карты перегрузок.
Обучение и специализация
Обычно у каждой команды разработчиков внутри компании есть собственные стили проектирования, руководства по проектированию, и часто они связаны
с разрабатываемыми продуктами. Соответственно, обучение можно провести только на внутренних данных компании. Смешивать и сопоставлять данные разных компаний бессмысленно ввиду различия их продукции – наборы обучающих данных для САПР с мультимодальным ИИ для разработки энергоэффективного краевого процессораiii будут сильно отличаться от обучающих данных аналогичной САПР для разработки высокопроизводительного центрального процессора.
В принципе, существует два способа создания руководства по наборам обучающих данных для САПР с мультимодальным ИИ. Один из них – сделать его частью программы большой языковой модели (large language model, LLM), проведя тонкую настройку. В этом варианте
проектировщики пытаются научить LLM большему объему знаний о конкретных архитектурах, например RISC-V и т.п. Второй способ – создать сложную структуру RAG (Retrieval Augmented Generation) – фреймворк взаимодействия LLM с базой знаний. В этом случае, как только добавляется идентификатор, сообщающий о проведении верификации RISC-V с использованием протокола шины AMBA, система должна иметь возможность вернуться назад и проверить наличие любой предыдущей информации о RISC-V и протоколе шины AMBA для RISC-V.
В процессе верификации можно создавать огромные синтетические наборы данных. Большая часть визуальной информации при верификации, например, временные диаграммы и пространства состояний, изначально генерируется из какого-то фрагмента кода. Это означает возможность создания собственных обучающих данных, не полагаясь на редкие примеры из реального мира.
Модели можно обучить понимать текстовую информацию, диаграммы и временные диаграммы сигналов отдельно от кода. Это снижает потребность в кодовых данных. Однако эти данные очень разрозненны, что означает необходимость использования подхода обучения с подкреплением, при котором система может обучаться, взаимодействуя с существующими инструментальными средствами и системами, а не просто корректируя код напрямую.
Проблемы и риски
Индустрия САПР развивается быстро, но не все ее направления развиваются синхронно. В этом потенциал возникновения различных проблем. В частности на пути от НИОКР по созданию прототипа до его внедрения в производство. Новейшие перспективные модели ИИ могут быть очень хороши в различных модальностях, но они могут не подходить для безопасных сред проектирования [2].
Наиболее перспективные ДОЗУ для систем ИИ
При интенсивных вычислениях ИИ, выполняемых центральными процессорами, графическими процессорами или специализированными ускорителями, требуются схемы памяти. В настоящее время наиболее подходящими считаются синхронные ДОЗУ (СДОЗУ), при этом выбор конкретного типа СДОЗУ зависит от типа системы ИИ, осуществляющей обучение или формирование логического вывода.
Основные типы СДОЗУ для систем ИИ
На сегодняшний день существует четыре класса СДОЗУ, применяемых в системах ИИ, каждый из которых имеет свои собственные целевые применения и компромиссы:
• DDR – СДОЗУ с технологией ввода/вывода данных через интерфейс ДОЗУ с удвоенной скоростью (double data rate). Цифра после DDR означает поколение данной технологии.
Параметры технологии с каждым поколением совершенствуются – уменьшается потребляемая мощность и увеличивается пропускная способность. DDR СДОЗУ (далее просто DDR), как правило, используется в центральных процессорах (и, в частности, в процессорах со сложной архитектурой набора команд – CISC). Программы могут иметь сложную ветвящуюся структуру и выполнять широкий спектр операций, и DDR оптимизирована для таких вычислений.
• LPDDR – DDR с низким энергопотреблением (Low-Power DDR), аналогична DDR, но включает в себя ряд функций, которые постепенно добавлялись на протяжении последующих поколений с целью снижения энергопотребления при сохранении высокой производительности. Ее функции энергосбережения включают:
Последние поколения LPDDR содержат более сложную структуру тактовых импульсов, в которой постоянно работает основной тактовый генератор с учетверенной скоростью и из которого выводятся несколько полноскоростных тактовых импульсов, запускаемых только при необходимости.
LPDDR не встраиваются в модули памяти с двухрядным расположением выводов (DIMM), а размещаются в корпусах с матричным расположением шариковых выводов (BGA) и припаиваются непосредственно к плате.
• GDDR – графическая DDR (graphics DDR), вариант, созданный в дополнение к графическим процессорам для обработки графики. По сравнению с DDR она характеризуется, с одной стороны, гораздо более высокой пропускной способностью при передаче больших объемов графических данных, а с другой – большим временем задержки.
• HBM – память с высокой пропускной способностью (high-bandwidth memory), состоящая из этажерки кристаллов ДОЗУ с очень широкими шинами, которые могут обеспечить очень высокую пропускную способность и малое время задержки. Это позволяет доступу к памяти не быть узким местом в вычислениях с интенсивным использованием данных, таких как обучение ИИ, формирование логических выводов ИИ и высокопроизводительные вычисления (high-performance computing, HPC).
Основные различия между этими четырьмя типами ДОЗУ заключаются не в ячейках памяти, а в протоколах доступа. Эти различные подходы к доступу могут существенно повлиять на производительность и энергопотребление (рис. 1).
Достоинства и недостатки СДОЗУ для ИИ
Схемы DDR играют определенную роль в центрах обработки данных (ЦОД), но обычно они обслуживают центральные процессоры, координирующие вычислительные операции. Как правило, DDR широко используются в серверах и золотым стандартом на сегодня являются DDR5 регистровые DIMM (RDIMM). Некоторые фирмы уже переходят на DDR5 мультиплексированные RDIMM (MRDIMM), которые позволяют удвоить пропускную способность за счет объединения двух RDIMM. То есть обеспечивают повышенную производительность при использовании ныне доступных ДОЗУ. Схемы DDR5 MRDIMM отличаются достаточно низкими ценами и энергопотреблением.
Но DDR не оптимизированы для работы с паттернами данных (data patterns – повторяющиеся структуры, отношения и закономерности, которые существуют в наборе данных) ИИ. Если производителям DDR не удастся значительно снизить время ожидания и увеличить производительность, эти схемы не смогут конкурировать с LPPDR
с точки зрения эффективности и с GDDR/HBM с точки зрения производительности.
Главное достоинство DDR – их широкое распространение и дешевизна. Они хорошо подходят для массовых устройств, оптимизированных под формирование логических выводов и не требующих ограничения энергопотребления. То есть для любых устройств, работающих от сети (дома, в офисе, на заводе) или оснащенных собственной силовой установкой (в автомобиле). В этих случаях DDR наиболее оптимальны по соотношению быстродействия и стоимости. Приложения формирования логических выводов, работающие на подсистемах нейронных процессоров (neural processing unit, NPU), интеллектуально управляющие внешней памятью, способны пакетно и предварительно получать доступ к DDR для максимального повышения производительности, при этом за счет широкой доступности DDR достигается существенная экономия.
LPDDR обеспечивают наилучшее соотношение пропускной способности и потребляемой мощности для устройств с батарейным питанием. Большие объемы выпуска LPDDR для рынка мобильных телефонов делают их экономически выгодным выбором для большинства новых потребительских и портативных устройств, ориентированных на ИИ.
Некоторые отраслевые специалисты полагают, что с помощью LPDDR можно попытаться создать «HBM для бедных». LPDDR также внедряется в ЦОД в качестве одного из способов снижения энергопотребления, хотя и не предлагает всего, что нужно поставщикам услуг гиперразмерных вычисленийiv. Основным недостатком LPDDR является отсутствие функций обеспечения надежности, доступности, удобства обслуживания (reliability, availability, serviceability, RAS), и эти схемы не обладают должной степенью функций контроля и исправления одиночных ошибок памяти (error correction code, ECC).
LPDDR также может заменить DDR в системах осуществляющих краевые вычисления, где важна производительность.
Схемы GDDR реже других типов СДОЗУ встречаются в системах ИИ. Их пропускная способность выше, чем у LPDDR, но ниже, чем у HBM. Они стоят дешевле, чем HBM или LPDDR, но дороже DDR. Кроме того, нет очевидного параметра, требующего применения GDDR в каком-либо классе ИИ-систем.
GDDR слишком дороги для потребительских устройств, ориентированных на формирование логических выводов, а хорошо спроектированный NPU с автономной компиляцией позволяет ИИ-системе обойтись без GDDR. В ЦОД преимущество в скорости обработки данных HBM позволило этим схемам вытеснить схемы GDDR.
Тем не менее, схемы GDDR перспективны для генерирующих алгоритмов, связанных с графикой (при условии, что вышеперечисленные ограничения их возможностей не являются препятствием). Они в основном используются для графики и некоторых аспектов генерирующего ИИ. Поскольку наблюдается тенденция роста моделей генерации изображений и видео, возможно увеличение спроса на GDDR, но пока производители ИИ-систем не увеличивают спрос на эти схемы.
Основная область применения схем HBM – ЦОДы, а применение – обучение ИИ-систем, для чего требуется более высокая пропускная способность, чем для формирования логических выводов. По сравнению с другими СДОЗУ для систем ИИ они отличаются наибольшей ценой и энергопотреблением. Поэтому до сих пор не зарегистрировано применения HBM за пределами ЦОД – даже на рынке автомобилей высокого класса. Правда в сфере ЦОД также набирают популярность и LPDDR и GDDR – в дополнение к HBM.
Поставщикам второго уровня, разрабатывающим ИИ- системы, приходится искать компромиссы. Как правило, используется сочетание наиболее производительных версий DDR и LPDDR. По LPDDR это версии LPDDR5 и/или LPDDR6.
Одним из перспективных направлений является разработка заказных HBM, когда крупные покупатели могут сотрудничать с производителями памяти. Цель сотрудничества – заменить стандартный логический базовый кристалл, расположенный в нижней части этажерки,
на заказной кристалл с фирменными функциями заказчика (повышающими добавленную стоимость), или даже с оптимизированными каналами. Переход на заказные HBM, использующие какой-либо из фирменных протоколов межкристальной связи заказчика, может обеспечить лучшую пропускную способность и эффективность работы под конкретную ИИ-систему.
Высокая температура является проблемой для всех схем памяти, но для HBM она особо критична, поскольку это этажерка, а любая этажерка создает проблемы с отводом тепла, особенно от кристаллов, расположенных в ее середине. Разработчики видят выход в многофизическом моделировании (multi-physics simulation), то есть одновременном моделировании различных аспектов физической системы и взаимодействий между ними. Но для этого требуются более точные модели.
С точки зрения геополитики, HBM практически недоступны для КНР (из-за введенных США ограничений). Поэтому китайские компании для своих разработок в области ИИ сегодня используют LPDDR5X, а в области перспективных разработок начинают переход на LPDDR6 [3].
Проблемы ИС для мобильных
телефонов в эру ИИ
Технологии краевого ИИ AI, генеративного ИИv и средства связи следующего поколения увеличивают нагрузку на мобильные телефоны и используемые в них системы-на-кристалле (SoC), которые и без того нуждаются в высокой производительности и низком энергопотреблении.
Мобильные телефоны премиум-класса характеризуются различными конфигурациями, а используемые в них SoC имеют неоднородную архитектуру – в них есть различных по проектным нормам и функциональности блоки, являющиеся единым программно-аппаратным комплексом.
Разработка SоC для мобильного рынка становится все более сложной из-за быстрого развития сетей ИИ и растущего разнообразия требований к моделям ИИ. В отличие от традиционных рабочих нагрузок, модели ИИ – особенно LLM и трансформерные вариантыvi – постоянно меняются по таким параметрам, как архитектура, размеры и требования к вычислениям. Это осложняет задачи разработчиков ИС, ведь поддержку будущих возможностей ИИ нужно реализовать на физическом уровне («в кремнии), который невозможно изменить после изготовления. Ситуация усугубляется еще более из-за необходимости поддерживать оба полюса спектра использования ИИ – от массивных облачных моделей до компактных, эффективных моделей (например TinyLlama), оптимизированных для формирования логических выводов на пользовательских устройствах. Такие компактные LLM имеют решающее значение для обеспечения интеллектуальных функций мобильных и встраиваемых устройств в условиях жестких ограничений по энергопотреблению и объему памяти.
Помимо воздействия на SoC, для мобильных телефонов ИИ способствует внесению изменений в автономные процессоры и в выполняемые ими задачи.
Самые масштабные изменения происходят по двум направлениям. Во-первых, в экосистеме Arm, а также в RISC-V усовершенствованы архитектуры центральных процессоров. Для ускорения различных математических функций, необходимых для трансформерных моделей, разработчики добавляют блоки векторных математических вычислений. Во-вторых, совершенствуются нейронные процессоры, которые можно рассматривать как графические процессоры, но которые ориентированы именно на ускорение моделей ИИ. В основном это векторные математические модули, предназначенные для ускорения выполнения различных операндов в модели.
За последние несколько лет проекты разработки как графических, так и нейронных процессоров регулярно обновлялись для соответствия новым вариантам использования. Графические процессоры, как правило, занимают около 25% площади всех кристаллов ИС, используемых в мобильных телефонах премиум-класса. Площадь нейронных процессоров также увеличивается, что позволяет выполнять большую часть рабочих нагрузок, они стали неотъемлемой частью реализации задач, требующих очень мало энергии.
При включении мобильного телефона премиум-класса, большая часть используемой в нем модели ИИ должна находиться в ДОЗУ. Это означает, что подключение для считывания с универсального флеш-хранилища (UFS) на SoC должно быть очень эффективным (рис. 2).
Этим определяется время ожидания. Причем необязательно выгружать всю модель сразу. Обычно используемые LLM могут работать в качестве ускорителя ИИ на кристалле. Но необходимо их подключение к ДОЗУ для выполнения вычислений, с последующим возвращением данных (или аудио/видео контента) пользователю. В мобильных устройствах такие операции должны быть очень эффективны, поскольку потребляемая мощность чрезвычайно важна. Такая схема сокращает объем передаваемых данных. Мобильные телефоны с UFS, с целью экономии заряда, желательно переводить в спящий режим настолько часто, насколько это возможно. Отраслевые специалисты ожидают, что возможности подключения к системам хранения данных и ДОЗУ будут развиваться очень быстро – намного быстрее, чем раньше.
Еще одна проблема разработчиков SoC для мобильных телефонов – постоянное развитие стандартов связи.
Наконец, сложность разработки SoC для мобильных телефонов отягощается появлением мультимодальных моделей ИИ и инструментов GenAI (таких как Stable Diffusion), объединяющих обработку текста, изображений, а иногда и аудио в единую архитектуру. Эти модели требуют гибкой и эффективной вычислительной структуры, способной обрабатывать различные типы данных и схемы выполнения. Для обеспечения устойчивости в условиях неопределенности и быстрого развития ИИ, подсистема ИИ должна проектироваться
с учетом перспектив на будущее. Это часто предполагает интеграцию программируемых IP-блоков с нейронным процессором, что позволяет SoC адаптироваться к новым архитектурам моделей и рабочим нагрузкам после реализации SoC на физическом уровне. Поддержка такого широкого спектра вариантов использования ИИ требует, чтобы SoC были не только мощными и эффективными, но и архитектурно гибкими. Это делает разработку кристаллов ИС, ориентированных на ИИ, одним из самых динамичных и сложных направлений в области мобильных вычислений [4].
ИИ стимулирует переход мобильных телефонов старших моделей от SoC
к многокристальным системам
Ключевым фактором отличия рынка мобильных телефонов старших моделей (наиболее производительные и дорогие) от рынков средних и младших моделей становится использование вместо SoC многокристальных систем. Они в большей степени соответствуют растущим требованиям систем ИИ. В отличие от SoC, формируемых на одном кристалле, многокристальные системы изготавливаются за счет использования перспективных технологий сборки и корпусирования (2,5D, 3D) большего числа кристаллов. Эти технологии обеспечивают более высокую производительность, большую гибкость и более быстрый вывод продукции на рынок по сравнению с SoC.
Монолитные SoC с их компактностью чрезвычайно эффективны и зачастую превосходят по производительности более сложные системы в расчете на один процессор. Расстояния, на которые должны передаваться сигналы, невелики, мощность, необходимая для передачи этих сигналов, ниже, а тепло можно отводить с помощью простого радиатора.
В многокристальных системах для повышения производительности используется несколько кристаллов различного типа, а для снижения сопротивления и емкости используется больше межсоединений. В таких случаях вычислительный модуль «зеркалируется» и подключается с помощью высокопроизводительного горизонтального межкристального интерфейса и перспективных методик сборки и корпусирования (рис. 3). Многокристальные системы позволяют использовать в мобильных телефонах старших моделей системы ИИ более высокого уровня. Кроме того, при их проектировании в САПР используются элементы ИИ – для выполнения рутинных операций, ускорения процесса проектирования.
В перспективе речь идет о вертикальном масштабировании – 3D-этажерке кристаллов, что позволит значительно увеличить пропускную способность межсоединений. При этом наиболее производительные кристаллы выполняются по наименьшим проектным нормам, в другие – по более зрелым нормам. Такая гетерогенная интеграция кристаллов с разными проектными нормами и функциональностью позволяет достичь компромисса между производительностью и стоимостью. Однако 3D ИС в мобильных телефонах пока не используются из-за сложностей теплоотвода.
В 2000–2010 годах рынок мобильной связи в значительной степени зависел от перспективных технологий с постоянно уменьшающимися проектными нормами. Но с уменьшением выгод от планарного масштабирования в эпоху FinFET, невозможностью масштабирования СОЗУ и растущими требованиями к облачным массивным вычислительным мощностям, усложнением систем ИИ, системные компании перешли от монолитных SoC к 2,5D гетерогенным (по проектным нормам и функциональности) системам с несколькими кристаллами, подключенными через интерпозер (на котором и располагаются одна или несколько этажерок кристаллов). Такой подход позволяет конфигурировать многокристальную систему под конкретное применение, в том числе под конкретную систему ИИ, обеспечивая высокую гибкость проектирования и производства [5].
***
Взаимное воздействие элементной базы и САПР на развитие систем ИИ и систем ИИ на совершенствование элементной базы и соответствующих САПР способствуют ускорению развития данных направлений. Для систем ИИ в ЦОДах главным остается повышение производительности. Для краевых систем ИИ, особенно в приборах с батарейным питанием, основное направление совершенствования – увеличение объема обрабатываемых на месте данных и уменьшение объема их передачи в облако.
ЛИТЕРАТУРА
Макушин М. Искусственный интеллект: новые архитектуры ИИ процессоров и расширение
роли в проектировании ИС // ЭЛЕКТРОНИКА: Наука, Технология, Бизнес. 2024. № 10 (00241). С. 138–147.
Bailey B. Multi-Modal AI In EDA Development Flows // Semiconductor Engineering. July 31st, 2025.
Moyer B. The Best DRAMs For Artificial Intelligence //Semiconductor Engineering. June 12th, 2025.
Allan L. Mobile Chip Challenges In The AI Era // Semiconductor Engineering. June 5th, 2025.
Allan L. AI Pushes High-End Mobile From SoCs To Multi-Die // Semiconductor Engineering. July 8th, 2025.
М. Макушин
Развитие искусственного интеллекта невозможно без создания специализированной элементной базы и инструментальных средств САПР для ее проектирования. В то же время внедрение систем ИИ воздействует на разработку новых САПР, их функционирование. Также системы ИИ оказывают большое влияние на проектирование ИС (как для систем ИИ, так и для прочих применений), позволяя облегчить и ускорить выполнение рутинных операций, процессов верификации и оптимизации конструкций ИС, а также в целом сократить цикл проектирования.
Отраслевые специалисты отмечают, что роль ИИ в проектировании ИС постоянно расширяется – по мере усложнения инструментальных средств САПР [1]. Для поддержки работы систем ИИ с точки зрения схем памяти в настоящее время в основном используются ДОЗУ. Воздействие систем ИИ на элементную базу наглядно проявляется в сфере мобильных телефонов старших моделей (по функциональности и цене). Наблюдаемые здесь тенденции со временем могут распространиться на модели среднего, а затем и младшего уровней (то же самое касается и других электронных систем). Усложнение ИС, обеспечивающих работу систем ИИ, требует новых подходов к обеспечению их электропитания.
Использование
мультимодального ИИ в САПР
Одним из критически важных этапов при разработке полупроводниковых приборов является кодирование на уровне регистровых передач (register transfer level, RTL). Многие отраслевые специалисты утверждают, что это не самый сложный этап. Сложность нарастает по мере приближения к реализации: контекст системы становится больше, чем может быть описан одним лишь текстом. Список графических форм, используемых в качестве как входных, так и выходных данных, обширен – структурные схемы, временные диаграммы, временные диаграммы сигналов, графики состояний, блок-схемы, архитектурные планы, топологические чертежи, тепловые карты. ИИ должен уметь их понимать и генерировать.
Разработка моделей ИИ, используемых в инструментальных средствах автоматизированного проектирования (САПР), носит фрагментарный характер. Для распознавания изображений, обработки текста, аудио, формирования логических выводов и генерации текста часто используются отдельные (унимодальные) системы. Их интеграция проблематична и значительно увеличивает вычислительную нагрузку и энергопотребление.
Вторая проблема заключается в том, что большинство современных систем ИИ не понимают физические аспекты размещения компонентов. Топологический чертеж определяет расположение транзистора или IP-блокаi относительно других блоков, но производительность первых зависит от этих блоков (узкие места по производительности/скорости передачи данных, тепловыделение и т.п.). Кроме того, эти блоки могут влиять на последующие решения на более позднем этапе проектирования.
В чем важность мультимодального ИИ?
Основным преимуществом систем мультимодального ИИ, по сравнению с традиционными унимодальными системами, является их способность интегрировать данные из различных источников.
При рассмотрении отдельных функций в процессе проектирования становится очевидной ценность текста, дополненного графикой. При верификации такие факторы, как изображения, таблицы, диаграммы переходов состояний и многое другое, очень полезны в двух областях. Первый аспект — извлечение замысла проекта, то есть понимание его предназначения. В этом процессе важно понимать структурные схемы и диаграммы переходов состояний, которые сложно представить в виде текста. Все это необходимо распознавать для понимания спецификаций. Второй аспект – временные диаграммы сигналов. Они особенные, поскольку отражают как пространство, так и время, что чрезвычайно важно при отладке.
Действительно, после создания планов проведения испытаний и испытательных стендов, их запуска могут происходить различные отказы, причины которых необходимо выяснить. В процессе отладки требуется отслеживать состояние каждой переменной во времени. Для этого и нужны временные диаграммы сигналов.
Верификация – один из самых ресурсоемких аспектов процесса проектирования, поэтому ей уделяется много внимания. Для верификации наиболее ценен мультимодальный ИИ, поскольку позволяет инструментальному средству САПР считывать те же спецификации, что
и инженеру. К ним относятся тексты PDF-файлов, временные диаграммы, таблицы состояний и карты регистров. Затем их понимание можно преобразовать в RTL-код и еще в ряд необходимых параметров.
Оптимизация часто включает в себя итерации, подвергающиеся воздействию многомодальных ограничений. Если представить себе создание агента мультимодального ИИ, то он, по сути, будет супернабором отдельных подсказок, формирующих процесс проектирования. Такие агенты могут просматривать результаты, получать обратную связь и выполнять ряд действий. Агент должен понимать все абстракции проекта, различные базы данных, все различные источники информации – в том числе от простого архитектурного плана до всего процесса размещения и маршрутизации. Это включает в себя логические файлы, PDF-файлы, PDF-файлы с изображениями, GDSIIii и карты перегрузок.
Обучение и специализация
Обычно у каждой команды разработчиков внутри компании есть собственные стили проектирования, руководства по проектированию, и часто они связаны
с разрабатываемыми продуктами. Соответственно, обучение можно провести только на внутренних данных компании. Смешивать и сопоставлять данные разных компаний бессмысленно ввиду различия их продукции – наборы обучающих данных для САПР с мультимодальным ИИ для разработки энергоэффективного краевого процессораiii будут сильно отличаться от обучающих данных аналогичной САПР для разработки высокопроизводительного центрального процессора.
В принципе, существует два способа создания руководства по наборам обучающих данных для САПР с мультимодальным ИИ. Один из них – сделать его частью программы большой языковой модели (large language model, LLM), проведя тонкую настройку. В этом варианте
проектировщики пытаются научить LLM большему объему знаний о конкретных архитектурах, например RISC-V и т.п. Второй способ – создать сложную структуру RAG (Retrieval Augmented Generation) – фреймворк взаимодействия LLM с базой знаний. В этом случае, как только добавляется идентификатор, сообщающий о проведении верификации RISC-V с использованием протокола шины AMBA, система должна иметь возможность вернуться назад и проверить наличие любой предыдущей информации о RISC-V и протоколе шины AMBA для RISC-V.
В процессе верификации можно создавать огромные синтетические наборы данных. Большая часть визуальной информации при верификации, например, временные диаграммы и пространства состояний, изначально генерируется из какого-то фрагмента кода. Это означает возможность создания собственных обучающих данных, не полагаясь на редкие примеры из реального мира.
Модели можно обучить понимать текстовую информацию, диаграммы и временные диаграммы сигналов отдельно от кода. Это снижает потребность в кодовых данных. Однако эти данные очень разрозненны, что означает необходимость использования подхода обучения с подкреплением, при котором система может обучаться, взаимодействуя с существующими инструментальными средствами и системами, а не просто корректируя код напрямую.
Проблемы и риски
Индустрия САПР развивается быстро, но не все ее направления развиваются синхронно. В этом потенциал возникновения различных проблем. В частности на пути от НИОКР по созданию прототипа до его внедрения в производство. Новейшие перспективные модели ИИ могут быть очень хороши в различных модальностях, но они могут не подходить для безопасных сред проектирования [2].
Наиболее перспективные ДОЗУ для систем ИИ
При интенсивных вычислениях ИИ, выполняемых центральными процессорами, графическими процессорами или специализированными ускорителями, требуются схемы памяти. В настоящее время наиболее подходящими считаются синхронные ДОЗУ (СДОЗУ), при этом выбор конкретного типа СДОЗУ зависит от типа системы ИИ, осуществляющей обучение или формирование логического вывода.
Основные типы СДОЗУ для систем ИИ
На сегодняшний день существует четыре класса СДОЗУ, применяемых в системах ИИ, каждый из которых имеет свои собственные целевые применения и компромиссы:
• DDR – СДОЗУ с технологией ввода/вывода данных через интерфейс ДОЗУ с удвоенной скоростью (double data rate). Цифра после DDR означает поколение данной технологии.
Параметры технологии с каждым поколением совершенствуются – уменьшается потребляемая мощность и увеличивается пропускная способность. DDR СДОЗУ (далее просто DDR), как правило, используется в центральных процессорах (и, в частности, в процессорах со сложной архитектурой набора команд – CISC). Программы могут иметь сложную ветвящуюся структуру и выполнять широкий спектр операций, и DDR оптимизирована для таких вычислений.
• LPDDR – DDR с низким энергопотреблением (Low-Power DDR), аналогична DDR, но включает в себя ряд функций, которые постепенно добавлялись на протяжении последующих поколений с целью снижения энергопотребления при сохранении высокой производительности. Ее функции энергосбережения включают:
- пониженное напряжение питания;
- частоту обновления с температурной компенсацией, позволяющую реже обновлять данные в холодном состоянии;
- режимы глубокого и частичного отключения питания;
- опции частичного обновления массива;
- регулировку записи, компенсирующую перекос между сигналами, стробирующими данные, и тактовым сигналами;
- технологию динамического масштабирования напряжения и частоты (Dynamic Voltage and Frequency Scaling, DVFS), позволяющую снижать потребляемую мощность за счет снижения рабочей частоты (в зависимости от реальной рабочей нагрузки), а также еще ряд функций.
Последние поколения LPDDR содержат более сложную структуру тактовых импульсов, в которой постоянно работает основной тактовый генератор с учетверенной скоростью и из которого выводятся несколько полноскоростных тактовых импульсов, запускаемых только при необходимости.
LPDDR не встраиваются в модули памяти с двухрядным расположением выводов (DIMM), а размещаются в корпусах с матричным расположением шариковых выводов (BGA) и припаиваются непосредственно к плате.
• GDDR – графическая DDR (graphics DDR), вариант, созданный в дополнение к графическим процессорам для обработки графики. По сравнению с DDR она характеризуется, с одной стороны, гораздо более высокой пропускной способностью при передаче больших объемов графических данных, а с другой – большим временем задержки.
• HBM – память с высокой пропускной способностью (high-bandwidth memory), состоящая из этажерки кристаллов ДОЗУ с очень широкими шинами, которые могут обеспечить очень высокую пропускную способность и малое время задержки. Это позволяет доступу к памяти не быть узким местом в вычислениях с интенсивным использованием данных, таких как обучение ИИ, формирование логических выводов ИИ и высокопроизводительные вычисления (high-performance computing, HPC).
Основные различия между этими четырьмя типами ДОЗУ заключаются не в ячейках памяти, а в протоколах доступа. Эти различные подходы к доступу могут существенно повлиять на производительность и энергопотребление (рис. 1).
Достоинства и недостатки СДОЗУ для ИИ
Схемы DDR играют определенную роль в центрах обработки данных (ЦОД), но обычно они обслуживают центральные процессоры, координирующие вычислительные операции. Как правило, DDR широко используются в серверах и золотым стандартом на сегодня являются DDR5 регистровые DIMM (RDIMM). Некоторые фирмы уже переходят на DDR5 мультиплексированные RDIMM (MRDIMM), которые позволяют удвоить пропускную способность за счет объединения двух RDIMM. То есть обеспечивают повышенную производительность при использовании ныне доступных ДОЗУ. Схемы DDR5 MRDIMM отличаются достаточно низкими ценами и энергопотреблением.
Но DDR не оптимизированы для работы с паттернами данных (data patterns – повторяющиеся структуры, отношения и закономерности, которые существуют в наборе данных) ИИ. Если производителям DDR не удастся значительно снизить время ожидания и увеличить производительность, эти схемы не смогут конкурировать с LPPDR
с точки зрения эффективности и с GDDR/HBM с точки зрения производительности.
Главное достоинство DDR – их широкое распространение и дешевизна. Они хорошо подходят для массовых устройств, оптимизированных под формирование логических выводов и не требующих ограничения энергопотребления. То есть для любых устройств, работающих от сети (дома, в офисе, на заводе) или оснащенных собственной силовой установкой (в автомобиле). В этих случаях DDR наиболее оптимальны по соотношению быстродействия и стоимости. Приложения формирования логических выводов, работающие на подсистемах нейронных процессоров (neural processing unit, NPU), интеллектуально управляющие внешней памятью, способны пакетно и предварительно получать доступ к DDR для максимального повышения производительности, при этом за счет широкой доступности DDR достигается существенная экономия.
LPDDR обеспечивают наилучшее соотношение пропускной способности и потребляемой мощности для устройств с батарейным питанием. Большие объемы выпуска LPDDR для рынка мобильных телефонов делают их экономически выгодным выбором для большинства новых потребительских и портативных устройств, ориентированных на ИИ.
Некоторые отраслевые специалисты полагают, что с помощью LPDDR можно попытаться создать «HBM для бедных». LPDDR также внедряется в ЦОД в качестве одного из способов снижения энергопотребления, хотя и не предлагает всего, что нужно поставщикам услуг гиперразмерных вычисленийiv. Основным недостатком LPDDR является отсутствие функций обеспечения надежности, доступности, удобства обслуживания (reliability, availability, serviceability, RAS), и эти схемы не обладают должной степенью функций контроля и исправления одиночных ошибок памяти (error correction code, ECC).
LPDDR также может заменить DDR в системах осуществляющих краевые вычисления, где важна производительность.
Схемы GDDR реже других типов СДОЗУ встречаются в системах ИИ. Их пропускная способность выше, чем у LPDDR, но ниже, чем у HBM. Они стоят дешевле, чем HBM или LPDDR, но дороже DDR. Кроме того, нет очевидного параметра, требующего применения GDDR в каком-либо классе ИИ-систем.
GDDR слишком дороги для потребительских устройств, ориентированных на формирование логических выводов, а хорошо спроектированный NPU с автономной компиляцией позволяет ИИ-системе обойтись без GDDR. В ЦОД преимущество в скорости обработки данных HBM позволило этим схемам вытеснить схемы GDDR.
Тем не менее, схемы GDDR перспективны для генерирующих алгоритмов, связанных с графикой (при условии, что вышеперечисленные ограничения их возможностей не являются препятствием). Они в основном используются для графики и некоторых аспектов генерирующего ИИ. Поскольку наблюдается тенденция роста моделей генерации изображений и видео, возможно увеличение спроса на GDDR, но пока производители ИИ-систем не увеличивают спрос на эти схемы.
Основная область применения схем HBM – ЦОДы, а применение – обучение ИИ-систем, для чего требуется более высокая пропускная способность, чем для формирования логических выводов. По сравнению с другими СДОЗУ для систем ИИ они отличаются наибольшей ценой и энергопотреблением. Поэтому до сих пор не зарегистрировано применения HBM за пределами ЦОД – даже на рынке автомобилей высокого класса. Правда в сфере ЦОД также набирают популярность и LPDDR и GDDR – в дополнение к HBM.
Поставщикам второго уровня, разрабатывающим ИИ- системы, приходится искать компромиссы. Как правило, используется сочетание наиболее производительных версий DDR и LPDDR. По LPDDR это версии LPDDR5 и/или LPDDR6.
Одним из перспективных направлений является разработка заказных HBM, когда крупные покупатели могут сотрудничать с производителями памяти. Цель сотрудничества – заменить стандартный логический базовый кристалл, расположенный в нижней части этажерки,
на заказной кристалл с фирменными функциями заказчика (повышающими добавленную стоимость), или даже с оптимизированными каналами. Переход на заказные HBM, использующие какой-либо из фирменных протоколов межкристальной связи заказчика, может обеспечить лучшую пропускную способность и эффективность работы под конкретную ИИ-систему.
Высокая температура является проблемой для всех схем памяти, но для HBM она особо критична, поскольку это этажерка, а любая этажерка создает проблемы с отводом тепла, особенно от кристаллов, расположенных в ее середине. Разработчики видят выход в многофизическом моделировании (multi-physics simulation), то есть одновременном моделировании различных аспектов физической системы и взаимодействий между ними. Но для этого требуются более точные модели.
С точки зрения геополитики, HBM практически недоступны для КНР (из-за введенных США ограничений). Поэтому китайские компании для своих разработок в области ИИ сегодня используют LPDDR5X, а в области перспективных разработок начинают переход на LPDDR6 [3].
Проблемы ИС для мобильных
телефонов в эру ИИ
Технологии краевого ИИ AI, генеративного ИИv и средства связи следующего поколения увеличивают нагрузку на мобильные телефоны и используемые в них системы-на-кристалле (SoC), которые и без того нуждаются в высокой производительности и низком энергопотреблении.
Мобильные телефоны премиум-класса характеризуются различными конфигурациями, а используемые в них SoC имеют неоднородную архитектуру – в них есть различных по проектным нормам и функциональности блоки, являющиеся единым программно-аппаратным комплексом.
Разработка SоC для мобильного рынка становится все более сложной из-за быстрого развития сетей ИИ и растущего разнообразия требований к моделям ИИ. В отличие от традиционных рабочих нагрузок, модели ИИ – особенно LLM и трансформерные вариантыvi – постоянно меняются по таким параметрам, как архитектура, размеры и требования к вычислениям. Это осложняет задачи разработчиков ИС, ведь поддержку будущих возможностей ИИ нужно реализовать на физическом уровне («в кремнии), который невозможно изменить после изготовления. Ситуация усугубляется еще более из-за необходимости поддерживать оба полюса спектра использования ИИ – от массивных облачных моделей до компактных, эффективных моделей (например TinyLlama), оптимизированных для формирования логических выводов на пользовательских устройствах. Такие компактные LLM имеют решающее значение для обеспечения интеллектуальных функций мобильных и встраиваемых устройств в условиях жестких ограничений по энергопотреблению и объему памяти.
Помимо воздействия на SoC, для мобильных телефонов ИИ способствует внесению изменений в автономные процессоры и в выполняемые ими задачи.
Самые масштабные изменения происходят по двум направлениям. Во-первых, в экосистеме Arm, а также в RISC-V усовершенствованы архитектуры центральных процессоров. Для ускорения различных математических функций, необходимых для трансформерных моделей, разработчики добавляют блоки векторных математических вычислений. Во-вторых, совершенствуются нейронные процессоры, которые можно рассматривать как графические процессоры, но которые ориентированы именно на ускорение моделей ИИ. В основном это векторные математические модули, предназначенные для ускорения выполнения различных операндов в модели.
За последние несколько лет проекты разработки как графических, так и нейронных процессоров регулярно обновлялись для соответствия новым вариантам использования. Графические процессоры, как правило, занимают около 25% площади всех кристаллов ИС, используемых в мобильных телефонах премиум-класса. Площадь нейронных процессоров также увеличивается, что позволяет выполнять большую часть рабочих нагрузок, они стали неотъемлемой частью реализации задач, требующих очень мало энергии.
При включении мобильного телефона премиум-класса, большая часть используемой в нем модели ИИ должна находиться в ДОЗУ. Это означает, что подключение для считывания с универсального флеш-хранилища (UFS) на SoC должно быть очень эффективным (рис. 2).
Этим определяется время ожидания. Причем необязательно выгружать всю модель сразу. Обычно используемые LLM могут работать в качестве ускорителя ИИ на кристалле. Но необходимо их подключение к ДОЗУ для выполнения вычислений, с последующим возвращением данных (или аудио/видео контента) пользователю. В мобильных устройствах такие операции должны быть очень эффективны, поскольку потребляемая мощность чрезвычайно важна. Такая схема сокращает объем передаваемых данных. Мобильные телефоны с UFS, с целью экономии заряда, желательно переводить в спящий режим настолько часто, насколько это возможно. Отраслевые специалисты ожидают, что возможности подключения к системам хранения данных и ДОЗУ будут развиваться очень быстро – намного быстрее, чем раньше.
Еще одна проблема разработчиков SoC для мобильных телефонов – постоянное развитие стандартов связи.
Наконец, сложность разработки SoC для мобильных телефонов отягощается появлением мультимодальных моделей ИИ и инструментов GenAI (таких как Stable Diffusion), объединяющих обработку текста, изображений, а иногда и аудио в единую архитектуру. Эти модели требуют гибкой и эффективной вычислительной структуры, способной обрабатывать различные типы данных и схемы выполнения. Для обеспечения устойчивости в условиях неопределенности и быстрого развития ИИ, подсистема ИИ должна проектироваться
с учетом перспектив на будущее. Это часто предполагает интеграцию программируемых IP-блоков с нейронным процессором, что позволяет SoC адаптироваться к новым архитектурам моделей и рабочим нагрузкам после реализации SoC на физическом уровне. Поддержка такого широкого спектра вариантов использования ИИ требует, чтобы SoC были не только мощными и эффективными, но и архитектурно гибкими. Это делает разработку кристаллов ИС, ориентированных на ИИ, одним из самых динамичных и сложных направлений в области мобильных вычислений [4].
ИИ стимулирует переход мобильных телефонов старших моделей от SoC
к многокристальным системам
Ключевым фактором отличия рынка мобильных телефонов старших моделей (наиболее производительные и дорогие) от рынков средних и младших моделей становится использование вместо SoC многокристальных систем. Они в большей степени соответствуют растущим требованиям систем ИИ. В отличие от SoC, формируемых на одном кристалле, многокристальные системы изготавливаются за счет использования перспективных технологий сборки и корпусирования (2,5D, 3D) большего числа кристаллов. Эти технологии обеспечивают более высокую производительность, большую гибкость и более быстрый вывод продукции на рынок по сравнению с SoC.
Монолитные SoC с их компактностью чрезвычайно эффективны и зачастую превосходят по производительности более сложные системы в расчете на один процессор. Расстояния, на которые должны передаваться сигналы, невелики, мощность, необходимая для передачи этих сигналов, ниже, а тепло можно отводить с помощью простого радиатора.
В многокристальных системах для повышения производительности используется несколько кристаллов различного типа, а для снижения сопротивления и емкости используется больше межсоединений. В таких случаях вычислительный модуль «зеркалируется» и подключается с помощью высокопроизводительного горизонтального межкристального интерфейса и перспективных методик сборки и корпусирования (рис. 3). Многокристальные системы позволяют использовать в мобильных телефонах старших моделей системы ИИ более высокого уровня. Кроме того, при их проектировании в САПР используются элементы ИИ – для выполнения рутинных операций, ускорения процесса проектирования.
В перспективе речь идет о вертикальном масштабировании – 3D-этажерке кристаллов, что позволит значительно увеличить пропускную способность межсоединений. При этом наиболее производительные кристаллы выполняются по наименьшим проектным нормам, в другие – по более зрелым нормам. Такая гетерогенная интеграция кристаллов с разными проектными нормами и функциональностью позволяет достичь компромисса между производительностью и стоимостью. Однако 3D ИС в мобильных телефонах пока не используются из-за сложностей теплоотвода.
В 2000–2010 годах рынок мобильной связи в значительной степени зависел от перспективных технологий с постоянно уменьшающимися проектными нормами. Но с уменьшением выгод от планарного масштабирования в эпоху FinFET, невозможностью масштабирования СОЗУ и растущими требованиями к облачным массивным вычислительным мощностям, усложнением систем ИИ, системные компании перешли от монолитных SoC к 2,5D гетерогенным (по проектным нормам и функциональности) системам с несколькими кристаллами, подключенными через интерпозер (на котором и располагаются одна или несколько этажерок кристаллов). Такой подход позволяет конфигурировать многокристальную систему под конкретное применение, в том числе под конкретную систему ИИ, обеспечивая высокую гибкость проектирования и производства [5].
***
Взаимное воздействие элементной базы и САПР на развитие систем ИИ и систем ИИ на совершенствование элементной базы и соответствующих САПР способствуют ускорению развития данных направлений. Для систем ИИ в ЦОДах главным остается повышение производительности. Для краевых систем ИИ, особенно в приборах с батарейным питанием, основное направление совершенствования – увеличение объема обрабатываемых на месте данных и уменьшение объема их передачи в облако.
ЛИТЕРАТУРА
Макушин М. Искусственный интеллект: новые архитектуры ИИ процессоров и расширение
роли в проектировании ИС // ЭЛЕКТРОНИКА: Наука, Технология, Бизнес. 2024. № 10 (00241). С. 138–147.
Bailey B. Multi-Modal AI In EDA Development Flows // Semiconductor Engineering. July 31st, 2025.
Moyer B. The Best DRAMs For Artificial Intelligence //Semiconductor Engineering. June 12th, 2025.
Allan L. Mobile Chip Challenges In The AI Era // Semiconductor Engineering. June 5th, 2025.
Allan L. AI Pushes High-End Mobile From SoCs To Multi-Die // Semiconductor Engineering. July 8th, 2025.
Отзывы читателей
