eng
Выпуск #9/2024
Ю. Ковалевский
ПЛЕНАРНЫЕ ЗАСЕДАНИЯ РОССИЙСКОГО ФОРУМА «МИКРОЭЛЕКТРОНИКА 2024». ЧАСТЬ 1
ПЛЕНАРНЫЕ ЗАСЕДАНИЯ РОССИЙСКОГО ФОРУМА «МИКРОЭЛЕКТРОНИКА 2024». ЧАСТЬ 1
Просмотры: 549
DOI: 10.22184/1992-4178.2024.240.9.38.45
Пленарные заседания Российского форума «Микроэлектроника 2024». Часть 1
Ю. Ковалевский
В этом году Российский форум «Микроэлектроника» состоялся в десятый раз, отметив первую круглую дату. Форум начался с серии пленарных заседаний, которые проходили в течение трех дней. Первая часть статьи посвящена мероприятиям, проводившимся 23 и 24 сентября, где прозвучали приветственные обращения к участникам форума Президента Российской Федерации В. В. Путина и Председателя Правительства РФ М. В. Мишустина.
В рамках пленарного заседания на вопросы представителей отрасли ответили первый заместитель Председателя Правительства РФ Д. В. Мантуров, министр промышленности и торговли РФ А. А. Алиханов, министр науки и высшего образования РФ В. Н. Фальков, министр цифрового развития, связи и массовых коммуникаций РФ М. И. Шадаев, а также президент и председатель правления ПАО Сбербанк Г. О. Греф, прозвучал доклад заместителя министра промышленности и торговли РФ В. В. Шпака о реализации основ государственной политики в сфере электроники, обсуждались вопросы создания доверенных программно-аппаратных комплексов и ЭКБ для объектов критической информационной инфраструктуры.
Первое пленарное заседание форума: приветственные слова и ответы
на вопросы
В начале первого пленарного заседания, состоявшегося 23 сентября, председатель Программного комитета Российского форума «Микроэлектроника 2024», член Совета Безопасности Российской Федерации, руководитель приоритетного технологического направления «Электронные технологии», академик РАН Г. Я. Красников зачитал приветствие Президента Российской Федерации В. В. Путина участникам, организаторам и гостям форума. В приветственном обращении, в частности, было отмечено, что электронная промышленность является одной из ключевых стратегических отраслей современной экономики; от ее развития во многом зависит обороноспособность и безопасность нашей страны, ее индустриальный и научный потенциал, состояние инфраструктуры, финансового сектора, качества жизни граждан. Также глава государства поздравил участников форума с наступающим Днем работника электронной промышленности, который отмечается в этом году впервые.
С приветственным словом к участникам форума обратился Председатель Правительства Российской Федерации М. В. Мишустин. Он, помимо прочего, отметил, что форум стал крупной, авторитетной дискуссионной площадкой, которая собирает тысячи ведущих специалистов отрасли. «Здесь ученые, представители бизнеса и органов власти ищут ответы на самые актуальные вопросы, обмениваются мнениями, идеями, опытом, могут объединить усилия в перспективных проектах, в том числе проектах, которые направлены на укрепление нашего технологического, промышленного суверенитета и, конечно, безопасности нашей страны», – сказал глава правительства. Также М. В. Мишустин привел ряд результатов поддержки, оказываемой государством в области развития отечественной электронной промышленности. В частности, было отмечено, что благодаря льготной ставке по налогу на прибыль и сниженным тарифам страховых взносов только в прошлом году организации радиоэлектроники сэкономили свыше 70 млрд руб. «На ближайшем заседании правительства рассмотрим законопроект о продлении этой меры еще на три года с использованием механизма льготных ставок. Кроме того, прорабатывается вопрос распространения ее действия и на предприятия – что очень важно – электронного машиностроения, в том числе на производителей специальных материалов и веществ, которые применяются в производстве микроэлектроники», – сообщил М. В. Мишустин.
Также прозвучала информация о том, что в 2020 году бюджетные инвестиции в отрасль не превышали 10 млрд руб., а по итогам текущего года они должны превзойти этот показатель почти в 15 раз. Всего за четыре года на развитие отрасли из бюджета было выделено свыше 430 млрд руб. За первое полугодие объем производства электроники и оптических изделий вырос на 35% относительно соответствующего периода 2023 года.
Отметив значимые достижения отрасли последнего времени, М. В. Мишустин указал на то, что общий настрой необходимо сохранить, поскольку впереди еще много работы. «В ближайшие годы предстоит создать крепкий фундамент для технологически суверенной электронной индустрии страны, в том числе на основе собственных разработок и формирования всех необходимых компетенций», – сказал он, представив далее сведения о первоочередных задачах и дальнейшей поддержке в их решении со стороны государства.
В завершение своего выступления глава правительства поздравил участников форума с наступающим профессиональным праздником и поблагодарил за тот вклад, который они вносят в формирование технологического будущего нашей страны, а также пожелал конструктивной работы и продуктивного диалога в выработке самых эффективных решений на благо нашей страны, чтобы осуществить намеченные цели и планы.
После приветственных слов Г. Я. Красников сообщил аудитории, что по итогам форума 2023 года было выработано немало предложений и проектов решений, и те идеи, которые были озвучены в прошлом году, были реализованы практически на 90%. Также президент РАН озвучил вопросы, интересующие отраслевое сообщество, после чего микрофон был передан в зал участникам пленарного заседания.
На заданные вопросы ответили первый заместитель Председателя Правительства РФ Д. В. Мантуров, министр промышленности и торговли РФ А. А. Алиханов, министр науки и высшего образования РФ В. Н. Фальков, министр цифрового развития, связи и массовых коммуникаций РФ М. И. Шадаев, а также президент и председатель правления ПАО Сбербанк Г. О. Греф.
Важнейшими темами обсуждения стали: продление налоговых льгот для предприятий отрасли; авансирование госконтрактов; поддержка отечественного электронного машиностроения и разработки специальных материалов для производства микроэлектроники; работы по созданию отечественных САПР; обеспечение практической подготовки кадров для отрасли, прежде всего технологов, а также промышленных дизайнеров; взаимодействие предприятий промышленности с университетами; формирование спроса на микроэлектронику и фотонику; инвестиции в отрасль; развитие искусственного интеллекта и других передовых технологий; переход на доверенные ПАК.
В конце первого пленарного заседания форума состоялось торжественное вручение государственных и ведомственных наград работникам предприятий отрасли, высокотехнологичных компаний, учебных и научных организаций.
Пленарное заседание «О реализации основ государственной политики
в сфере электроники»
Пленарное заседание «О реализации основ государственной политики в сфере электроники» состоялось во второй день работы форума. В начале мероприятия
Г. Я. Красников, выступивший в роли модератора, представил некоторые сведения о форуме этого года. В частности, он сообщил, что в форуме принимают участие более 3,3 тыс. участников и 300 слушателей Школы молодых ученых. Количество докладов научной конференции форума, включающей 13 секций, составило 1 147. В рамках деловой программы проводится более 30 круглых столов. Также председатель Программного комитета Российского форума «Микроэлектроника 2024» отметил важность специальных программ для детей, организованных на мероприятии.
Затем прозвучал доклад заместителя министра промышленности и торговли РФ В. В. Шпака. В начале доклада были приведены результаты работы министерства и отрасли, достигнутые с 2020 года. Докладчик отметил, что с тех пор был принят ряд стратегических документов, обеспечивших кратный рост финансирования отрасли и разнообразные инструменты поддержки. С тех пор объемы производства радиоэлектронной продукции росли, несмотря на сложности. По итогам 2023 года на территории России было произведено электронной продукции, включая компоненты и аппаратуру, на 2,6 трлн руб. По словам В. В. Шпака, есть все предпосылки, что данный показатель по итогам текущего года будет на треть выше.
Заместитель министра обратил внимание, что численность сотрудников растет намного медленнее, что, с одной стороны, указывает на дефицит кадров, но с другой – свидетельствует о существенном повышении производительности труда.
Рассказав о результатах работы за последние годы, он напомнил о главной цели дальнейшего развития – достижении технологического суверенитета в области электроники. В качестве основных показателей, которые должны быть достигнуты к 2030 году, были обозначены: объем производства в размере 6,3 трлн руб. в год; обеспечение внутренних потребностей в электронной продукции по номенклатуре не менее чем на 70%; обеспечение суверенитета в области ресурсов и средств производства; освоение топологических норм 28 нм и ниже, новых материалов и других новых технологий.
В. В. Шпак в своем докладе уделил внимание действующим мерам поддержки отрасли, отметив, что данная поддержка оказывается не только Минпромторгом России, но и различными фондами и институтами развития, включая Российский научный фонд, Фонд содействия инновациям, Фонд перспективных исследований, Фонд развития промышленности, Фонд «Сколково», Агентство по технологическому развитию.
Отдельно заместитель министра остановился на такой мере поддержки, как налоговые льготы для предприятий отрасли. Было отмечено, что ведется работа по продлению льготы по налогу на прибыль организаций. Вместе с тем рассматривается возможность введения механизма, предусматривающего увязку объема получаемых организацией льгот с объемом осуществляемых инвестиций в развитие предприятия (в основной капитал, НИОКР и т. д.)1.
Говоря о развитии отечественного электронного машиностроения, В. В. Шпак отметил, что в этом направлении ведется системная работа в рамках комплексной программы. Реализуется уже более 100 проектов в области создания оборудования, материалов, средств автоматизированного проектирования. В этом году завершатся разработки установки литографии для производства ИС с топологическими нормами 350 нм и установки контроля рисунка фотошаблонов до 90 нм. В следующем году ожидается готовность оборудования для эпитаксии гетероструктур, применяемых в СВЧ- и оптоэлектронике, а также для плазмохимических процессов. В докладе было уделено внимание решению таких задач, как импортозамещение ключевых комплектующих технологического оборудования, стандартизация в сфере электронного машиностроения, подготовка кадров для данного направления.
Также В. В. Шпак рассказал о развитии в стране микроэлектронных технологий, в том числе в области СВЧ-электроники.
Еще одним проектом, информация о котором прозвучала в докладе, стал эксперимент по маркировке электронной продукции. Заместитель министра указал на то, что маркировка не только поможет бороться с контрафактной продукцией и с попытками выдать импортную продукцию за произведенную в России, но и позволит повысить эффективность прогнозирования и планирования развития отрасли. По его словам, маркировка –
один из первых шагов для перехода к более качественному управлению отраслью.
Было отмечено, что для дальнейшего наращивания темпов производства существуют резервы как на уровне предприятий, заключающиеся в повышении эффективности и производительности труда, так и на уровне общеотраслевого управления. Для повышения эффективности взаимодействия между всеми участниками отрасли, использования имеющихся компетенций, исключения дублирования работ и в целом качественного планирования необходима полная и достоверная информация. На текущий момент разработана архитектура отраслевой системы поддержки принятия решений, призванной помочь в решении этих задач. В. В. Шпак призвал участников отрасли к активному предоставлению данных для наполнения этой системы. Такая совместная работа, по его словам, сможет качественно улучшить решение вопросов управления, более грамотно перераспределять ресурсы, находить конкретные ниши для предприятий, обладающих наибольшими знаниями и умениями в соответствующих направлениях, что в конечном счете приведет к росту производства и, как следствие, прибыли каждого предприятия.
По завершении доклада В. В. Шпак, а также директор Департамента радиоэлектронной промышленности Минпромторга России Ю. В. Плясунов ответили на ряд вопросов аудитории.
Пленарное заседание «Доверенные программно-аппаратные комплексы и ЭКБ для объектов критической информационной инфраструктуры (КИИ)»
Во второй половине дня 24 сентября состоялось пленарное заседание, посвященное доверенным программно-аппаратным комплексам (ДПАК) и ЭКБ для объектов КИИ.
Модератор мероприятия, заместитель директора Центра экстремальной прикладной электроники НИЯУ МИФИ А. Ю. Никифоров, открывая заседание, сообщил краткие сведения о нормативных правовых актах в области применения ДПАК на объектах КИИ, о работе по стандартизации в этой сфере, а также обозначил ряд вопросов, связанных с данным направлением, которые не имеют очевидного ответа и которые предлагалось, в частности, обсудить в ходе заседания. Среди них были вопросы эквивалентности понятий «российские ПАК и ЭКБ» и «доверенные ПАК и ЭКБ»; значимости качества, с одной стороны,
и безопасности – с другой, для обеспечения доверенности;
необходимости достижения максимальных уровней качества и безопасности либо тех их уровней, которые можно считать рациональными с точки зрения конкретных областей применения, и др.
После вступительного слова модератора прозвучал доклад А. Б. Шевченко, директора по технологическому развитию Государственной корпорации по атомной энергии «Росатом». В докладе, в частности, была представлена информация о деятельности госкорпорации в сфере ДПАК и доверенной ЭКБ для объектов КИИ. Было отмечено, что в июле текущего года в Федеральный закон от 1 декабря 2007 года № 317-ФЗ «О Государственной корпорации по атомной энергии “Росатом”» были внесены изменения, наделившие госкорпорацию полномочиями по осуществлению деятельности в области КИИ, в том числе по формированию научно-технической политики, отраслевому регулированию и проведению НИОКР. Деятельность по всем этим направлениям сейчас уже осуществляется ГК «Росатом».
В сентябре 2022 года в соответствии с Указом Президента РФ от 30 марта 2022 года № 166 в рамках ГК «Росатом» было создано НПО «КИС», в задачи которого входят разработка, производство, техническое обслуживание и эксплуатация ДПАК для КИИ. На сегодняшний день, по словам докладчика, НПО «КИС» выполняет две основные функции: анализ планов перехода объектов КИИ на ДПАК и составление прогнозов. Кроме этого, данная структура занимается вопросами проведения НИР и ОКР, организацией разработки отечественных САПР, а также стандартизацией – на базе НПО «КИС» создан ТК 167 «Программно-аппаратные комплексы для критической информационной инфраструктуры и программное обеспечение для них».
А. Б. Шевченко привел основные результаты деятельности НПО «КИС» за прошедший период и планы на ближайшее будущее. В частности, было отмечено, что планируется создание порядка 100 стандартов с целью четкого описания области безопасности и технологической независимости КИИ. Кроме того, на базе ГК «Росатом» решением Г. Я. Красникова был создан совет по развитию решений в сфере КИИ, задача которого состоит в определении «технологических коридоров», то есть требований и возможностей в области развития КИИ.
Помимо этого, докладчик уделил внимание вопросу подготовки кадров для сферы КИИ, обозначив особые требования к инженерам, работающим в этой области, а также пилотному проекту, запущенному ГК «Росатом» и направленному на отработку методологии, связанной с ДПАК и доверенным ПО. По словам А. Б. Шевченко, проект должен быть завершен на рубеже 2024–2025 годов, и его результаты смогут быть масштабированы по стране.
А. А. Заренин, заместитель министра цифрового развития, связи и массовых коммуникаций РФ, выступил с коротким сообщением, в котором напомнил, что к 2030 году на значимых объектах КИИ не должно остаться недоверенного оборудования, а также указал на то, что в общем случае под доверенными понимаются ПАК, аппаратная часть которых внесена в Единый реестр российской радиоэлектронной продукции, а программное обеспечение – в Единый реестр российских программ для электронных вычислительных машин и баз данных. Также в отдельных случаях требуется наличие заключений ФСТЭК и ФСБ. Отметив, что каждое ведомство, ответственное за регулирование отраслей экономики, должно установить конкретные требования к перечню ДПАК, заместитель министра рассказал о том, что такой перечень для операторов связи разработан и в настоящее время ведется работа по переходу на ДПАК в данной сфере, а также по разработке необходимых ДПАК, которые на данный момент отсутствуют на рынке. Указав, что эта работа создает гарантированный спрос на соответствующую продукцию электронной и радиоэлектронной промышленности, А. А. Заренин выразил готовность к диалогу как с разработчиками, так и с потребителями для решения поставленных задач.
Доклад заместителя директора Департамента радиоэлектронной промышленности Минпромторга России А. А. Гапонова был озаглавлен «Приоритеты и механизмы государственной политики в области создания ЭКБ для доверенных ПАК». Освещая эту тему, докладчик указал, в частности, на поставленные стратегические планы по достижению технологического уровня в области микроэлектроники 28 нм и менее. По его словам, согласно экспертным оценкам, более 90% потребностей в сфере КИИ обеспечиваются технологиями с нормами не ниже 28 нм. Также ведутся работы по развитию технологических опций, повышению функциональности микроэлектронных производств и локализации продуктов, ранее производимых за рубежом. Было сказано, что множество проектов реализуется и в сфере продуктового развития в интересах КИИ в рамках мер поддержки Минпромторга России.
А. А. Гапонов отметил, что для обеспечения доверенности недостаточно того, что изделие разрабатывается и производится в России. С тем чтобы изделия были способны противостоять угрозам, ведется работа по выстраиванию плотного взаимодействия между производителями и заказчиками. При этом внимание должно уделяться применению российских компонентов – не только микросхем, но и пассивной ЭКБ. При наличии отечественной ЭКБ ее использование в разработке доверенной аппаратуры должно стать правилом.
Также были упомянуты некоторые действующие меры поддержки, включая меры в соответствии с постановлениями Правительства РФ от 16 декабря 2020 года № 2136, от 24 июля 2021 года № 1252, от 17 февраля 2016 года № 109, от 22 февраля 2023 года № 295, от 6 сентября 2022 года № 1570 и др.
Далее выступил А. В. Глейм, начальник Департамента квантовых коммуникаций ОАО «РЖД». Он напомнил, что между ОАО «РЖД» и Правительством РФ в 2019 году было подписано соглашение по развитию технологического направления «Квантовые коммуникации». По словам докладчика, организация защищенных коммуникаций – активно развивающаяся тематика, и в рамках рынка традиционных средств защищенной передачи данных ищутся новые модели предоставления услуг, при этом наиболее перспективной выглядит сервисная модель. А. В. Глейм обозначил в качестве задачи в области квантовых коммуникаций, которая видится на горизонте 2025–2030 годов, переход от корпоративных сетей к модели предоставления сервисов, что ставит ряд вызовов, таких как организация межоператорского взаимодействия, вопросы стыковки зон ответственности в информационной безопасности и др. Докладчик обозначил необходимые шаги для решения данной задачи, а также действия, предпринимаемые в этом направлении уже сейчас. Среди проектов, находящихся в контексте мероприятия, были упомянуты разработки отечественных специализированных фотодиодов, оптических фильтров, клиентского оборудования и др.
В докладе были приведены данные об уже существующих сетях квантовых коммуникаций и планах по их развитию, включая проект по созданию космической квантовой связи. Также было уделено внимание нормативному регулированию в данной сфере, международному сотрудничеству и другим вопросам.
Д. П. Зегжда, член-корреспондент РАН, директор Института компьютерных наук и кибербезопасности СПбПУ, в своем выступлении рассказал о перспективных методах исследования и оценки киберустойчивости доверенных ПАК для объектов критической информационной инфраструктуры. Как и в прошлом году, он акцентировал внимание на вопросе формирования киберустойчивости – задаче оценки доверенности на основе разработки критериев, позволяющих проверить надежность и безопасность функционирования ПАК, в том числе в условиях кибератак. Докладчик предложил формализовать критерии оценки ПАК и ПО. По его мнению, задачи анализа доверенности должны решаться на основе получения знаний о системе – на основе снижения энтропии, снижения степени неопределенности наших знаний. В докладе были обозначены три критерия оценки такой доверенности – вероятностный, энтропийный и риск-критерий. Д. П. Зегжда своим выступлением проложил некий «мостик» между доверенностью и надежностью. Он отметил, что доверенность – более жесткий критерий, чем надежность, и, кроме того, прокомментировал масштабные кибератаки последних месяцев. Актуализацию новых критериев киберустойчивости докладчик связал с кризисом доверия к электронной технике и политическим кризисом. Россия всё еще остается одной из наиболее кибератакуемых стран мира, что отдельно обостряет вопрос формирования киберустойчивости.
Руководитель рабочей группы «Доверенные интегральные схемы» ТК 167, заместитель директора АИЦ ИБСЗИ НИЯУ МИФИ Л. Н. Кессаринский в начале доклада привел определение доверенного изделия активной ЭКБ согласно ПНСТ 911-2024 «Критическая информационная инфраструктура. Доверенные интегральные микросхемы и электронные модули. Общие положения», звучащее следующим образом: «Изделие активной электронной компонентной базы с подтвержденным свойством соответствия заданным требованиям по качеству (работоспособности, надежности и стойкости) и безопасности (информационной, функциональной и технологической)». Докладчик отметил, что критерии по трем перечисленным видам безопасности задаются потребителем, а уровень доверенности изделия определяется способом подтверждения, который дает возможность потребителю понять, насколько данное изделие соответствует заданным требованиям.
Также Л. Н. Кессаринский представил основные постулаты базового подхода к определению доверенной ЭКБ: в основе задаваемых требований к изделию лежат общие требования и правила разработки типовых моделей эксплуатации и угроз по качеству и безопасности; обеспечивается прослеживаемость процессов жизненного цикла; при наличии сомнений в полноте и достоверности информации о процессах, промежуточных результатах
и т. п., этот недостаток информации компенсируется результатами испытаний.
Затем докладчик предложил ответы на некоторые вопросы, заданные модератором в начале заседания.
В частности, он указал на то, что меры обеспечения трех видов безопасности могут противоречить друг другу. Максимальный уровень по всем трем составляющим одновременно почти не достижим на практике, поэтому при задании уровня безопасности доверенной ЭКБ необходимо ориентироваться на соответствующую модель угроз. Иными словами, должны задаваться именно рациональные, а не максимальные требования по безопасности.
Также было отмечено, что термины «российская ЭКБ» и «доверенная ЭКБ» не являются эквивалентными. Более того, в рамках предложенного в докладе подхода требования к процессам жизненного цикла ЭКБ должны регламентироваться с единых позиций, что позволяет перейти от таких понятий, как «отечественная» или «иностранная» ЭКБ, к объективным техническим критериям.
По вопросу важности для доверенной ЭКБ уровней качества и безопасности было сказано, что эти параметры, безусловно, важны, но могут иметь различный вес в рамках конкретной задачи.
Л. Н. Кессаринский рассмотрел также другие вопросы обеспечения доверенности ЭКБ.
К. А. Трушкин, заместитель генерального директора по маркетингу АО «МЦСТ», представил доклад «Создание и внедрение доверенных ПАК для КИИ с локализованным жизненным циклом», в котором был рассмотрен способ подтверждения доверенности путем контроля жизненного цикла изделия. Этот способ может включать в том числе интеграцию технологий безопасности в аппаратуру и ПО, а также обеспечение безопасности на уровне разработки (Secure by Design).
По словам К. А. Трушкина, фундамент функционирования ПАК находится на стыке аппаратного и программного обеспечения и включает ядра универсального процессора, компиляторы, программу начального старта и ОС. Владение этими компонентами позволяет в значительной степени изолировать приложения от особенностей аппаратуры, а владение процессорными ядрами способствует обеспечению технологической безопасности: в случае необходимости можно перейти на другую фабрику, почти не затрагивая стек программного обеспечения. Рассмотрев цикл разработки ПАК и указав на высокую вероятность наличия ошибок в столь сложных изделиях, как процессор, докладчик отметил, что должна существовать возможность обхода этих ошибок посредством ПО, что, в свою очередь, указывает на необходимость владения и ключевыми компонентами программной части ПАК.
Кроме того, в докладе были приведены доводы в пользу развития собственной экосистемы в сравнении с применением существующей, такой как RISC-V, а также предложен способ плавного перехода на отечественные доверенные программно-аппаратные платформы с проверенных зарубежных решений, основанный на параллельном применении нескольких (новых отечественных и ранее применявшихся зарубежных) платформ в рамках одного ПАК.
Заключительным докладом заседания стал доклад исполнительного директора АО «НПП «Радар ммс» И. Г. Анцева, в котором рассматривался вопрос обеспечения доверенными компонентами и комплектующими беспилотных авиационных систем (БАС), а также текущее состояние рынка БАС и его перспективы, в том числе с точки зрения формирования спроса на доверенную ЭКБ. В частности, было сказано, что прогноз суммарного объема данного рынка на 2030 год составляет более чем 5 млн беспилотных летательных аппаратов. Также были приведены основные тренды развития БАС, включающие направления, связанные с ИИ, вычислениями на борту и сенсорикой.
Среди достижений последнего времени была отмечена недавно разработанная система расхождения беспилотных летательных аппаратов с другими воздушными средствами (как беспилотными, так и пилотируемыми). Также были рассмотрены доступность отечественных решений, технологий и прогнозируемые потребности в области основных комплектующих БАС, таких как полетные контроллеры, регуляторы оборотов, оптические системы, системы связи.
В завершение доклада И. Г. Анцев отметил, что для того чтобы воспользоваться возможностями, которые открывает рынок БАС для электронной промышленности, необходимо долгосрочное государственное планирование, без которого производители беспилотных систем не смогут сформировать планы по потреблению ЭКБ. Также, по мнению докладчика, необходима поддержка со стороны государства в виде субсидий, особенно на ранних этапах – до выхода на большие объемы производства.
По завершении докладов состоялась дискуссия по теме заседания с участием докладчиков и аудитории мероприятия.
В материале использованы фото, предоставленные ООО «ПрофКонференции»
Ю. Ковалевский
В этом году Российский форум «Микроэлектроника» состоялся в десятый раз, отметив первую круглую дату. Форум начался с серии пленарных заседаний, которые проходили в течение трех дней. Первая часть статьи посвящена мероприятиям, проводившимся 23 и 24 сентября, где прозвучали приветственные обращения к участникам форума Президента Российской Федерации В. В. Путина и Председателя Правительства РФ М. В. Мишустина.
В рамках пленарного заседания на вопросы представителей отрасли ответили первый заместитель Председателя Правительства РФ Д. В. Мантуров, министр промышленности и торговли РФ А. А. Алиханов, министр науки и высшего образования РФ В. Н. Фальков, министр цифрового развития, связи и массовых коммуникаций РФ М. И. Шадаев, а также президент и председатель правления ПАО Сбербанк Г. О. Греф, прозвучал доклад заместителя министра промышленности и торговли РФ В. В. Шпака о реализации основ государственной политики в сфере электроники, обсуждались вопросы создания доверенных программно-аппаратных комплексов и ЭКБ для объектов критической информационной инфраструктуры.
Первое пленарное заседание форума: приветственные слова и ответы
на вопросы
В начале первого пленарного заседания, состоявшегося 23 сентября, председатель Программного комитета Российского форума «Микроэлектроника 2024», член Совета Безопасности Российской Федерации, руководитель приоритетного технологического направления «Электронные технологии», академик РАН Г. Я. Красников зачитал приветствие Президента Российской Федерации В. В. Путина участникам, организаторам и гостям форума. В приветственном обращении, в частности, было отмечено, что электронная промышленность является одной из ключевых стратегических отраслей современной экономики; от ее развития во многом зависит обороноспособность и безопасность нашей страны, ее индустриальный и научный потенциал, состояние инфраструктуры, финансового сектора, качества жизни граждан. Также глава государства поздравил участников форума с наступающим Днем работника электронной промышленности, который отмечается в этом году впервые.
С приветственным словом к участникам форума обратился Председатель Правительства Российской Федерации М. В. Мишустин. Он, помимо прочего, отметил, что форум стал крупной, авторитетной дискуссионной площадкой, которая собирает тысячи ведущих специалистов отрасли. «Здесь ученые, представители бизнеса и органов власти ищут ответы на самые актуальные вопросы, обмениваются мнениями, идеями, опытом, могут объединить усилия в перспективных проектах, в том числе проектах, которые направлены на укрепление нашего технологического, промышленного суверенитета и, конечно, безопасности нашей страны», – сказал глава правительства. Также М. В. Мишустин привел ряд результатов поддержки, оказываемой государством в области развития отечественной электронной промышленности. В частности, было отмечено, что благодаря льготной ставке по налогу на прибыль и сниженным тарифам страховых взносов только в прошлом году организации радиоэлектроники сэкономили свыше 70 млрд руб. «На ближайшем заседании правительства рассмотрим законопроект о продлении этой меры еще на три года с использованием механизма льготных ставок. Кроме того, прорабатывается вопрос распространения ее действия и на предприятия – что очень важно – электронного машиностроения, в том числе на производителей специальных материалов и веществ, которые применяются в производстве микроэлектроники», – сообщил М. В. Мишустин.
Также прозвучала информация о том, что в 2020 году бюджетные инвестиции в отрасль не превышали 10 млрд руб., а по итогам текущего года они должны превзойти этот показатель почти в 15 раз. Всего за четыре года на развитие отрасли из бюджета было выделено свыше 430 млрд руб. За первое полугодие объем производства электроники и оптических изделий вырос на 35% относительно соответствующего периода 2023 года.
Отметив значимые достижения отрасли последнего времени, М. В. Мишустин указал на то, что общий настрой необходимо сохранить, поскольку впереди еще много работы. «В ближайшие годы предстоит создать крепкий фундамент для технологически суверенной электронной индустрии страны, в том числе на основе собственных разработок и формирования всех необходимых компетенций», – сказал он, представив далее сведения о первоочередных задачах и дальнейшей поддержке в их решении со стороны государства.
В завершение своего выступления глава правительства поздравил участников форума с наступающим профессиональным праздником и поблагодарил за тот вклад, который они вносят в формирование технологического будущего нашей страны, а также пожелал конструктивной работы и продуктивного диалога в выработке самых эффективных решений на благо нашей страны, чтобы осуществить намеченные цели и планы.
После приветственных слов Г. Я. Красников сообщил аудитории, что по итогам форума 2023 года было выработано немало предложений и проектов решений, и те идеи, которые были озвучены в прошлом году, были реализованы практически на 90%. Также президент РАН озвучил вопросы, интересующие отраслевое сообщество, после чего микрофон был передан в зал участникам пленарного заседания.
На заданные вопросы ответили первый заместитель Председателя Правительства РФ Д. В. Мантуров, министр промышленности и торговли РФ А. А. Алиханов, министр науки и высшего образования РФ В. Н. Фальков, министр цифрового развития, связи и массовых коммуникаций РФ М. И. Шадаев, а также президент и председатель правления ПАО Сбербанк Г. О. Греф.
Важнейшими темами обсуждения стали: продление налоговых льгот для предприятий отрасли; авансирование госконтрактов; поддержка отечественного электронного машиностроения и разработки специальных материалов для производства микроэлектроники; работы по созданию отечественных САПР; обеспечение практической подготовки кадров для отрасли, прежде всего технологов, а также промышленных дизайнеров; взаимодействие предприятий промышленности с университетами; формирование спроса на микроэлектронику и фотонику; инвестиции в отрасль; развитие искусственного интеллекта и других передовых технологий; переход на доверенные ПАК.
В конце первого пленарного заседания форума состоялось торжественное вручение государственных и ведомственных наград работникам предприятий отрасли, высокотехнологичных компаний, учебных и научных организаций.
Пленарное заседание «О реализации основ государственной политики
в сфере электроники»
Пленарное заседание «О реализации основ государственной политики в сфере электроники» состоялось во второй день работы форума. В начале мероприятия
Г. Я. Красников, выступивший в роли модератора, представил некоторые сведения о форуме этого года. В частности, он сообщил, что в форуме принимают участие более 3,3 тыс. участников и 300 слушателей Школы молодых ученых. Количество докладов научной конференции форума, включающей 13 секций, составило 1 147. В рамках деловой программы проводится более 30 круглых столов. Также председатель Программного комитета Российского форума «Микроэлектроника 2024» отметил важность специальных программ для детей, организованных на мероприятии.
Затем прозвучал доклад заместителя министра промышленности и торговли РФ В. В. Шпака. В начале доклада были приведены результаты работы министерства и отрасли, достигнутые с 2020 года. Докладчик отметил, что с тех пор был принят ряд стратегических документов, обеспечивших кратный рост финансирования отрасли и разнообразные инструменты поддержки. С тех пор объемы производства радиоэлектронной продукции росли, несмотря на сложности. По итогам 2023 года на территории России было произведено электронной продукции, включая компоненты и аппаратуру, на 2,6 трлн руб. По словам В. В. Шпака, есть все предпосылки, что данный показатель по итогам текущего года будет на треть выше.
Заместитель министра обратил внимание, что численность сотрудников растет намного медленнее, что, с одной стороны, указывает на дефицит кадров, но с другой – свидетельствует о существенном повышении производительности труда.
Рассказав о результатах работы за последние годы, он напомнил о главной цели дальнейшего развития – достижении технологического суверенитета в области электроники. В качестве основных показателей, которые должны быть достигнуты к 2030 году, были обозначены: объем производства в размере 6,3 трлн руб. в год; обеспечение внутренних потребностей в электронной продукции по номенклатуре не менее чем на 70%; обеспечение суверенитета в области ресурсов и средств производства; освоение топологических норм 28 нм и ниже, новых материалов и других новых технологий.
В. В. Шпак в своем докладе уделил внимание действующим мерам поддержки отрасли, отметив, что данная поддержка оказывается не только Минпромторгом России, но и различными фондами и институтами развития, включая Российский научный фонд, Фонд содействия инновациям, Фонд перспективных исследований, Фонд развития промышленности, Фонд «Сколково», Агентство по технологическому развитию.
Отдельно заместитель министра остановился на такой мере поддержки, как налоговые льготы для предприятий отрасли. Было отмечено, что ведется работа по продлению льготы по налогу на прибыль организаций. Вместе с тем рассматривается возможность введения механизма, предусматривающего увязку объема получаемых организацией льгот с объемом осуществляемых инвестиций в развитие предприятия (в основной капитал, НИОКР и т. д.)1.
Говоря о развитии отечественного электронного машиностроения, В. В. Шпак отметил, что в этом направлении ведется системная работа в рамках комплексной программы. Реализуется уже более 100 проектов в области создания оборудования, материалов, средств автоматизированного проектирования. В этом году завершатся разработки установки литографии для производства ИС с топологическими нормами 350 нм и установки контроля рисунка фотошаблонов до 90 нм. В следующем году ожидается готовность оборудования для эпитаксии гетероструктур, применяемых в СВЧ- и оптоэлектронике, а также для плазмохимических процессов. В докладе было уделено внимание решению таких задач, как импортозамещение ключевых комплектующих технологического оборудования, стандартизация в сфере электронного машиностроения, подготовка кадров для данного направления.
Также В. В. Шпак рассказал о развитии в стране микроэлектронных технологий, в том числе в области СВЧ-электроники.
Еще одним проектом, информация о котором прозвучала в докладе, стал эксперимент по маркировке электронной продукции. Заместитель министра указал на то, что маркировка не только поможет бороться с контрафактной продукцией и с попытками выдать импортную продукцию за произведенную в России, но и позволит повысить эффективность прогнозирования и планирования развития отрасли. По его словам, маркировка –
один из первых шагов для перехода к более качественному управлению отраслью.
Было отмечено, что для дальнейшего наращивания темпов производства существуют резервы как на уровне предприятий, заключающиеся в повышении эффективности и производительности труда, так и на уровне общеотраслевого управления. Для повышения эффективности взаимодействия между всеми участниками отрасли, использования имеющихся компетенций, исключения дублирования работ и в целом качественного планирования необходима полная и достоверная информация. На текущий момент разработана архитектура отраслевой системы поддержки принятия решений, призванной помочь в решении этих задач. В. В. Шпак призвал участников отрасли к активному предоставлению данных для наполнения этой системы. Такая совместная работа, по его словам, сможет качественно улучшить решение вопросов управления, более грамотно перераспределять ресурсы, находить конкретные ниши для предприятий, обладающих наибольшими знаниями и умениями в соответствующих направлениях, что в конечном счете приведет к росту производства и, как следствие, прибыли каждого предприятия.
По завершении доклада В. В. Шпак, а также директор Департамента радиоэлектронной промышленности Минпромторга России Ю. В. Плясунов ответили на ряд вопросов аудитории.
Пленарное заседание «Доверенные программно-аппаратные комплексы и ЭКБ для объектов критической информационной инфраструктуры (КИИ)»
Во второй половине дня 24 сентября состоялось пленарное заседание, посвященное доверенным программно-аппаратным комплексам (ДПАК) и ЭКБ для объектов КИИ.
Модератор мероприятия, заместитель директора Центра экстремальной прикладной электроники НИЯУ МИФИ А. Ю. Никифоров, открывая заседание, сообщил краткие сведения о нормативных правовых актах в области применения ДПАК на объектах КИИ, о работе по стандартизации в этой сфере, а также обозначил ряд вопросов, связанных с данным направлением, которые не имеют очевидного ответа и которые предлагалось, в частности, обсудить в ходе заседания. Среди них были вопросы эквивалентности понятий «российские ПАК и ЭКБ» и «доверенные ПАК и ЭКБ»; значимости качества, с одной стороны,
и безопасности – с другой, для обеспечения доверенности;
необходимости достижения максимальных уровней качества и безопасности либо тех их уровней, которые можно считать рациональными с точки зрения конкретных областей применения, и др.
После вступительного слова модератора прозвучал доклад А. Б. Шевченко, директора по технологическому развитию Государственной корпорации по атомной энергии «Росатом». В докладе, в частности, была представлена информация о деятельности госкорпорации в сфере ДПАК и доверенной ЭКБ для объектов КИИ. Было отмечено, что в июле текущего года в Федеральный закон от 1 декабря 2007 года № 317-ФЗ «О Государственной корпорации по атомной энергии “Росатом”» были внесены изменения, наделившие госкорпорацию полномочиями по осуществлению деятельности в области КИИ, в том числе по формированию научно-технической политики, отраслевому регулированию и проведению НИОКР. Деятельность по всем этим направлениям сейчас уже осуществляется ГК «Росатом».
В сентябре 2022 года в соответствии с Указом Президента РФ от 30 марта 2022 года № 166 в рамках ГК «Росатом» было создано НПО «КИС», в задачи которого входят разработка, производство, техническое обслуживание и эксплуатация ДПАК для КИИ. На сегодняшний день, по словам докладчика, НПО «КИС» выполняет две основные функции: анализ планов перехода объектов КИИ на ДПАК и составление прогнозов. Кроме этого, данная структура занимается вопросами проведения НИР и ОКР, организацией разработки отечественных САПР, а также стандартизацией – на базе НПО «КИС» создан ТК 167 «Программно-аппаратные комплексы для критической информационной инфраструктуры и программное обеспечение для них».
А. Б. Шевченко привел основные результаты деятельности НПО «КИС» за прошедший период и планы на ближайшее будущее. В частности, было отмечено, что планируется создание порядка 100 стандартов с целью четкого описания области безопасности и технологической независимости КИИ. Кроме того, на базе ГК «Росатом» решением Г. Я. Красникова был создан совет по развитию решений в сфере КИИ, задача которого состоит в определении «технологических коридоров», то есть требований и возможностей в области развития КИИ.
Помимо этого, докладчик уделил внимание вопросу подготовки кадров для сферы КИИ, обозначив особые требования к инженерам, работающим в этой области, а также пилотному проекту, запущенному ГК «Росатом» и направленному на отработку методологии, связанной с ДПАК и доверенным ПО. По словам А. Б. Шевченко, проект должен быть завершен на рубеже 2024–2025 годов, и его результаты смогут быть масштабированы по стране.
А. А. Заренин, заместитель министра цифрового развития, связи и массовых коммуникаций РФ, выступил с коротким сообщением, в котором напомнил, что к 2030 году на значимых объектах КИИ не должно остаться недоверенного оборудования, а также указал на то, что в общем случае под доверенными понимаются ПАК, аппаратная часть которых внесена в Единый реестр российской радиоэлектронной продукции, а программное обеспечение – в Единый реестр российских программ для электронных вычислительных машин и баз данных. Также в отдельных случаях требуется наличие заключений ФСТЭК и ФСБ. Отметив, что каждое ведомство, ответственное за регулирование отраслей экономики, должно установить конкретные требования к перечню ДПАК, заместитель министра рассказал о том, что такой перечень для операторов связи разработан и в настоящее время ведется работа по переходу на ДПАК в данной сфере, а также по разработке необходимых ДПАК, которые на данный момент отсутствуют на рынке. Указав, что эта работа создает гарантированный спрос на соответствующую продукцию электронной и радиоэлектронной промышленности, А. А. Заренин выразил готовность к диалогу как с разработчиками, так и с потребителями для решения поставленных задач.
Доклад заместителя директора Департамента радиоэлектронной промышленности Минпромторга России А. А. Гапонова был озаглавлен «Приоритеты и механизмы государственной политики в области создания ЭКБ для доверенных ПАК». Освещая эту тему, докладчик указал, в частности, на поставленные стратегические планы по достижению технологического уровня в области микроэлектроники 28 нм и менее. По его словам, согласно экспертным оценкам, более 90% потребностей в сфере КИИ обеспечиваются технологиями с нормами не ниже 28 нм. Также ведутся работы по развитию технологических опций, повышению функциональности микроэлектронных производств и локализации продуктов, ранее производимых за рубежом. Было сказано, что множество проектов реализуется и в сфере продуктового развития в интересах КИИ в рамках мер поддержки Минпромторга России.
А. А. Гапонов отметил, что для обеспечения доверенности недостаточно того, что изделие разрабатывается и производится в России. С тем чтобы изделия были способны противостоять угрозам, ведется работа по выстраиванию плотного взаимодействия между производителями и заказчиками. При этом внимание должно уделяться применению российских компонентов – не только микросхем, но и пассивной ЭКБ. При наличии отечественной ЭКБ ее использование в разработке доверенной аппаратуры должно стать правилом.
Также были упомянуты некоторые действующие меры поддержки, включая меры в соответствии с постановлениями Правительства РФ от 16 декабря 2020 года № 2136, от 24 июля 2021 года № 1252, от 17 февраля 2016 года № 109, от 22 февраля 2023 года № 295, от 6 сентября 2022 года № 1570 и др.
Далее выступил А. В. Глейм, начальник Департамента квантовых коммуникаций ОАО «РЖД». Он напомнил, что между ОАО «РЖД» и Правительством РФ в 2019 году было подписано соглашение по развитию технологического направления «Квантовые коммуникации». По словам докладчика, организация защищенных коммуникаций – активно развивающаяся тематика, и в рамках рынка традиционных средств защищенной передачи данных ищутся новые модели предоставления услуг, при этом наиболее перспективной выглядит сервисная модель. А. В. Глейм обозначил в качестве задачи в области квантовых коммуникаций, которая видится на горизонте 2025–2030 годов, переход от корпоративных сетей к модели предоставления сервисов, что ставит ряд вызовов, таких как организация межоператорского взаимодействия, вопросы стыковки зон ответственности в информационной безопасности и др. Докладчик обозначил необходимые шаги для решения данной задачи, а также действия, предпринимаемые в этом направлении уже сейчас. Среди проектов, находящихся в контексте мероприятия, были упомянуты разработки отечественных специализированных фотодиодов, оптических фильтров, клиентского оборудования и др.
В докладе были приведены данные об уже существующих сетях квантовых коммуникаций и планах по их развитию, включая проект по созданию космической квантовой связи. Также было уделено внимание нормативному регулированию в данной сфере, международному сотрудничеству и другим вопросам.
Д. П. Зегжда, член-корреспондент РАН, директор Института компьютерных наук и кибербезопасности СПбПУ, в своем выступлении рассказал о перспективных методах исследования и оценки киберустойчивости доверенных ПАК для объектов критической информационной инфраструктуры. Как и в прошлом году, он акцентировал внимание на вопросе формирования киберустойчивости – задаче оценки доверенности на основе разработки критериев, позволяющих проверить надежность и безопасность функционирования ПАК, в том числе в условиях кибератак. Докладчик предложил формализовать критерии оценки ПАК и ПО. По его мнению, задачи анализа доверенности должны решаться на основе получения знаний о системе – на основе снижения энтропии, снижения степени неопределенности наших знаний. В докладе были обозначены три критерия оценки такой доверенности – вероятностный, энтропийный и риск-критерий. Д. П. Зегжда своим выступлением проложил некий «мостик» между доверенностью и надежностью. Он отметил, что доверенность – более жесткий критерий, чем надежность, и, кроме того, прокомментировал масштабные кибератаки последних месяцев. Актуализацию новых критериев киберустойчивости докладчик связал с кризисом доверия к электронной технике и политическим кризисом. Россия всё еще остается одной из наиболее кибератакуемых стран мира, что отдельно обостряет вопрос формирования киберустойчивости.
Руководитель рабочей группы «Доверенные интегральные схемы» ТК 167, заместитель директора АИЦ ИБСЗИ НИЯУ МИФИ Л. Н. Кессаринский в начале доклада привел определение доверенного изделия активной ЭКБ согласно ПНСТ 911-2024 «Критическая информационная инфраструктура. Доверенные интегральные микросхемы и электронные модули. Общие положения», звучащее следующим образом: «Изделие активной электронной компонентной базы с подтвержденным свойством соответствия заданным требованиям по качеству (работоспособности, надежности и стойкости) и безопасности (информационной, функциональной и технологической)». Докладчик отметил, что критерии по трем перечисленным видам безопасности задаются потребителем, а уровень доверенности изделия определяется способом подтверждения, который дает возможность потребителю понять, насколько данное изделие соответствует заданным требованиям.
Также Л. Н. Кессаринский представил основные постулаты базового подхода к определению доверенной ЭКБ: в основе задаваемых требований к изделию лежат общие требования и правила разработки типовых моделей эксплуатации и угроз по качеству и безопасности; обеспечивается прослеживаемость процессов жизненного цикла; при наличии сомнений в полноте и достоверности информации о процессах, промежуточных результатах
и т. п., этот недостаток информации компенсируется результатами испытаний.
Затем докладчик предложил ответы на некоторые вопросы, заданные модератором в начале заседания.
В частности, он указал на то, что меры обеспечения трех видов безопасности могут противоречить друг другу. Максимальный уровень по всем трем составляющим одновременно почти не достижим на практике, поэтому при задании уровня безопасности доверенной ЭКБ необходимо ориентироваться на соответствующую модель угроз. Иными словами, должны задаваться именно рациональные, а не максимальные требования по безопасности.
Также было отмечено, что термины «российская ЭКБ» и «доверенная ЭКБ» не являются эквивалентными. Более того, в рамках предложенного в докладе подхода требования к процессам жизненного цикла ЭКБ должны регламентироваться с единых позиций, что позволяет перейти от таких понятий, как «отечественная» или «иностранная» ЭКБ, к объективным техническим критериям.
По вопросу важности для доверенной ЭКБ уровней качества и безопасности было сказано, что эти параметры, безусловно, важны, но могут иметь различный вес в рамках конкретной задачи.
Л. Н. Кессаринский рассмотрел также другие вопросы обеспечения доверенности ЭКБ.
К. А. Трушкин, заместитель генерального директора по маркетингу АО «МЦСТ», представил доклад «Создание и внедрение доверенных ПАК для КИИ с локализованным жизненным циклом», в котором был рассмотрен способ подтверждения доверенности путем контроля жизненного цикла изделия. Этот способ может включать в том числе интеграцию технологий безопасности в аппаратуру и ПО, а также обеспечение безопасности на уровне разработки (Secure by Design).
По словам К. А. Трушкина, фундамент функционирования ПАК находится на стыке аппаратного и программного обеспечения и включает ядра универсального процессора, компиляторы, программу начального старта и ОС. Владение этими компонентами позволяет в значительной степени изолировать приложения от особенностей аппаратуры, а владение процессорными ядрами способствует обеспечению технологической безопасности: в случае необходимости можно перейти на другую фабрику, почти не затрагивая стек программного обеспечения. Рассмотрев цикл разработки ПАК и указав на высокую вероятность наличия ошибок в столь сложных изделиях, как процессор, докладчик отметил, что должна существовать возможность обхода этих ошибок посредством ПО, что, в свою очередь, указывает на необходимость владения и ключевыми компонентами программной части ПАК.
Кроме того, в докладе были приведены доводы в пользу развития собственной экосистемы в сравнении с применением существующей, такой как RISC-V, а также предложен способ плавного перехода на отечественные доверенные программно-аппаратные платформы с проверенных зарубежных решений, основанный на параллельном применении нескольких (новых отечественных и ранее применявшихся зарубежных) платформ в рамках одного ПАК.
Заключительным докладом заседания стал доклад исполнительного директора АО «НПП «Радар ммс» И. Г. Анцева, в котором рассматривался вопрос обеспечения доверенными компонентами и комплектующими беспилотных авиационных систем (БАС), а также текущее состояние рынка БАС и его перспективы, в том числе с точки зрения формирования спроса на доверенную ЭКБ. В частности, было сказано, что прогноз суммарного объема данного рынка на 2030 год составляет более чем 5 млн беспилотных летательных аппаратов. Также были приведены основные тренды развития БАС, включающие направления, связанные с ИИ, вычислениями на борту и сенсорикой.
Среди достижений последнего времени была отмечена недавно разработанная система расхождения беспилотных летательных аппаратов с другими воздушными средствами (как беспилотными, так и пилотируемыми). Также были рассмотрены доступность отечественных решений, технологий и прогнозируемые потребности в области основных комплектующих БАС, таких как полетные контроллеры, регуляторы оборотов, оптические системы, системы связи.
В завершение доклада И. Г. Анцев отметил, что для того чтобы воспользоваться возможностями, которые открывает рынок БАС для электронной промышленности, необходимо долгосрочное государственное планирование, без которого производители беспилотных систем не смогут сформировать планы по потреблению ЭКБ. Также, по мнению докладчика, необходима поддержка со стороны государства в виде субсидий, особенно на ранних этапах – до выхода на большие объемы производства.
По завершении докладов состоялась дискуссия по теме заседания с участием докладчиков и аудитории мероприятия.
В материале использованы фото, предоставленные ООО «ПрофКонференции»
Отзывы читателей
