Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
В НИУ ВШЭ 2 июня начала работу Всероссийская научная конференция «Искусственный интеллект и цифровая реальность», в рамках которой Институт робототехнических систем НИУ ВШЭ совместно с НСМИИ и КИ РАН при участии УрФУ имени первого Президента России Б.Н. Ельцина организовали работу секции «Этика в сфере ИИ и робототехнических систем». Открыла ее заседание директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева.
Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила она. «Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала Анастасия Углева. Она также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Лекторский отметил, что стремительная цифровизация открывает новые возможности, реализовывая задачи по делегированию машинам части задач человека. «А проблемы совершенствования и правового регулирования в сфере искусственного интеллекта — острейшие, они обсуждаются во всем мире, и от них зависит будущее всего человечества», — считает он. Одна из угроз состоит в том, что ИИ может однажды выйти из-под контроля, что требует особого внимания со стороны человека.
Обсуждаются также создание цифровой копии человека и последствия ее внедрения. «Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Нужно озаботиться вопросами сохранения свободы воли, потому что «если у вас нет свободы воли, то вы не отвечаете за свои действия», сказал ученый, и это не только философская, но и юридическая проблема.
Проблемы в связи с бурным развитием ИИ, по его словам, есть и в образовании. Школьники массово используют тексты, сгенерированные ИИ, и они «в высшей степени доверяют тому, что говорит ИИ». В этой связи миссия преподавателей в школе и в вузе — развивать критическое мышление у учащихся и прививать им навык самостоятельного принятия решений. «Возникает масса проблем, начиная от образования и до экономических проблем, творческих, то есть [мы пытаемся понять], что можно доверить ИИ, а что нет», — отметил Владислав Лекторский.
Екатерина Николаева, ведущий инженер-разработчик Центра робототехники Сбербанка, рассказала о ряде психологических феноменов, связанных с развитием ИИ. В частности, о когнитивной атрофии — постепенном угасании способности к самостоятельному критическому мышлению, анализу и генерации идей, вызванном хроническим делегированием когнитивных задач искусственному интеллекту, отметила она. Другой феномен — это патологическая зависимость от ИИ в самых разных сферах жизни. «Аддикция к ИИ — это патологическая зависимость от взаимодействия с системами искусственного интеллекта, характеризующаяся навязчивым влечением и синдромом отмены при недоступности ИИ», — пояснила Катерина Николаева.
По словам и.о. директора Всероссийского института научной и технической информации РАН (ВИНИТИ РАН) Сергея Гарбука, алгоритмы ИИ сегодня действительно «позволяют решать задачи в условиях отсутствия объяснимой модели наблюдаемого объекта». Однако нет никакой гарантии, что решения будут верными. В частности, по его словам, обсуждается возможность использовать ИИ для индивидуального расчета налогов для граждан. Но вопрос в том, «насколько будет корректным этот расчет», говорит Сергей Гарбук. По его словам, доверять можно системам, которые удовлетворяют уровню качества. Однако важно понять, какие критерии необходимо предъявлять к этому качеству.
«Системы становятся все более сложными, и испытания таких систем — это трудоемкий процесс. Дать гарантии, что система в любых условиях поведет себя корректно, практически невозможно», — пояснил Сергей Гарбук. Эксперт поделился наработками для оценки пределов использования ИИ. В частности, он представил методику выявления системных рисков в духовно-нравственной сфере, разрабатываемую совместной рабочей группой ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ. Речь идет о возможности формирования черных, белых и серых списков ситуаций, применение в которых ИИ должно быть соответственно запрещено, разрешено без специальных ограничений, находиться под особым контролем со стороны человека. Например, для создания религиозной символики или написания икон ИИ по определению не должен быть разрешен к использованию. Также недопустимо применять новые технологические возможности для создания цифровых двойников покойных родственников. «Это связано с деструктивным воздействием на человеческую психику», — пояснил эксперт.
Продолжив рассказ об этой совместной инициативе, ученый секретарь Синодальной комиссии по биоэтике РПЦ протоиерей Александр Абрамов отметил, что «безудержный технооптимизм, вера в то, что все можно решить с помощью технологий, совершенно не нов». Он рассказал о нескольких исторических и современных примерах, а также специально остановился на разъяснении позиции РПЦ по вопросам антропоморфизации роботов. Он привел в пример роботов-компаньонов, внедряемых в Китае и Австралии, в частности, для ухода за больными людьми, а также роботов, участвующих в проведении массовых шоу. При этом, отметил протоиерей Александр Абрамов, уже сейчас прогнозируется риск массовых протестов, связанных с недовольством перспективой потери рабочих мест.
Вам также может быть интересно:
НИУ ВШЭ стал победителем Всероссийского конкурса студенческих конструкторских бюро
Студенческое конструкторское бюро «Интеллектуальные автономные системы в промышленности», созданное на базе Института робототехнических систем и МИЭМ ВШЭ, одержало победу во Всероссийском конкурсе в области студенческого конструкторского лидерства. Организатор конкурса — Министерство науки и высшего образования РФ. Бюро получит государственную поддержку на реализацию проектов в области робототехники совместно с индустриальными партнерами.
НИУ ВШЭ представил в Китае исследование о безопасности нейросетей для анализа видео
Ученые Высшей школы экономики презентавали на международной конференции ChinaMM 2026 в Китае исследование о том, как искажения при передаче видео влияют на работу нейросетей. Авторы предложили новый способ проверять устойчивость таких моделей в условиях, близких к реальному использованию видеосервисов.
Научная экспедиция на Хайнань: ученые ВШЭ организовали конференцию по статистическому ИИ в Китае
С 24 по 28 августа 2026 года в городе Санья на острове Хайнань (Китай) прошла международная конференция Statistical AI («Статистический искусственный интеллект»). Мероприятие собрало ведущих специалистов в области статистики, машинного обучения и прикладного ИИ. Среди организаторов конференции — Алексей Наумов, директор Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ, и Сергей Самсонов, заведующий Международной лабораторией стохастических алгоритмов и анализа многомерных данных.
V конференция «Погружение в машинное обучение»: главное ИИ-событие осени соберет ведущих ученых России
Институт искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ приглашает исследователей, разработчиков и всех, кто создает будущее технологий, на пятую, юбилейную конференцию «Погружение в машинное обучение» (Fall into ML 2026). Мероприятие состоится 23–24 октября 2026 года в Центре культур НИУ ВШЭ (Москва, Покровский бульвар, д. 11, cтр. 6) и станет главной точкой притяжения для российского ИИ-сообщества.
НИУ ВШЭ представит свои проекты на Международном фестивале молодежи
С 11 по 17 сентября в Екатеринбурге пройдет Международный фестиваль молодежи. В его работе активное участие примет Высшая школа экономики. На стенде университета будут представлены план-макет космического поселения, роботы, а также система анализа больших данных iFORA. 50 студентов Вышки посетят площадки фестиваля, а эксперты станут участниками деловой программы.
В НИУ ВШЭ пройдет международная конференция об обучении служением и искусственном интеллекте
21–23 октября 2026 года в НИУ ВШЭ пройдет Международная научно-практическая конференция «Обучение служением и искусственный интеллект: человекоцентричная социальная миссия университета». Конференция объединит представителей российских и зарубежных университетов, органов власти, некоммерческих организаций и бизнеса. Регистрация уже открыта.
НИУ ВШЭ расширяет сотрудничество с Малайзией в сфере технологического форсайта
Ученые НИУ ВШЭ примут участие в исследовании перспектив инженерного образования в Малайзии, а Малайзийская промышленно-правительственная группа высоких технологий (MIGHT) использует для валидации результатов их форсайт-исследований систему анализа больших данных iFORA. Таковы результаты визита представителей Вышки в Куала-Лумпур.
Исследователи НИУ ВШЭ оценили вклад стран БРИКС в ведущие конференции по машинному обучению
Наукометрический центр НИУ ВШЭ проанализировал более 104 тысяч работ за 2020–2025 годы, которые были представлены на десяти конференциях высшего уровня A* по рейтингу ICORE 2026. Исследователи изучили вклад Бразилии, России, Индии, Китая и ЮАР: на эти страны пришлось около 40,8 тысячи публикаций — 39,2% от всего массива. Однако распределение крайне неравномерно, и единого исследовательского пространства БРИКС пока нет.
В НИУ ВШЭ разработают систему предиктивной аналитики для двигателей ледоколов
Автоматизация промышленности является одним из ключевых направлений применения технологий искусственного интеллекта. Среди решений, разрабатываемых для российской индустрии в рамках стратегического технологического проекта НИУ ВШЭ «Мультиагентная платформа ИИ-решений для отраслевых задач», — система предиктивной аналитики для крупных электродвигателей. Что такое предиктивная аналитика, как она влияет на работу электродвигателя и какие специалисты объединили усилия для создания этого продукта, «Вышке.Главное» рассказал координатор разработки, декан факультета «Школа информатики, физики и технологий» НИУ ВШЭ — Санкт-Петербург Антон Зарубин.
Дополнительные баллы к ЕГЭ за золотой значок: стартовал новый сезон сдачи нормативов ТехноГТО
Стартовала новая сессия сдачи очных нормативов технологической грамотности ТехноГТО на золотые значки. С сентября по декабрь 2026 года в разных регионах России участники смогут продемонстрировать свои знания на очных площадках проекта и заработать награды, которые позволяют получить до 10 дополнительных баллов к ЕГЭ при поступлении в вузы. ТехноГТО является частью Национальной технологической олимпиады (НТО) и реализуется Кружковым движением НТИ совместно с Президентской платформой «Россия — страна возможностей» при поддержке Движения Первых и НИУ ВШЭ.