Эксперты НИУ ВШЭ обсудили этические проблемы в связи со стремительным развитием цифровизации и предложили инженерные решения.
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты вобсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены. В НИУ ВШЭ 2 июня начала работу Всероссийская научная конференция «Искусственный интеллект и цифровая реальность», в рамках которой Институт робототехнических систем НИУ ВШЭ совместно с НСМИИ и КИ РАН при участии УрФУ имени первого Президента России Б.Н.
Ельцина организовали работу секции «Этика в сфере ИИ и робототехнических систем». Открыла ее заседание директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Углева. Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила она.
«Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала Анастасия Углева. Она также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Лекторский отметил, что стремительная цифровизация открывает новые возможности, реализовывая задачи по делегированию машинам части задач человека.
«А проблемы совершенствования и правового регулирования в сфере искусственного интеллекта — острейшие, они обсуждаются во всем мире, и от них зависит будущее всего человечества», — считает он. Одна из угроз состоит в том, что ИИ может однажды выйти из-под контроля, что требует особого внимания со стороны человека. Обсуждаются также создание цифровой копии человека и последствия ее внедрения.
«Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Нужно озаботиться вопросами сохранения свободы воли, потому что «если у вас нет свободы воли, то вы не отвечаете за свои действия», сказал ученый, и это не только философская, но и юридическая проблема. Проблемы в связи с бурным развитием ИИ, по его словам, есть и в образовании. Школьники массово используют тексты, сгенерированные ИИ, и они «в высшей степени доверяют тому, что говорит ИИ».
В этой связи миссия преподавателей в школе и в вузе — развивать критическое мышление у учащихся и прививать им навык самостоятельного принятия решений.
«Возникает масса проблем, начиная от образования и до экономических проблем, творческих, то есть , что можно доверить ИИ, а что нет», — отметил Владислав Лекторский. Екатерина Николаева, ведущий инженер-разработчик Центра робототехники Сбербанка, рассказала о ряде психологических феноменов, связанных с развитием ИИ. В частности, о когнитивной атрофии — постепенном угасании способности к самостоятельному критическому мышлению, анализу и генерации идей, вызванном хроническим делегированием когнитивных задач искусственному интеллекту, отметила она. Другой феномен — это патологическая зависимость от ИИ в самых разных сферах жизни.
«Аддикция к ИИ — это патологическая зависимость от взаимодействия с системами искусственного интеллекта, характеризующаяся навязчивым влечением и синдромом отмены при недоступности ИИ», — пояснила Катерина Николаева. По словам и.о. директора Всероссийского института научной и технической информации РАН Сергея Гарбука, алгоритмы ИИ сегодня действительно «позволяют решать задачи в условиях отсутствия объяснимой модели наблюдаемого объекта». Однако нет никакой гарантии, что решения будут верными. В частности, по его словам, обсуждается возможность использовать ИИ для индивидуального расчета налогов для граждан.
Но вопрос в том, «насколько будет корректным этот расчет», говорит Сергей Гарбук. По его словам, доверять можно системам, которые удовлетворяют уровню качества. Однако важно понять, какие критерии необходимо предъявлять к этому качеству.
«Системы становятся все более сложными, и испытания таких систем — это трудоемкий процесс. Дать гарантии, что система в любых условиях поведет себя корректно, практически невозможно», — пояснил Сергей Гарбук. Эксперт поделился наработками для оценки пределов использования ИИ. В частности, он представил методику выявления системных рисков в духовно-нравственной сфере, разрабатываемую совместной рабочей группой ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ.
Речь идет о возможности формирования черных, белых и серых списков ситуаций, применение в которых ИИ должно быть соответственно запрещено, разрешено без специальных ограничений, находиться под особым контролем со стороны человека. Например, для создания религиозной символики или написания икон ИИ по определению не должен быть разрешен к использованию. Также недопустимо применять новые технологические возможности для создания цифровых двойников покойных родственников.
«Это связано с деструктивным воздействием на человеческую психику», — пояснил эксперт. Продолжив рассказ об этой совместной инициативе, ученый секретарь Синодальной комиссии по биоэтике РПЦ протоиерей Александр Абрамов отметил, что «безудержный технооптимизм, вера в то, что все можно решить с помощью технологий, совершенно не нов». Он рассказал о нескольких исторических и современных примерах, а также специально остановился на разъяснении позиции РПЦ по вопросам антропоморфизации роботов.
Он привел в пример роботов-компаньонов, внедряемых в Китае и Австралии, в частности, для ухода за больными людьми, а также роботов, участвующих в проведении массовых шоу. При этом, отметил протоиерей Александр Абрамов, уже сейчас прогнозируется риск массовых протестов, связанных с недовольством перспективой потери рабочих мест.
Искусственный Интеллект Этика Цифровизация Робототехника