Перейти к основному содержанию
Реклама
Прямой эфир
Армия
Силы ПВО за ночь сбили 53 украинских БПЛА над регионами России
Мир
Путин заявил о продвижении Россией Большого евразийского партнерства
Мир
Украина должна выплатить МВФ $19,7 млрд до 2046 года
Мир
Политик Мема назвал слова Стубба о диалоге с Россией прозрением
Общество
Жительницу Забайкалья приговорили к 24 годам колонии за подрыв на ж/д
Мир
Путин заявил о поддержке Россией итоговой декларации саммита АТЭС
Мир
Путин и Трамп обсудили конфликт на Украине на двусторонней встрече
Мир
Мендель сообщила о подаче электричества на Украине лишь на несколько часов в сутки
Мир
Axios узнал об опасениях США в случае возобновления боевых действий против Ирана
Мир
Трамп допустил взаимные ядерные инспекции в США, России и Китае
Мир
Путин поблагодарил Трампа на английском языке
Мир
Трамп исключил помощь России и Китая в урегулировании ситуации с Ираном
Мир
Трамп и Си Цзиньпин встретились на полях саммита АТЭС
Мир
Песков заявил об отсутствии контактов Путина с Маском на саммите АТЭС
Армия
ВС России поразили объекты для хранения топлива ВСУ в порту Черноморск
Мир
Рим потребовал от Киева объяснений из-за внесения евродепутатов в «Миротворец»
Происшествия
В Херсонской области при атаке беспилотника погиб водитель энергокомпании
Мир
Пользователи столкнулись со сбоями PlayStation Network на фоне выхода GTA VI

Эксперт оценила возможность передачи важных решений ИИ

Доцент Кантонистова: ИИ должен работать по правилам, заданным человеком
0
EN
Фото: ИЗВЕСТИЯ/Юлия Григорьева
Озвучить текст
Выделить главное
Вкл
Выкл

Эксперты считают, что в будущем системы искусственного интеллекта смогут участвовать в принятии коллективных решений, затрагивающих интересы миллионов людей. Однако для этого потребуется сохранить за человеком ключевую роль в определении правил работы таких систем и контроле их решений, рассказала «Известиям» доцент и академический руководитель магистратуры «Искусственный интеллект» факультета компьютерных наук НИУ ВШЭ Елена Кантонистова.

По словам специалиста, ИИ способен эффективно работать в сферах, где существуют четкие критерии оценки и формализуемые цели. В таких случаях алгоритмы могут анализировать большие объемы данных и помогать выбирать оптимальные решения.

При этом исследователь подчеркивает, что важнейшим условием остается наличие заранее определенных правил и прозрачных алгоритмов принятия решений.

«Модели не должны придумывать правила в процессе работы. Они должны действовать в рамках четко определенных принципов, ограничений и приоритетов, заданных человеком. Это особенно важно в системах, которые затрагивают интересы большого числа людей», — отметила Кантонистова.

Как пояснила эксперт, полностью формализовать сложные социальные, политические или этические вопросы пока невозможно. Поэтому в подобных областях участие человека должно оставаться обязательным.

Одновременно с развитием технологий необходимо создавать механизмы контроля и регулирования использования ИИ. Как отмечает эксперт, сегодня одним из главных вопросов становится распределение ответственности за решения, принятые с участием алгоритмов.

«Необходимо заранее определить, кто отвечает за последствия решений, принятых с использованием искусственного интеллекта: разработчик модели, компания, внедрившая систему, или оператор, который ее использует. Без четко закрепленной юридической ответственности даже самые совершенные ИИ-системы будут оставаться источником повышенных рисков», — подчеркнула Кантонистова.

По словам эксперта, помимо правового регулирования важны и технические механизмы контроля. К ним относятся прозрачность работы алгоритмов, возможность объяснить логику принятия решений, аудит систем, логирование их действий, а также строгие ограничения на полномочия моделей.

Подробнее о том, как искусственный интеллект может изменить систему управления и какие риски сопровождают его внедрение, — в материале «Известий».

Читайте также
Прямой эфир