Перейти к основному содержанию
Реклама
Прямой эфир
Мир
Председатели Верховных судов РФ и Казахстана подписали программу сотрудничества
Мир
Лавров заявил об открытом переходе Запада к пиратским практикам колониализма
Армия
Силы ПВО сбили девять ракет «Фламинго» и свыше 2,2 тыс. беспилотников ВСУ
Общество
Песков заявил об отсутствии сомнений в восстановлении Крымского моста
Армия
Российские военнослужащие нанесли удары по военным аэродромам Украины
Мир
Мерц занял последнее место в рейтинге немецких политиков
Мир
В МИД РФ назвали надуманными причины отказа Зеленского от поездки в Москву
Мир
В ГД сообщили о возможном сроке для Каллас в РФ за слова об участниках СВО
Общество
ФСБ задержала четырех агентов украинских спецслужб по делу о подготовке терактов
Общество
Правкомиссия рассмотрит вопросы восстановления Крымского моста
Армия
Российские бойцы поразили производящий комплектующие для БПЛА завод в Киеве
Армия
Армия России поразила Южный и Северный мосты в Киеве
Мир
Спецпосланник ЕС по санкциям против России объявил об уходе с поста
Мир
В Китае назвали шутку Мединского о европейцах позором для Евросоюза
Мир
Песков указал на немирный характер позиции Европы в переговорах по Украине
Армия
Пушилин заявил об освобождении от ВСУ 90% территории ДНР
Армия
Минобороны России получило новую партию истребителей Су-34
Общество
Уголовное дело о теракте возбудили после атак ВСУ на Крымский мост
Главный слайд
Начало статьи
EN
Озвучить текст
Выделить главное
Вкл
Выкл

Онлайн-сервисам могут запретить манипулировать людьми с помощью искусственного интеллекта, например побуждать к ненужным покупкам, анализируя активности пользователей в Сети. Это следует из законопроекта Минцифры об ИИ, с которым ознакомились «Известия». Крайняя форма такой манипуляции — доведение до самоубийства, напоминают эксперты: к этому может подтолкнуть нейросеть, «притворяющаяся» близким человеком. При этом в ситуации с искусственным интеллектом запреты, считают специалисты, будут неэффективны: все сценарии работы нейросетей и их возможные ответы на запросы предусмотреть невозможно. Кроме того, это может навредить и ресурсам, которые используют ИИ, чтобы помогать осознанно подбирать нужные товары или контент.

Как ИИ манипулирует поведением пользователей

Разработчики систем ИИ будут обязаны сообщать их пользователям о недопустимости применения нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование. «Известия» ознакомились с документом.

ИИ
Фото: ИЗВЕСТИЯ/Эдуард Корниенко

Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятие решений или несанкционированный доступ к информации».

О том, каким пользователям будут указывать на недопустимость использования ИИ для манипуляций, конкретные примеры таких действий, а также наказания за них, в законопроекте не говорится.

— Запрет распространяется прежде всего на операторов и разработчиков систем ИИ, то есть на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты, — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов. — По сути, «объяснить» это роботу можно так: система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции. Таким образом, ответственность лежит не на самой технологии, а на тех, кто ее создает и применяет.

По словам эксперта, ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента, например подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Ярослав Селиверстов. Законодательные нововведения выглядят актуальными, поскольку современные системы ИИ действительно способны анализировать психологические и поведенческие особенности пользователей, считает он.

ии
Фото: ИЗВЕСТИЯ/Эдуард Корниенко

Закон может коснуться, в частности, сервисов, реализующих товары и услуги: с помощью ИИ они собирают информацию о предпочтениях пользователей, а затем навязывают им с помощью открытой и скрытой рекламы вещи, которую зачастую совершенно не нужны человеку, указал гендиректор TelecomDaily Денис Кусков. В СМИ также обсуждается вопрос о манипуляции агрегаторов такси с тарифами: якобы они выставляют завышенные цены для пассажиров, у которых заканчивается заряд смартфона и которые быстрее стремятся добраться до дома или офиса, чтобы зарядить его, сказал эксперт.

— Злоумышленники или недобросовестные компании могут использовать ИИ для гиперперсонализированного мошенничества, когда искусственный интеллект анализирует данные о человеке и генерирует идеально подобранные сообщения — дипфейки голоса родственника, «индивидуальные» предложения от лжебанка в момент, когда человек наиболее уязвим, — отметил председатель правления АНО «Центр беспилотных систем и технологий» (ЦБСТ) Андрей Безруков.

О том, чтобы заставить разработчиков искусственного интеллекта отвечать за поведение его пользователей, задумываются не только в России. Законодатели по примеру других стран могут обязывать владельцев ИИ-продуктов внедрять протоколы, в соответствии с которыми нейросеть не должна вести себя определенным образом, либо должна сигнализировать о каких-то чрезвычайных событиях, отметил руководитель направления «Разрешение It&Iр споров» фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. К примеру, в США после ряда инцидентов с доведением пользователей до самоубийства владельцев нейросетей обязывают внедрять родительский контроль, протоколы безопасности, рассказал он.

ии
Фото: ИЗВЕСТИЯ/Анна Селина

— Вопрос эффективности этих мер связан с тем, находится ли офис соответствующих компаний в России. Российских владельцев платформ законодатель может под риском ответственности обязать внедрить такие протоколы, а вот ведущие мировые нейросети нет, — полагает Ярослав Шицле.

Доклад с предварительной версией законопроекта находится на рассмотрении в заинтересованных ведомствах — финальной версии документа нет и говорить о конкретных инициативах, которые в него войдут, сейчас рано, сказали «Известиям» в пресс-службе Минцфиры.

— Развитие перспективных технологий, в том числе искусственного интеллекта, — одно из важных направлений деятельности Минцифры. При этом нужно отметить, что любая технология должна применяться исключительно с соблюдением прав и интересов граждан, — добавили там.

Как отделить полезные рекомендации ИИ от вредных

Крайняя форма манипуляции поведением с помощью ИИ — доведение его пользователя до самоубийства. Периодически в новостях мелькают случаи суицида тех, кто стал воспринимать ИИ-ассистента как живого человека и либо влюбился в него, либо послушался его деструктивного совета, отметил партнер ComNews Research Леонид Коник. Такие ситуации нужно было бы исключить, но закон не властен над психологией разных людей. Это всё равно что запретить продажу в хозяйственных магазинах кухонных ножей на том основании, что один псих убил им соседа, считает эксперт.

ии
Фото: ИЗВЕСТИЯ/Эдуард Корниенко

— Мы поддерживаем необходимость защиты граждан от реальных угроз, особенно когда речь идет о вреде жизни и здоровью. Но важно отметить, что сфера рекомендательных сервисов уже получила необходимое правовое регулирование. Дальнейшее вмешательство в алгоритмы может привести к обратному эффекту — необъективности выдачи, ограничению доступа к информации и субъективности, — считает президент Ассоциации цифровых платформ Ораз Дурдыев. — Чтобы этого избежать, бизнесу и власти важно находиться в плотном взаимодействии для соблюдения баланса интересов государства, потребителей и отрасли.

Запрет на манипуляцию поведением пользователей с помощью нейросетей будет сложно реализовать — сценариев ответов и диалогов с пользователями, которые ведет ИИ, бессчетное множество, их ответы разнятся в зависимости от используемых моделей, и даже разработчики не могут на это повлиять, отметил Денис Кусков.

Законопроект содержит норму, которая обязывает операторов включать в руководство по безопасности для пользователя указание на недопустимость действий, способных причинить вред. Однако это не прямой законодательный запрет манипуляции как таковой, отметил Андрей Безруков.

ИИ
Фото: ИЗВЕСТИЯ/Юлия Майорова

— Для сравнения, европейский AI Act прямо запрещает всем участникам рынка применение сублиминальных и манипулятивных техник, которые могут причинить вред или существенно исказить поведение человека. Санкции — до €35 млн, или 7% мирового оборота компании, — указал он.

В то же время из-под регулирования российского законопроекта выводится ИИ, используемый в сфере обороны и национальной безопасности, что создает риск использования «гражданских» наработок в манипулятивных военных технологиях без должного контроля, считает Андрей Безруков.

Фактически законопроект основан на презумпции виновности разработчиков ИИ за некие абстрактные нарушения, которые с его помощью совершают или могут совершить третьи лица, рассуждает директор Института исследований интернета Карен Казарян. Между тем существуют Уголовный кодекс, Кодекс об административных нарушениях и другие законодательные акты, устанавливающие ответственность за мошенничество, клевету, доведение до самоубийства или, к примеру, за ненадлежащее исполнение работ или оказание услуг. Там предусмотрена ответственность конкретных лиц за конкретные правонарушения и вводить какие-то дополнительные обременения и ответственность для разработчиков нецелесообразно, полагает эксперт.

ИИ
Фото: ИЗВЕСТИЯ/Эдуард Корниенко

Если законопроект будет принят и его начнут применять буквально, то всю персонализированную онлайн-рекламу и рекомендательные алгоритмы придется запретить как инструменты целенаправленного воздействия на принятие решения, предупредил Леонид Коник.

По мнению Дениса Кускова, регулирование рекомендаций с помощью ИИ нуждается в отдельном обсуждении. Когда искусственный интеллект пытается всучить ненужный товар или услугу, это конечно, неприятно, но, когда человек целенаправленно ищет ту или иную вещь, нейросеть, подбирающая несколько предложений, оказывает помощь и облегчает выбор, полагает Денис Кусков. В онлайн-кинотеатрах такие алгоритмы, к примеру, позволяют найти интересный фильм, удовлетворяющий вкусам зрителя, заключает эксперт.

Читайте также
Прямой эфир