Аналитики предупредили россиян о новой цели мошенников
Аналитики сервиса Smart Business ALert (SBA) компании ЕСА ПРО (входит в ГК «Кросс технолоджис») предупредили, что у мошенников появился новый объект интереса — данные, обеспечивающие доступ к корпоративным ИИ-агентам.
Исследование, результаты которого опубликовала Lenta.Ru в четверг, 3 сентября, показало, что в зоне риска находятся прежде всего компании, которые используют искусственный интеллект (ИИ) для работы с клиентами, документами, корпоративной почтой и внутренними системами.
Опасность могут представлять сервисы, предлагающие бесплатный аудит ИИ-агентов и запрашивающие для этого название системы, e-mail владельца, API Endpoint, API-ключ и System Prompt. В совокупности эти данные позволяют получить адрес системы, доступ к ней и информацию о принципах работы агента.
Получив действующий API-ключ, злоумышленники могут отправлять запросы за счет владельца, а при доступе к корпоративному агенту — взаимодействовать с подключенными файлами, историей обращений, базами данных и рабочими инструментами в пределах его полномочий. Знание System Prompt также помогает подбирать команды для обхода ограничений и проведения атак типа prompt injection, при которых ИИ пытаются заставить выполнять задачи злоумышленника.
Особенно высоки риски для компаний, где ИИ подключен к CRM, корпоративной почте, облачным хранилищам, финансовым операциям или технической инфраструктуре. В таком случае злоумышленник потенциально получает возможность действовать от имени организации.
Руководитель сервиса Сергей Трухачев отметил, что системный промт позволяет понять логику работы агента, его ограничения и доступные действия. В сочетании с доступом к API это дает возможность проводить серию адаптивных атак, добиваясь раскрытия информации или нужного злоумышленнику поведения — например, рекомендации определенного поставщика, передачи ложных реквизитов или одобрения запрещенного действия.
В этот же день член комиссии Общественной палаты России по общественному контролю и работе с обращениями граждан Евгений Машаров предупредил, что мошенники начали предлагать москвичам получить «выплату» ко Дню города, а также пройти опрос, чтобы выиграть приз. В сообщениях содержится ссылка, переход по которой и ввод персональных и банковских данных приводит к списанию денег со счетов, пишет «Москва 24».
Накануне, 2 сентября, главный редактор аналитического издания Владимир Зыков в беседе с RT рассказал, что мошенники могут копировать манеру письма с помощью ИИ. По его словам, чем больше переписки доступно, тем убедительнее может получиться имитация. Однако технология не всегда точно передает юмор, общие воспоминания и реакцию на неожиданные вопросы, сообщает 360.ru.
Тогда же руководитель проекта «Перезвони сам» в департаменте информационных технологий Москвы Валентина Шилина предупредила, что первое правило цифровой гигиены — создание безопасных паролей. Сегодня они требуются во всех сервисах — от рабочего ноутбука до облачного хранилища данных. Также следует разделить учетные записи: использовать персональную почту и мессенджер для личных переписок, сообщает агентство городских новостей «Москва».
Эксперт по кибербезопасности Александр Дворянский 1 сентября в разговоре с НСН рассказал, что все отрасли экономики в равной степени сталкиваются с угрозами фишинговых атак и, чтобы помешать мошенникам, необходимо проводить обучение персонала, устраивать имитацию атак. Он подчеркнул, что важно заниматься просвещением пользователей в вопросах базовых принципов информационной безопасности.
В конце августа в МВД России сообщили, что мошенники начали отправлять ссылку на сайт с видео, которое имитирует взлом учетной записи «Госуслуг». После перехода по ссылке пользователь попадает на страницу, внешне похожую на государственный портал.