Перейти к основному содержанию
Реклама
Прямой эфир
Мир
В парламенте Словакии выступили за сохранение диалога с Россией
Мир
FT сообщила о возможном уголовном преследовании Вучича из-за отеля Трампа
Происшествия
Силы ПВО за ночь сбили 23 дрона над Воронежской областью
Мир
Захарова раскритиковала Мелони за избирательную реакцию на базу «Миротворца»
Мир
Стубб назвал серьезной атаку на российское грузовое судно
Общество
МВД сообщило о риске перехвата мошенниками контроля над банковскими приложениями
Армия
Армия России поразила судно ВСУ северо-восточнее Одессы
Армия
ВС РФ поразили питающую предприятия ВПК Украины электростанцию «Правобережная»
Мир
Предсказано сокращение населения Украины до 26,2 млн человек к 2030 году
Мир
WP сообщила о намерении сената заблокировать двух кандидатов Трампа в Пентагон
Армия
Армия РФ «Геранями» поразила центр обработки данных «МКМ Телеком» и НПЗ Украины
Армия
Средства ПВО за сутки уничтожили 792 дрона и четыре авиабомбы ВСУ
Армия
ВС России взяли под контроль населенный пункт Сосновый Бор в Харьковской области
Армия
Готовивших диверсии украинских разведчиков уничтожили в Черниговской области
Общество
Роспотребнадзор порекомендовал школам перейти на пятидневную учебную неделю
Спорт
Сборная России победила в мужской командной гонке на этапе Кубка мира
Мир
Бундесвер изменил способ переброски танков на учения в Литве
Армия
Дрон ВС России зацепился за «Бабу-Ягу» и выявил пункт управления БПЛА ВСУ

Аналитики предупредили россиян о новой цели мошенников

SBA: новой целью мошенников стал доступ к данным корпоративных ИИ-агентов
0
EN
Фото: ИЗВЕСТИЯ/Полина Фиолет
Озвучить текст
Выделить главное
Вкл
Выкл

Аналитики сервиса Smart Business ALert (SBA) компании ЕСА ПРО (входит в ГК «Кросс технолоджис») предупредили, что у мошенников появился новый объект интереса — данные, обеспечивающие доступ к корпоративным ИИ-агентам.

Исследование, результаты которого опубликовала Lenta.Ru в четверг, 3 сентября, показало, что в зоне риска находятся прежде всего компании, которые используют искусственный интеллект (ИИ) для работы с клиентами, документами, корпоративной почтой и внутренними системами.

Опасность могут представлять сервисы, предлагающие бесплатный аудит ИИ-агентов и запрашивающие для этого название системы, e-mail владельца, API Endpoint, API-ключ и System Prompt. В совокупности эти данные позволяют получить адрес системы, доступ к ней и информацию о принципах работы агента.

Получив действующий API-ключ, злоумышленники могут отправлять запросы за счет владельца, а при доступе к корпоративному агенту — взаимодействовать с подключенными файлами, историей обращений, базами данных и рабочими инструментами в пределах его полномочий. Знание System Prompt также помогает подбирать команды для обхода ограничений и проведения атак типа prompt injection, при которых ИИ пытаются заставить выполнять задачи злоумышленника.

Особенно высоки риски для компаний, где ИИ подключен к CRM, корпоративной почте, облачным хранилищам, финансовым операциям или технической инфраструктуре. В таком случае злоумышленник потенциально получает возможность действовать от имени организации.

Руководитель сервиса Сергей Трухачев отметил, что системный промт позволяет понять логику работы агента, его ограничения и доступные действия. В сочетании с доступом к API это дает возможность проводить серию адаптивных атак, добиваясь раскрытия информации или нужного злоумышленнику поведения — например, рекомендации определенного поставщика, передачи ложных реквизитов или одобрения запрещенного действия.

В этот же день член комиссии Общественной палаты России по общественному контролю и работе с обращениями граждан Евгений Машаров предупредил, что мошенники начали предлагать москвичам получить «выплату» ко Дню города, а также пройти опрос, чтобы выиграть приз. В сообщениях содержится ссылка, переход по которой и ввод персональных и банковских данных приводит к списанию денег со счетов, пишет «Москва 24».

Накануне, 2 сентября, главный редактор аналитического издания Владимир Зыков в беседе с RT рассказал, что мошенники могут копировать манеру письма с помощью ИИ. По его словам, чем больше переписки доступно, тем убедительнее может получиться имитация. Однако технология не всегда точно передает юмор, общие воспоминания и реакцию на неожиданные вопросы, сообщает 360.ru.

Тогда же руководитель проекта «Перезвони сам» в департаменте информационных технологий Москвы Валентина Шилина предупредила, что первое правило цифровой гигиены — создание безопасных паролей. Сегодня они требуются во всех сервисах — от рабочего ноутбука до облачного хранилища данных. Также следует разделить учетные записи: использовать персональную почту и мессенджер для личных переписок, сообщает агентство городских новостей «Москва».

Эксперт по кибербезопасности Александр Дворянский 1 сентября в разговоре с НСН рассказал, что все отрасли экономики в равной степени сталкиваются с угрозами фишинговых атак и, чтобы помешать мошенникам, необходимо проводить обучение персонала, устраивать имитацию атак. Он подчеркнул, что важно заниматься просвещением пользователей в вопросах базовых принципов информационной безопасности.

В конце августа в МВД России сообщили, что мошенники начали отправлять ссылку на сайт с видео, которое имитирует взлом учетной записи «Госуслуг». После перехода по ссылке пользователь попадает на страницу, внешне похожую на государственный портал.

Читайте также
Прямой эфир