В МВД назвали способы грамотной установки настроек для ИИ-агента
Неправильная настройка ИИ-агентов может поставить под угрозу сохранность персональных данных и безопасность учетных записей пользователей. Чтобы избежать возможных рисков, необходимо заранее ограничить полномочия цифровых помощников. Об этом 18 ноября сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России.
В Telegram-канале «Вестник Киберполиции России» пояснили, что современные ИИ-агенты способны выполнять различные операции без непосредственного участия человека, в том числе взаимодействовать с документами, электронной почтой, браузерами и интернет-платформами. Поэтому специалисты рекомендуют предоставлять таким программам доступ исключительно к необходимым папкам, не открывая возможность просмотра всего содержимого устройства.
Отдельное внимание в киберполиции призвали уделить контролю действий искусственного интеллекта. В частности, следует ограничить посещение незнакомых сайтов и передачу им информации. Операции, связанные с отправкой электронных сообщений, удалением документов, совершением покупок и денежных переводов, должны выполняться только после подтверждения пользователя.
Кроме того, в МВД посоветовали отказаться от неиспользуемых расширений и интеграций, а также закрыть ИИ-агентам доступ к командной строке, если он не требуется для выполнения задач. Необходимо регулярно пересматривать выданные разрешения и отзывать токены доступа, утратившие актуальность.
Дополнительной мерой защиты может стать запуск цифровых помощников в изолированной виртуальной среде. Такой подход позволяет сократить возможности их непосредственного взаимодействия с операционной системой и личными аккаунтами владельца устройства.
В МВД России 15 ноября предупредили, что мошенники научились использовать ИИ для подделки голосов и видеоизображений. Используя технологии таким образом, они создают очень качественные дипфейки и выдают себя за родственников, коллег и даже начальство потенциальных жертв. На этом фоне правоохранители призвали россиян убеждаться, что сообщение действительно поступило от его близкого, а не от преступника.