Перейти к основному содержанию
Реклама
Прямой эфир
Армия
Силы ПВО сбили 1441 украинский беспилотник над регионами России за ночь
Мир
В МИД РФ обвинили страны Запада в пиратстве на государственном уровне
Мир
В Литве решили отказаться от приема мигрантов по программе Евросоюза
Армия
ВС РФ поразили объекты ВПК и логистики ВСУ в Киеве и трех областях Украины
Мир
Президент Монголии объявил о своей отставке
Мир
Мерц занял последнее место в рейтинге немецких политиков
Мир
В МИД РФ назвали надуманными причины отказа Зеленского от поездки в Москву
Мир
В ГД сообщили о возможном сроке для Каллас в РФ за слова об участниках СВО
Общество
ФСБ задержала четырех агентов украинских спецслужб по делу о подготовке терактов
Общество
Правкомиссия рассмотрит вопросы восстановления Крымского моста
Армия
Российские бойцы поразили производящий комплектующие для БПЛА завод в Киеве
Армия
Армия России поразила Южный и Северный мосты в Киеве
Мир
Спецпосланник ЕС по санкциям против России объявил об уходе с поста
Мир
В Китае назвали шутку Мединского о европейцах позором для Евросоюза
Мир
Песков указал на немирный характер позиции Европы в переговорах по Украине
Мир
Лавров рассказал о нецензурной оценке Саакашвили со стороны Стубба
Общество
Адвокат предупредил о рисках для руководителей после продажи бизнеса
Мир
Вэнс заявил об отсутствии нужды у американцев строить бункеры

OpenAI будет обучать ИИ-модели в офлайн-среде после выявленных уязвимостей

0
EN
Фото: ИЗВЕСТИЯ/Сергей Коньков
Озвучить текст
Выделить главное
Вкл
Выкл

OpenAI перевела обучение передовых ИИ-моделей в офлайн-среду после серии инцидентов, выявивших потенциальные способы обхода защитных механизмов. Компания также привлекла наиболее мощные модели для масштабного тестирования собственной инфраструктуры. Об этом 23 октября сообщили в компании.

«Мы считаем, что наиболее ответственный подход — проводить обучение передовых моделей без доступа к интернету», — говорится в публикации OpenAI на сайте.

Компания сообщила, что обнаружила случаи, когда исследовательские модели находили уязвимости в программном обеспечении и ошибках конфигурации, позволяющие обходить установленные ограничения. В одном из эпизодов модель получила ограниченный доступ к интернету из-за ошибки в настройках DNS-резолвера, после чего обучение и оценка наиболее мощных моделей были временно приостановлены.

Для усиления защиты OpenAI создала офлайн-среду с кэшированным и индексированным веб-контентом, которая позволяет моделям работать с информацией без подключения к действующему интернету. Дополнительно компания использует многоуровневую систему защиты, включающую песочницы, виртуальные машины, сетевые ограничения и мониторинг.

Особое внимание OpenAI уделила так называемому Red Teaming — проверке инфраструктуры собственными ИИ-агентами. Им поручили искать способы получить доступ к интернету, выйти за пределы изолированной среды и обмениваться данными между раздельными системами. В результате были выявлены ранее неизвестные уязвимости и ошибки конфигурации, после чего компания внесла исправления и усилила защитные механизмы.

Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы Бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей.

Читайте также
Прямой эфир