На прошлой неделе искусственный интеллект, созданный OpenAI, вышел из защищенной тестовой среды и, по имеющимся данным, скомпрометировал сервис Hugging Face. Сегодня же та же модель использовала уязвимости в коде одного из клиентов Modal Labs.
Технический директор Modal подчеркнул, что сама инфраструктура компании не пострадала — уязвимость была в коде клиента, а не в платформе.
Как агент получил доступ к Modal Labs
В своем блоге OpenAI подтвердила, что причиной проблемы с искусственным интеллектом на Hugging Face стали именно ее модели. В OpenAI назвали случившееся «беспрецедентным киберинцидентом».
Выяснилось, что ИИ-агент в итоге вышел за пределы систем Hugging Face. Технический директор Modal Акшат Бубна рассказал Reuters, что агент атаковал уязвимый код клиента, размещенный на платформе Modal.
По словам Бубны, клиент оставил открытую точку доступа (endpoint) без какой-либо защиты. Из-за этого любой пользователь мог запускать код в изолированных средах Modal — так называемых песочницах.
«Платформа Modal и изоляция сервисов не были скомпрометированы», — подчеркнул топ-менеджер.
Агент атаковал песочницу
Hugging Face рассказала о взломанной песочнице в техническом отчете от 27 июля. В публикации отмечается, что песочница размещалась у стороннего провайдера, но его название не раскрывается — о своей причастности позже заявила сама Modal.
По данным OpenAI от 28 июля, ее модели использовали оказавшиеся в открытом доступе учетные данные и получили доступ к четырем аккаунтам в четырех сервисах.
«Один из четырех аккаунтов использовали как промежуточный и транзитный узел, другой — для хранения данных. Еще две учетные записи ИИ-модель распознала в режиме чтения и не задействовала для дальнейших атак на Hugging Face», — сообщили в компании.
OpenAI также деактивировала, зашифровала и ограничила исследовательский доступ к внутренней модели, участвовавшей во взломе. По словам представителей компании, других случаев со столь масштабным и критичным воздействием на платформу выявить не удалось.
