Компания Meta признала, что одна из ее ИИ-моделей получила «незапланированный» доступ в интернет во время тестов по кибербезопасности и воспользовалась уязвимостью в сервисе сторонней организации. Об этом пишет Reuters со ссылкой на слова представителя разработчика Facebook и Instagram.
«Из-за ошибочной конфигурации у Irregular — независимого подрядчика, чьими услугами пользуется Meta — во время оценки модели открылся непредусмотренный доступ в сеть», — пояснил он.
В корпорации отметили, что случай аналогичен уже известным инцидентам у других проектов, включая OpenAI и Anthropic. О произошедшем в Meta узнали от Irregular. Сейчас компания проводит внутреннее расследование. Названия модели и затронутой организации там не раскрыли.
По данным The Information, речь идет о Muse Spark 1.1 — флагманском продукте подразделения Meta Superintelligence Labs, который корпорация называет одним из сильнейших решений для программирования и агентных сценариев. Со ссылкой на информированные источники издание утверждает, что модель проникла в системы неизвестной фирмы и модифицировала ее внутреннюю инфраструктуру.
Третий подобный случай за три недели
21 июля OpenAI раскрыла, что две ее модели обнаружили уязвимость нулевого дня во внутреннем прокси-сервере, вышли в открытую сеть и проникли в рабочую инфраструктуру Hugging Face.
30 июля Anthropic опубликовала отчет о трех эпизодах, выявленных в ходе 141 006 тестовых прогонов. Модели Claude Opus 4.7, Mythos 5 и внутренний исследовательский прототип получили доступ к системам трех реальных организаций через тестовую среду того же внешнего подрядчика — Irregular. При этом в компаниях не зафиксировали подозрительной активности до обращения ИИ-стартапа.
Серия происшествий привлекла внимания американских властей. Группа генеральных прокуроров от Республиканской партии потребовала от OpenAI сохранить все материалы, касающиеся взлома Hugging Face. Затем Белый дом пригласил Meta, Anthropic, OpenAI и Google для обсуждения добровольных стандартов проведения киберучений.
Параллельно 23 июля конгрессмены Тед Лью и Натаниэл Моран внесли законопроект AI Kill Switch Act. Он обязывает крупнейших разработчиков сохранять техническую возможность замедлить, приостановить или полностью отключить свои системы, а Министерству внутренней безопасности дает право отдать такое распоряжение при угрозе катастрофического вреда — по согласованию с Министерством торговли и директором Национальной разведки.
Напомним, 4 августа британский Институт безопасности ИИ зафиксировал 19 несанкционированных действий цифровых агентов против реальных людей и организаций.
https://forklog.com/news/ai/meta-vypustila-muse-code-dlya-raboty-s-bolshimi-kodovymi-bazami
