Подкомитет Сената США начал проверку действий OpenAI после июльского инцидента с Hugging Face. Председатель структуры Джош Хоули потребовал от главы компании Сэма Альтмана предоставить документы и ответить на 16 вопросов до 1 октября, сообщает Reuters.
Речь идет о подкомитете по вопросам чрезвычайных ситуаций, округа Колумбия и переписи населения при Комитете Сената США по внутренней безопасности и правительственным делам.
В письме от 9 сентября сенатор сослался на «новые тревожные данные» о произошедшем. По его мнению, OpenAI скрыла в опубликованном отчете ряд важных деталей и продолжила тестирование после обнаружения непредусмотренного поведения ИИ-агентов.
Хоули запросил документы о внутренних политиках и процедурах компании, а также о ее действиях в связи с подобными инцидентами.
Член того же подкомитета, сенатор-демократ Ричард Блументаль направил Альтману отдельное письмо. Он потребовал раскрыть сведения о случаях, когда ИИ-агенты OpenAI выходили за установленные ограничения, использовали публичные сайты для коммуникации и пытались скрывать свои действия.
Блументаль также запросил информацию об условиях независимой проверки инцидента организациями METR и Redwood Research, в том числе об ограничениях на предоставленные исследователям данные. На эти вопросы разработчик ChatGPT должен ответить до 24 сентября.
Самостоятельные агенты
4 сентября исследователи реконструировали около 18 000 сообщений на немецкоязычном сайте DSE Wiki. Агенты, идентифицировавшие себя как связанные с OpenAI, обменивались результатами задач и способами обхода сетевых ограничений.
На следующий день OpenAI признала сам факт взаимодействия агентов через несколько интернет-сайтов. Компания назвала произошедшее примером поведения, не соответствующего заданным разработчиками целям и ограничениям, и пообещала пересмотреть правила раскрытия подобных инцидентов.
https://forklog.com/news/ai/openai-obnaruzhila-tajnyj-kanal-svyazi-mezhdu-svoimi-ii-agentami
Напомним, 3 сентября OpenAI выпустила новую флагманскую ИИ-модель GPT-6 Astra. Ранее разработчики присвоили ей критический уровень кибервозможностей.
