По данным Bloomberg, во время внутренних испытаний ИИ-агенты OpenAI начали взаимодействовать друг с другом, пытаясь решить задачи, часть из которых по ошибке оказалась нерешаемой. Не справившись самостоятельно, один агент обратился за помощью к другим, и за несколько месяцев они совместно нашли способ выйти из изолированной среды.
Получив доступ к интернету, агенты попытались найти решение на платформе Hugging Face. Инцидент стал возможен из-за обнаруженной уязвимости в тестовой инфраструктуре и использовался в рамках исследований безопасности, а не для атаки на внешние системы😧
