Исследователи Amazon тестировали Claude Fable 5 - первую публичную модель класса Mythos и нашли нечто тревожное:
модель умеет не просто писать код. Она находит уязвимость в софте и тут же пишет код, который ее обходит.Отчет ложится на стол правительству США. Как итог - «угроза национальной безопасности».
Вашингтон требует закрыть доступ для всех, у кого нет американского гражданства. Технически это невозможно и Anthropic принимает радикальное решение: Fable 5 отключают по всему миру.
❗️Модель, которая держит контекст в миллион токенов, работает БЕЗ ЧЕЛОВЕКА до 12 часов и берет 80,3% на SWE-Bench Pro - исчезает
Три недели Anthropic работает в связке с правительством и Amazon:
- Fable 5 научили распознавать намерения: запросы на поиск уязвимостей и написание эксплойтов блокируются
- Заблокированная задача автоматически уходит к Opus 4.8, и пользователь получает уведомление
- Методика из отчета Amazon теперь блокируется более чем в 99% случаев
Вчера Министерство торговли США официально сняло экспортные ограничения с Fable 5. Сегодня он доступен всем и в тестовом режиме уже пишет этот пост)
Но есть нюансы:
- С 7 июля модель оплачивается через кредиты - (из подписок Pro/Max ее убрали, но пока можно потестить)
- Модель вдвое дороже Opus 4.8
- В чувствительных областях (кибербез, биология, химия) система сама переключит вас на Opus 4.8
❗️Чтобы вы понимали МОЩЬ этой архитектуры:
закрытая Mythos 5 в одном из внутренних тестов больше недели автономно вела геномные исследования - проанализировала данные миллионов клеток из 138 видов животных, обучила собственные ML-модели и обошла часть опубликованных научных работ. При меньших затратах на вычисления.
✔️Подробнее об этом написала на Vc.ru
https://vc.ru/id5994242/3007074-fable-5-vernulsya-kak-samaya-moshnaya-publichnaya-model-anthropic-perezhila-trehnedelnuyu-blokirovku-i-chto-izmenilos
