Anthropic допустила две крупные утечки информации аз неделю

В течение недели произошло две утечки информации из ИИ-компании Anthropic. Эти утечки информации могут подорвать конкурентные преимущества Anthropic.

Во вторник, 31 марта, американская компания Anthropic случайно допустила утечку исходного кода агента Claude Code для помощи в разработке с помощью искусственного интеллекта. Утечка произошла из-за того, что большой отладочный файл с крупным фрагментом кода был помещен в публичный релиз NPM. Файл содержал более 500 тыс. строк кода, которые были быстро обнаружены, распространены и проанализированы разработчиками.

Первым об утечке конфиденциальной информации Claude Code сообщил в сети X разработчик-исследователь Чаофань Шоу (Chaofan Show). Компания Anthropic вскоре признала случайную компрометацию исходного кода.

«Никакие конфиденциальные данные клиентов или учетные данные не были затронуты или раскрыты. Это была проблема с упаковкой релиза, вызванная человеческой ошибкой, а не нарушением безопасности. Мы принимаем меры, чтобы предотвратить повторение подобных инцидентов», — говорится в заявлении Anthropic для СМИ. 

Утекший исходный код продукта Claude Code показывает, как Anthropic поддерживает фокусировку своего ИИ-решения во время длительных взаимодействий, избегая путаницы или ошибок. Claude Code использует многоуровневую систему памяти, необходимая информация извлекается только тогда, когда это необходимо. Неудачные обновления не влияют на память ИИ, сохраняя ее точность. По сути, модель Anthropic рассматривает свою память как руководство, проверяя детали на соответствие реальным данным, прежде чем предпринимать действия. Это наглядный пример для других компаний в создании более надежных агентов ИИ.

Инцидент в Anthropic также приоткрыл завесу тайны над решением KAIROS. В то время как существующие инструменты ИИ в значительной степени реактивны, KAIROS позволяет Claude Code работать как постоянно активный фоновый агент. Он обрабатывает фоновые сессии и использует процесс, называемый autoDream. В этом режиме агент выполняет «консолидацию памяти», пока пользователь находится в режиме ожидания. Логика autoDream объединяет разрозненные наблюдения, устраняет логические противоречия и преобразует расплывчатые выводы в абсолютные факты.

Кроме того, утечка данных раскрывает внутренний план разработки Anthropic в области ИИ, включая модели Capybara (Claude 4.6), Fennec (Opus 4.6) и еще не выпущенный Numbat.

Утечка исходного кода Claude Code не только ставит под угрозу интеллектуальную собственность Anthropic, но и раскрывает внутреннюю архитектуру компании, предоставляя злоумышленникам план обхода проверок безопасности.

За несколько дней до утечки кода своего флагманского продукта Claude Code допустила утечку информации о своей новой модели Mythos. Почти 3000 документов, включая изображения и PDF-файлы, были случайно опубликованы в системе управления контентом блога Anthropic и стали доступны для общественности без необходимости авторизации (позже они были удалены). Контент предназначался для ознакомления клиентов с возможностями новой модели.

По словам представителей Anthropic, Mythos представляет собой «качественный скачок» в возможностях ИИ-агентов и является «самой мощной» моделью, которую компания когда-либо создавала.