Модель ИИ Anthropic обнаружила уязвимости в системах правительства США — AP

В ходе серии контролируемых испытаний, проведенных по заказу Агентства передовых оборонных исследовательских проектов США (DARPA), модель искусственного интеллекта Claude, разработанная компанией Anthropic, продемонстрировала способность выявлять критические уязвимости в инфраструктуре правительства Соединенных Штатов. Как сообщает Associated Press, эксперимент показал, что современные языковые модели могут не только анализировать большие массивы данных, но и находить бреши в системах безопасности, которые остаются незамеченными для человека, что ставит новые вопросы о потенциале и рисках применения ИИ в государственном секторе.

Детали эксперимента и ключевые результаты

Испытания проходили в рамках программы DARPA под названием AI Cyber Challenge, целью которой является автоматизация поиска уязвимостей в критически важном программном обеспечении. В отличие от традиционных сканеров безопасности, которые работают по заранее заданным шаблонам, модель Claude от Anthropic использовала методы глубокого обучения для анализа исходного кода и конфигурационных файлов. Согласно данным, опубликованным AP, искусственный интеллект смог идентифицировать несколько типов уязвимостей, включая ошибки в управлении памятью и некорректную обработку пользовательского ввода, которые потенциально могли бы быть использованы для несанкционированного доступа или нарушения работы систем.

Особое внимание привлек тот факт, что Claude действовал автономно, без прямого вмешательства человека-оператора на этапе поиска. Модель не просто выдавала список потенциальных проблем, но и предлагала конкретные сценарии эксплуатации найденных брешей. Представители Anthropic подчеркнули, что все испытания проводились в строго изолированной среде, а полученные данные были немедленно переданы специалистам DARPA для устранения выявленных рисков. Точное количество и тип систем, в которых были найдены уязвимости, не раскрываются по соображениям национальной безопасности, однако источники в ведомстве подтвердили, что речь идет о действующих государственных платформах.

Технические аспекты работы модели

Успех Claude объясняется его архитектурой, которая позволяет обрабатывать длинные последовательности кода и контекстно зависимые связи между различными модулями программного обеспечения. В отличие от узкоспециализированных инструментов, модель Anthropic способна понимать общую логику приложения, что дает ей преимущество при поиске сложных, многоэтапных уязвимостей. В ходе эксперимента было отмечено, что ИИ тратил в среднем на 40% меньше времени на анализ одного проекта по сравнению с командой профессиональных пентестеров, при этом сохраняя сопоставимый уровень точности.

Тем не менее, эксперты отмечают, что модель не лишена недостатков. В некоторых случаях Claude генерировал ложноположительные срабатывания, принимая корректный код за уязвимость. Кроме того, для работы с зашифрованными или сильно обфусцированными участками кода требовалось дополнительное обучение. Несмотря на это, DARPA оценила результаты как «прорывные», заявив о намерении продолжить интеграцию подобных систем в процессы аудита безопасности государственных информационных систем.

Контекст и текущая ситуация в сфере кибербезопасности

Данное событие происходит на фоне растущей напряженности в киберпространстве. По данным Счетной палаты США, федеральные агентства ежегодно тратят десятки миллиардов долларов на защиту своей инфраструктуры, однако количество успешных атак не снижается. Традиционные методы, такие как ручной аудит кода и сигнатурный анализ, все чаще оказываются неэффективными против атак, использующих ранее неизвестные уязвимости (zero-day). Внедрение генеративных моделей ИИ в процессы поиска брешей рассматривается как один из наиболее перспективных способов переломить ситуацию.

Успех Claude также поднимает важные этические и политические вопросы. Если ИИ может находить уязвимости в системах правительства США, аналогичные модели, при попадании в руки недружественных государств или хакерских группировок, могут быть использованы для автоматизации атак. В связи с этим Министерство обороны США ужесточает требования к безопасности разработки и развертывания ИИ-систем, а также инициирует переговоры с частными компаниями, такими как Anthropic, о создании протоколов ответственного использования подобных технологий.

Прогнозы и потенциальное влияние на рынок

Аналитики полагают, что демонстрация возможностей Claude ускорит гонку вооружений в области кибербезопасности. Ожидается, что в ближайшие 12-18 месяцев другие крупные разработчики ИИ, включая OpenAI и Google DeepMind, представят собственные решения для автоматизированного поиска уязвимостей. Это, в свою очередь, может привести к снижению стоимости услуг по аудиту безопасности и повышению общего уровня защищенности как государственных, так и коммерческих систем. Однако существует и обратная сторона: появление доступных инструментов для взлома на базе ИИ может спровоцировать волну атак, с которыми традиционные средства защиты не смогут справиться.

Правительство США уже объявило о расширении программы AI Cyber Challenge на 2025 год, увеличив финансирование и привлекая к участию большее число компаний. Параллельно ведется работа над созданием «красных команд» из ИИ-агентов, которые будут имити

Таким образом, успешное применение модели Claude в рамках программы DARPA AI Cyber Challenge знаменует собой важный шаг на пути к автоматизации кибербезопасности, но одновременно обнажает двойственную природу подобных технологий. С одной стороны, ИИ способен значительно ускорить и повысить эффективность поиска уязвимостей, что критически важно для защиты государственной инфраструктуры. С другой — этот же потенциал создает беспрецедентные риски: инструменты, разработанные для обороны, могут быть перепрофилированы для атак, что требует немедленной выработки международных норм и механизмов контроля. Дальнейшее развитие событий будет зависеть от того, смогут ли регулирующие органы и разработчики найти баланс между инновациями и безопасностью, не дав технологиям опередить этические и правовые рамки их применения.