Anthropic собирается открыть доступ к моделям уровня Mythos, однако сначала усовершенствует их безопасность.

Anthropic планирует открыть доступ к ИИ-моделям для выявления уязвимостей в коде

Компания Anthropic анонсировала планы по открытию публичного доступа к моделям искусственного интеллекта класса Mythos, способным находить уязвимости в программном коде. Это может существенно повлиять на кибербезопасность в глобальном масштабе.

Проект Glasswing компании Anthropic, в рамках которого партнерам предоставляется доступ к моделям Mythos, может изменить подход к идентификации угроз в кибермире. С помощью этих моделей уже было проверено более тысячи open-source-проектов, что привело к выявлению 23 019 потенциальных уязвимостей, из которых 6 202 были классифицированы как критические или высокого уровня опасности. После ручной проверки подтвердились 1 587 уязвимостей, из них 1 094 — критические. Одной из таких проблем была уязвимость в криптографической библиотеке wolfSSL, используемой миллиардами устройств.

Несмотря на это, в компании признали, что открытость доступа к мощным инструментам может увеличить риски злоупотреблений и даже усложнить ситуацию на рынке кибербезопасности. Некоторые разработчики уже выразили просьбу замедлить темпы отправки отчетов о найденных уязвимостях, поскольку их команды не успевают выпускать необходимые обновления и патчи.

Anthropic заявляет о намерении расширить доступ к Project Glasswing, в частности в пользу правительств США и стран-союзников. Европейский союз уже сотрудничает с компанией, обсуждая внедрение модели Mythos для мониторинга европейских компаний и банков.

Специалисты отмечают потенциал модели Mythos, которая также используется Агентством национальной безопасности США. Несмотря на осторожность и риски, связанные с широким применением искусственного интеллекта, это может повысить уровень безопасности при разработке программного обеспечения.