Anthropic збирається відкрити доступ до моделей рівня Mythos, проте спочатку удосконалить їхню безпеку

Anthropic планує відкрити доступ до ШІ-моделей для виявлення вразливостей у коді

Компанія Anthropic анонсувала плани щодо відкриття публічного доступу до моделей штучного інтелекту класу Mythos, здатних знаходити вразливості в програмному коді. Це може суттєво вплинути на кібербезпеку в глобальному масштабі.

Проект Glasswing компанії Anthropic, у рамках якого партнерам надається доступ до моделей Mythos, може змінити підхід до ідентифікації загроз у кіберсвіті. За допомогою цих моделей вже було перевірено понад тисячу open-source-проєктів, що призвело до виявлення 23 019 потенційних вразливостей, з яких 6 202 були класифіковані як критичні або високого рівня небезпеки. Після ручної перевірки підтвердилося 1 587 вразливостей, із них 1 094 – критичні. Однією з таких проблем була вразливість у криптографічній бібліотеці wolfSSL, використовуваній мільярдами пристроїв.

Попри це, у компанії визнали, що відкритість доступу до потужних інструментів може збільшити ризики зловживань і навіть ускладнити ситуацію на ринку кібербезпеки. Деякі розробники вже висловили прохання сповільнити темпи надсилання звітів про знайдені вразливості, оскільки їх команди не встигають випускати необхідні оновлення та патчі.

Anthropic заявляє про намір розширити доступ до Project Glasswing, зокрема на користь урядів США та країн-союзників. Європейський Союз вже співпрацює з компанією, обговорюючи впровадження моделі Mythos для моніторингу європейських компаній і банків.

Фахівці відзначають потенціал моделі Mythos, яка також використовується Агентством національної безпеки США. Попри обережність і ризики, пов’язані з широким застосуванням штучного інтелекту, це може підвищити рівень безпеки при розробці програмного забезпечення.