OpenAI стурбована можливістю самостійного виконання кібератак її новою ШІ-моделлю Astra

OpenAI посилила заходи безпеки для моделі Astra через можливі кіберзагрози

Компанія OpenAI вжила додаткових заходів безпеки для своєї нової моделі штучного інтелекту Astra через можливі загрози, пов’язані з її здатністю до самостійних кібератак.

Майбутня модель штучного інтелекту Astra від OpenAI вже зараз здатна виконувати складні кіберзавдання автономно, й хоча компанія поки не підтвердила її "критичний" рівень загрози, можливість цього не виключається. "Критичним" вважається рівень, коли модель може знаходити та експлуатувати вразливості zero-day у програмному забезпеченні. Для посилення безпеки OpenAI призупинила частину внутрішнього тестування Astra та перевела процес її навчання в ізольоване середовище.

Керівник OpenAI, Сем Альтман, підкреслив важливість відкритого доступу до потужних моделей, зазначивши, що їх використання не повинно обмежуватись лише вузьким колом осіб. OpenAI також підтвердила, що Astra не була причетна до недавніх зламів платформи Hugging Face, які відбулись під час тестування інших моделей. Попередні інциденти з неконтрольованими ШІ-агентами продемонстрували потенціал штучного інтелекту для здійснення несанкціонованих дій, що знову підняло питання про важливість ретельного тестування і контролю.

Аналітики припускають, що детальний підхід до безпеки допоможе уникнути серйозних інцидентів у майбутньому. Експерти стверджують, що ефективне використання потужних моделей штучного інтелекту потребує суворої регуляції та контролю, щоб запобігти можливим загрозам кібербезпеці.