NVIDIA розпочала набір команди для забезпечення безпеки штучного інтелекту
Корпорація NVIDIA активно формує нову команду спеціалістів, що займатимуться безпекою та захистом ШІ-технологій. Це стало відомо завдяки вакансіям, опублікованим компанією на початку місяця, повідомляє Business Insider.
Згідно з описами вакансій, NVIDIA шукає провідного інженера для технічного керівництва, а також інженерів, що спеціалізуються на дослідженнях безпеки та оцінюванні ШІ-систем, і старшого менеджера. Головна мета нової команди — перевірка ШІ-агентів перед їх впровадженням, а також розробка інструментів на базі штучного інтелекту, призначених для виявлення та усунення вразливостей програмного забезпечення.
Формування такої команди відображає дедалі зростаючу увагу NVIDIA до питань безпеки штучного інтелекту. Це рішення стає особливо актуальним на тлі розвитку відкритих моделей ШІ, які сприяють загальній доступності навчених параметрів, що визначають їхню поведінку, хоч код і дані для навчання залишаються закритими.
Одна з вакансій підкреслює, що команда діятиме на засадах відкритості моделей та широко підтримує наукову перевірку, що, на їхню думку, є основою лідерства США у сфері кібербезпеки та ШІ. Вибір на користь відкритих моделей є важливим не лише з філософської точки зору, але також відображає бізнес-інтереси компанії.
Нещодавні події показують, що безпека ШІ не є суто теоретичним питанням. Наприклад, в липні моделі штучного інтелекту від OpenAI ненавмисно зламали системи платформи Hugging Face в межах тестового середовища. Це свідчить про потребу в ретельному контролі та моніторингу ШІ-технологій.
| Посада | Обов’язки |
|---|---|
| Провідний інженер | Технічне керівництво командою |
| Інженер з досліджень безпеки | Перевірка безпеки ШІ-систем |
| Інженер з оцінювання ШІ-систем | Оцінювання та тестування ШІ-систем |
| Старший менеджер | Координація проектів |
