NVIDIA начала набор команды для обеспечения безопасности искусственного интеллекта
Корпорация NVIDIA активно формирует новую команду специалистов, которые будут заниматься безопасностью и защитой ИИ-технологий. Это стало известно благодаря вакансиям, опубликованным компанией в начале месяца, сообщает Business Insider.
Согласно описаниям вакансий, NVIDIA ищет ведущего инженера для технического руководства, а также инженеров, специализирующихся на исследованиях безопасности и оценке ИИ-систем, и старшего менеджера. Главная цель новой команды — проверка ИИ-агентов перед их внедрением, а также разработка инструментов на базе искусственного интеллекта, предназначенных для обнаружения и устранения уязвимостей программного обеспечения.
Формирование такой команды отражает возрастающее внимание NVIDIA к вопросам безопасности искусственного интеллекта. Это решение становится особенно актуальным на фоне развития открытых моделей ИИ, которые способствуют общей доступности обученных параметров, определяющих их поведение, хотя код и данные для обучения остаются закрытыми.
Одна из вакансий подчёркивает, что команда будет действовать на основе открытости моделей и широко поддерживает научную проверку, что, по их мнению, является основой лидерства США в сфере кибербезопасности и ИИ. Выбор в пользу открытых моделей важен не только с философской точки зрения, но также отражает бизнес-интересы компании.
Недавние события показывают, что безопасность ИИ не является сугубо теоретическим вопросом. Например, в июле модели искусственного интеллекта от OpenAI ненамеренно взломали системы платформы Hugging Face в рамках тестовой среды. Это свидетельствует о необходимости в тщательном контроле и мониторинге ИИ-технологий.
| Должность | Обязанности |
|---|---|
| Ведущий инженер | Техническое руководство командой |
| Инженер по исследованиям безопасности | Проверка безопасности ИИ-систем |
| Инженер по оценке ИИ-систем | Оценка и тестирование ИИ-систем |
| Старший менеджер | Координация проектов |
