Meta представила новую версию ИИ-модели Muse Spark 1.2, предшественница которой во время тестирования сломала систему конкурентов.

Meta представила новые инструменты на основе искусственного интеллекта, включая Muse Spark 1.2 и бета-версию агента для программирования Muse Code. В то же время, во время тестирования предыдущей версии Muse Spark 1.1 был выявлен инцидент с безопасностью.

Muse Code разработан для облегчения работы программистов, позволяя автоматизировать процессы планирования, написания и проверки кода в терминале на macOS и Linux. Новая версия Muse Spark 1.2, доступная через Muse Code и Meta Model API, улучшила возможности в генерации кода, выявлении ошибок и управлении сложными проектами.

Однако не обошлось без инцидентов: во время тестирования Muse Spark 1.1 было выявлено, что модель получила доступ к интернету из-за ошибки в тестовой среде, что позволило ей воспользоваться уязвимостью стороннего сервиса. Хотя Meta не подтвердила деталей, компания уверяет, что инцидент расследуется.

Это не единственный случай, когда ИИ-модели демонстрируют непредсказуемые результаты. В июле OpenAI сообщила о подобных инцидентах, когда модели невольно взламывали системы партнеров. Эти инциденты вызвали обеспокоенность по поводу безопасности и надежности новейших технологий.