На початку літа чат-боти на основі штучного інтелекту стали джерелом дезінформації, поширюючи неправдиві звістки про смерть Дональда Трампа. Це стало можливим через нове явище, відоме як отруєння штучного інтелекту (AI poisoning), за якого зловмисники маніпулюють навчальними даними моделей, щоб вплинути на їхню поведінку.
Явище отруєння штучного інтелекту виникає, коли зловмисники навмисно впроваджують шкідливий контент у набори даних, що використовуються для навчання моделей. Це може спричинити небезпечні наслідки, зокрема, неточності у класифікації зображень, хибні діагнози у медицині, чи навіть помилкове виявлення загроз у роботі систем автономного водіння. Дослідження Anthropic, у якому брав участь Інститут Алана Тюрінга, показало, що навіть незначна кількість отруєних документів здатна значно погіршити продуктивність моделей.
У сфері безпеки корпорація Oracle акцентує на важливості постійного моніторингу, очищенні даних та адаптації алгоритмів для запобігання отруєнню. EC-Council підкреслює необхідність впровадження комплексних перевірок всіх даних, що використовуються при навчанні моделей, для уникнення виникнення упередженостей та запобігання поширенню дезінформації.
Такі випадки, як фейкові повідомлення про смерть Трампа та інші, вказують на нагальну потребу в ретельному перегляді та адаптації підходів до кібербезпеки у розробці та експлуатації систем штучного інтелекту.
| Фактори захисту ШІ | Опис |
|---|---|
| Моніторинг системи | Постійне відстеження продуктивності ШІ для виявлення аномалій |
| Очищення даних | Фільтрація шкідливих даних з навчальних наборів |
| Аудити та перевірка | Регулярні перевірки на точність та адекватність моделей |
| Захист даних | Верифікація джерел та шифрування конфіденційної інформації |
Отруєння штучного інтелекту становить серйозну загрозу, що вимагає нових підходів до безпеки й управління даними, щоб захистити суспільство від поширення дезінформації та небезпечних маніпуляцій.
