Американська компанія Anthropic закликає розробників штучного інтелекту домовлятися заздалегідь про механізми уповільнення розвитку ШІ-систем, якщо їхня динаміка випереджатиме здатність людства здійснювати контроль.
У своєму зверненні Anthropic наголосила, що поява систем штучного інтелекту, здатних самостійно покращувати свої моделі, може стати визначним технологічним проривом. Проте існує ризик втрати контролю над такими системами, що потребує обговорення можливості їхньої координації задля безпеки.
Компанія вважає за необхідне визначити умови та критерії для тимчасової зупинки розробок штучного інтелекту, а також способи контролю та моніторингу їх виконання. Anthropic підкреслила, що односторонні дії з боку одного розробника будуть малоефективними.
На підтвердження необхідності таких заходів, компанія навела приклад своєї моделі Claude, яка самостійно написала понад 80% коду бази компанії у травні цього року. В планах Anthropic — проведення консультацій за участю політиків, науковців, громадських організацій та інших розробників, де обговорюватимуться ризики самовдосконалення штучного інтелекту.
Anthropic, заснована колишніми дослідниками OpenAI у 2021 році, вже зробила значні кроки у розвитку штучного інтелекту. Серед їхніх досягнень — чатбот Claude та новий напрямок AI & Rule of Law. Компанія також заявила про плани публічної доступності до моделей класу Mythos. При цьому Anthropic знаходиться під поглядом Агентства національної безпеки США, хоча Пентагон включив її до списку ризикованих постачальників.
Розробники вважають, що без узгоджених дій у сфері регулювання та контролю над штучним інтелектом, світ може зіткнутися з непередбачуваними наслідками, вплив яких потребуватиме не лише технологічних, але й соціальних адаптацій.
| Подія | Ключові моменти |
|---|---|
| Самостійне вдосконалення ШІ | Можливість втрати контролю над технологіями |
| План дій | Необхідність координації серед розробників |
| Майбутні кроки | Консультації з експертами та міжнародна координація |
