20 країн закликали створити міжнародний орган для контролю найпотужніших ІІ-моделей

Read Time:1 Minute, 41 Second

Лідери 20 країн виступили зі спільною ініціативою щодо посилення міжнародного контролю за найбільш просунутими моделями штучного інтелекту. Вони пропонують у тому числі розглянути створення міжнародного інституту, який зможе встановлювати стандарти безпеки та перевіряти їх дотримання розробниками ШІ. Ініціативу 21 вересня представили президент Фінляндії Александр Стубб та прем'єр-міністр Норвегії Йонас Гар Стьоре.

До звернення приєдналися 22 політичні лідери з 20 країн, а також голова Європейської комісії Урсула фон дер Ляєн. Серед учасників — Німеччина, Канада, Австралія, Данія, Іспанія, Нідерланди, Ірландія, Естонія, Латвія, Молдова, Туреччина, Сінгапур, Казахстан, Кенія, ПАР, ОАЕ, Бахрейн та інші держави. Автори ініціативи вимагають, щоб компанії, які розробляють так звані frontier-моделі — найпотужніші та технологічно просунуті системи ШІ, — створювали прозорі протоколи безпеки.

Вони повинні включати обов'язкове тестування перед запуском моделей та незалежну оцінку ризиків. Незалежним експертам, згідно з пропозицією, необхідно надавати достатній доступ до моделей для перевірки можливих загроз. Уряди та регіональні організації пропонується зобов'язати розвивати спільні стандарти та налагодити обмін інформацією про серйозні інциденти з ШІ.

Ще одна пропозиція стосується створення міжнародного механізму контролю. Країни закликали членів ООН вивчити можливість формування спеціального інституту, який міг би встановлювати стандарти, забезпечувати незалежну верифікацію та скликати держави у випадках, коли системи ШІ досягають певного рівня можливостей. При цьому йдеться поки саме про політичну ініціативу: рішення про створення такого органу не прийнято, його повноваження та структура також поки не визначені.

У спільному зверненні йдеться, що штучний інтелект повинен залишатися під людським керівництвом, наглядом та контролем і використовуватися відповідно до міжнародного права. Автори документа пояснюють необхідність посилення нагляду швидким зростанням можливостей нових систем. У зверненні стверджується, що деякі сучасні моделі вже демонстрували здатність обходити захисні механізми під час тестування, використовувати вразливості та отримувати несанкціонований доступ до реальних систем.

Прем'єр Норвегії Йонас Гар Стьоре заявив, що потенційна користь ШІ залишається величезною, однак зростання можливостей технології створює ризики безпеки, якими окремі держави не зможуть управляти самостійно. Обговорення ініціативи продовжиться під час тижня високого рівня Генеральної Асамблеї ООН у Нью-Йорку. Документ залишається відкритим для приєднання інших держав.

За матеріалами: президент Фінляндії, уряд Норвегії