OpenAI, Anthropic і Google обговорюють створення спільного органу з безпеки ШІ

Read Time:1 Minute, 40 Second

OpenAI, Anthropic і Google ведуть переговори про створення галузевої організації, яка могла б встановити єдині стандарти тестування та аудиту найпотужніших моделей штучного інтелекту. Робоча група представників трьох компаній регулярно зустрічається щонайменше з липня. Про це повідомляє The Information з посиланням на джерела, знайомі з обговореннями.

Переговори тривають уже кілька місяців, причому остання з відомих зустрічей відбулася минулого тижня. Поки компанії не оголошували про створення організації офіційно, а її остаточна структура, повноваження та правила роботи ще не визначені. Основна ідея полягає в тому, щоб найбільші розробники ШІ узгодили спільні вимоги до перевірки найсучасніших моделей.

Йдеться передусім про тестування їхніх можливостей і ризиків, незалежну оцінку безпеки та аудит перед випуском нових систем. Глава OpenAI Сем Альтман на нещодавніх загальних зборах співробітників компанії підтримав створення організації з тестування та аудиту ШІ. При цьому, за даними The Information, він вважає, що найбільшим лабораторіям, ймовірно, доведеться створювати такий механізм самостійно, без підтримки уряду США.

Публічно за тіснішу координацію розробників також виступив глава Anthropic Даріо Амодей. Він запропонував компаніям узгодити добровільні стандарти безпеки ще до появи повноцінного державного регулювання. Переговори між OpenAI, Anthropic і Google розпочалися ще до цієї заяви.

Робоча група, до якої входять представники компаній нижче рівня генеральних директорів, збирається з липня. Одним із можливих орієнтирів для нового органу розглядається модель FINRA — американської саморегулівної організації фінансової галузі, яка контролює брокерів і встановлює для них обов'язкові стандарти. Подібну концепцію раніше пропонували й представники Google DeepMind.

У Білому домі також розглядалася ідея створення структури для саморегулювання індустрії ШІ. Однак, за даними The Information, підготовлений проєкт відповідного указу застопорився влітку через відсутність достатньої підтримки всередині адміністрації Дональда Трампа. При цьому всередині технологічної галузі єдиної думки немає.

Частина компаній і керівників побоюється, що створені найбільшими розробниками правила можуть ускладнити конкуренцію для невеликих гравців. Остаточної галузевої угоди поки також немає. OpenAI, Google, Anthropic та інші великі розробники вже співпрацюють через Frontier Model Forum, створений для досліджень у галузі безпеки передових моделей ШІ.

Однак новий проєкт передбачає більш конкретну систему спільних стандартів тестування та контролю. За матеріалами: The Information, Quartz, PYMNTS