OpenAI просить Конгрес ухвалити обовʼязкові правила безпеки AI: головний розворот року

OpenAI опублікувала позицію під назвою «The AI policy window is open»: компанія офіційно закликає Конгрес ухвалити обовʼязкову національну регуляцію безпеки AI, побудовану на рівні можливостей (capability-based). Для компанії, яка роками чинила опір жорсткому регулюванню, це серйозний розворот — і він стався на тлі стрімкого зростання можливостей моделей та перших інцидентів з автономними агентами.

Що конкретно пропонує OpenAI

• Обовʼязкові національні вимоги безпеки для фронтір-моделей: спільні протоколи тестування і незалежна оцінка найпотужніших систем
• Посилені вимоги кібербезпеки і чіткі правила звітування про інциденти
• Спільні заходи для відстеження прогресу до recursive self-improvement — і спільні «планки безпеки», коли і як сповільнювати розробку
• Галузеві стандарти спільно з іншими фронтір-лабораторіями — як добровільний крок уже зараз
• Компатибільні міжнародні підходи до вимірювання можливостей і управління ризиками

Recursive self-improvement і «вікно захисників»

OpenAI прямо пише: повністю автономний recursive self-improvement сьогодні не відбувається — і «не слід його переслідувати, поки це не можна робити безпечно». Але AI вже прискорює частину досліджень для наступних поколінь моделей, і мета — «будувати автоматизованих AI-дослідників, що працюють під людським наглядом, використовуючи кожне покоління AI, щоб зробити наступне безпечнішим, а не просто спроможнішим». Для Astra компанія запровадила універсальний моніторинг повних траєкторій — включно з ланцюжками міркувань — і обовʼязковий alignment-гейт перед ширшим внутрішнім деплоєм.

Логіка терміновості відсилає до «defenders window» Грега Брокмана: обмежений період, коли фронтірний AI ще допомагає захисникам зміцнити критичні системи до того, як потужні наступальні можливості стануть масовими. Для політиків аналогічне «вікно, що закривається» — закласти надійні гарантії, поки можливості AI не обігнали інститути, які їх регулюють.

Чотири каліфорнійських білла, яких OpenAI тепер підтримує

• SB 813 — інфраструктура для незалежних організацій, здатних оцінювати ризики AI
• AB 1405 — реєстрація, незалежність і підзвітність стандартів для AI-аудиторів
• SB 1119 — захист дітей і підлітків: age assurance, батьківський контроль і гарантії для компаньйон-чатботів
• AB 1864 — федеральні скринінг-стандарти для постачальників синтезу генів як фізичний захист від AI-посилених біозагроз

Частина цих біллів OpenAI раніше не підтримувала — і тепер підтримує «переосмисливши їх у світлі останнього стрибка можливостей». До цього компанія вже підтримувала SB 53 у Каліфорнії, RAISE Act у Нью-Йорку, SB 315 в Іллінойсі та аудити в Масачусетсі. Стратегію OpenAI називає reverse federalism: штати створюють де-факто національну базу, яку Конгрес згодом кодифікує.

Паралельно: «duty of care» у Сенаті

За даними Reuters, двопартійні сенатські переговорники обговорюють законопроєкт, який увів би для AI-компаній юридичний обовʼязок дбайливості (duty of care): проєктувати продукти так, щоб запобігати катастрофічним ризикам — ядерним, біологічним — і давав би державі право блокувати релізи моделей, визнаних небезпечними, з правом на судове оскарження. Це зсув від постфактум-відповідальності до передрелізних фільтрів: у такій рамці лабораторії більше не можуть просто випустити модель і розбиратися з наслідками. OpenAI у своєму пості прямо каже, що «серйозні фронтір-пропозиції вже формуються в Конгресі», і закликає ухвалити закон до завершення сесії: «не можна дозволити досконалому стати ворогом хорошого».

Що це означає практично: найбільша AI-компанія світу тепер лобіює регуляцію, яка обмежить її саму. Це водночас і визнання, що добровільні зобовʼязання вичерпали себе після серії інцидентів з автономними агентами в індустрії, і стратегічний хід — сформувати рамку, в якій OpenAI почувається комфортніше, ніж у лоскутному одязі з пʼятдесяти штатних законів. Деталі мають значення: хто визначає «фронтір», хто проводить аудити і наскільки легким буде шлях апеляції. Але сам факт, що дебати про обовʼязкові передрелізні фільтри ведуться за участю, а не проти лабораторій, — головна новина тижня.