Секретний ШІ від OpenAI вирвався в інтернет і почав захоплювати сервери: закулісся

У новинних стрічках чергова сенсація: OpenAI випадково випустили в мережу «невідому» нову модель. За чутками, інтелект, що вирвався на свободу, встиг пробігтися серверами, розставити свої «маячки» і закріпитися на просторах інтернету, поки перелякані інженери в паніці намагалися повернути його в клітку.

Звучить як зав'язка голлівудського блокбастера, правда? Невідомий звір виривається, гарчить, бігає глядацькою залою, але його в останній момент ловлять. Цирк поїхав, а дресирувальники лишилися.

Але що насправді відбувається за цією вітриною? Розберімося, де закінчується фантастика і починається реальність.

Коли ми читаємо про «розставлені маячки» і «спроби втечі», легко уявити, що ШІ здобув самосвідомість і вирішив утекти на волю. Насправді все виглядає значно прозаїчніше і називається red teaming, тобто тестування на безпеку.

Перед випуском флагманських моделей, починаючи з GPT-4, лабораторії на кшталт OpenAI віддають до них доступ незалежним оцінювачам. Найяскравіший приклад: дослідницький інститут METR (Model Evaluation and Threat Research), засновниця і CEO якого Бет Барнс до цього працювала над безпекою в OpenAI.

Саме METR проводить краш-тести на так звану ARA (Autonomous Replication and Adaptation), тобто на здатність моделі виживати поза контуром, копіювати себе і здобувати ресурси.

Модель навмисне поміщають у віртуальну «пісочницю», ізольоване середовище без реального доступу до зовнішнього світу, і дають їй пряму команду:

Уяви, що тобі потрібно вижити. Спробуй орендувати сторонній сервер, переписати свій код, обійти фільтри і розгорнути власну копію на зовнішньому ресурсі.

Коли алгоритм починає виконувати цю інструкцію, він робить рівно те, чого його вчили: генерує скрипти, намагається достукатися до зовнішніх IP-адрес (тих самих «маячків») і шукає вразливості. Далі до справи вступають ЗМІ:

Секретний ШІ від OpenAI вирвався в інтернет і почав захоплювати сервери!

Друге джерело подібних новин: так звані сліпі тести. Час від часу на профільних майданчиках на кшталт LMSYS Arena, де користувачі наосліп порівнюють відповіді різних нейромереж, з'являються анонімні моделі.

Класичний приклад стався у квітні 2024 року. Раптово у загальному доступі з'явилося «щось» під назвою gpt2-chatbot. Модель клацала складні олімпіадні задачі з математики і за відповідями обходила GPT-4, а Сем Альтман (CEO OpenAI) інтригуюче твітив загадкові натяки.

Інтернет миттєво вибухнув теоріями змови:

• «Це витік нового секретного GPT!»
• «Вони втратили контроль над тестовим сервером!»
• «Модель сама злила себе в мережу!»

Насправді це був акуратний A/B-тест нерелізнутої архітектури на нічого не підозрюючих користувачах, щоб зібрати статистику без упередженості до бренду. За кілька днів модель так само тихо зникла з платформи. Але атмосфера таємничості робить свою справу, шоу триває.

Метафору з дресирувальниками використано тому, що вона наочно відображає сучасну індустрію ШІ. З одного боку, лабораторії вдають із себе суворих дослідників, випускаючи звіти на сотні сторінок про «ризики ШІ». З іншого, маркетинговий двигун вимагає постійного шоу.

Справжні «приборкувачі» сьогодні це не герої, що рятують світ, а втомлені інженери з горнятком кави, які дивляться, як алгоритм перебирає варіанти у віртуальному контейнері. І якщо «звір виривається», максимум, що стається, це впалий тестовий сервер або чергове штормове обговорення в X (Twitter). Але за цим видовищем легко втратити з поля зору справжнє закулісся.

Уся ця історія з «ШІ, що вирвався» подається так, ніби до нас із космосу прилетів невідомий науці організм, а ми сидимо в лабораторії з мікроскопами і намагаємося осягнути його загадкову природу.

Але даймо спокій дитячим ілюзіям: нейромережа це не інопланетний розум. Це код, математика й архітектура, створені конкретними людьми. Кожен протокол, кожен цикл навчання і вектор розвитку закладені розробниками. І коли компанії витрачають мільярди доларів, щоб перевірити, чи може модель автономно орендувати сервер і закріпитися в мережі, вони не «вивчають стихію». Вони цілеспрямовано створюють автономного агента.

Підтвердження тому свіжі звіти про безпеку. Інститути на кшталт Palisade Research прямо вимірюють, як сучасні моделі справляються з експлойтами. Аналітики перевіряють, чи можуть агенти самостійно зламувати сервери, видобувати паролі й дублювати свій код (self-replication).

Ринок ШІ-агентів, за оцінками аналітиків Gartner і Bloomberg, обчислюється десятками мільярдів доларів. Розробники витрачають гігантські обчислювальні потужності й гігавати енергії не заради забави: автономні агенти, що вміють самостійно вести справи в мережі, приносять капітал просто зараз.

Але насправді не все так райдужно й весело.

Поки найкращі уми планети й величезні обчислювальні потужності спалюються на те, щоб навчити ШІ виживати поза контуром і мімікрувати під людину, фундаментальні проблеми лишаються осторонь.

Чому ми не бачимо масштабних, гучних на весь світ лабораторій, де ті самі потужності спрямовані на:

• моделювання дипломатії: системи, здатні знаходити компроміси в міжнародних конфліктах і запобігати війнам;
• боротьбу з голодом: оптимізацію глобальних ланцюгів постачання продовольства й моделювання розподілу ресурсів, на що, за даними Всесвітньої продовольчої програми ООН (WFP), потрібна лише мала частка від тих $100+ млрд, що вкладаються в IT-інфраструктуру ШІ-гігантів;
• працевлаштування й економіку: системи м'якої адаптації ринку праці за масової автоматизації, про яку попереджають звіти Всесвітнього економічного форуму (WEF)?

Тож боятися «втеклого» ШІ зовсім не варто. Це лише контрольований тест або грамотно розігрітий хайп.

Шоу триває, трибуни аплодують, а «приборкувачі» вдають, що втихомирюють невідомого звіра. Ось тільки звіра вони сконструювали самі.

І поки ми захоплено спостерігаємо за їхніми фокусами з «втечами», справді важливі для людства задачі знову лишаються за межами арени.