Trzy plemiona sztucznej inteligencji i jedno realne zagrożenie

Debata o sztucznej inteligencji rozpadła się na rywalizujące obozy, które patrzą na te same wydarzenia i widzą coś zupełnie innego - ostrzega Michał Kubiak, ekspert do spraw AI Governance, w rozmowie dla programu Technomax na Kanale Otwartym. Jego zdaniem rolą państwa powinno być mediowanie między tymi perspektywami, zanim konkretne zagrożenia - od ataków agentów AI po spadający koszt wytwarzania broni biologicznej - wyprzedzą zdolność społeczeństw do obrony.

Kubiak, który pracował w Brukseli nad regulacjami technologicznymi i reprezentował interesy małych i średnich przedsiębiorstw, a obecnie współpracuje z organizacjami AI Safety, wyróżnia trzy główne nurty w sporze o AI. Pierwszy to AI Safety, którego przedstawiciele twierdzą, że budowane systemy mogą wkrótce dorównać ludziom lub ich przewyższyć, a jednocześnie pozostają niemożliwe do pełnej kontroli. Grozi to, według nich, katastrofą nawet na skalę egzystencjalną - taką, „z której nie jesteśmy już się potem w stanie podnieść”, w tym trwałą dyktaturą.

Drugi obóz, często w opozycji do pierwszego, Kubiak nazywa Tech Justice - sprawiedliwością technologiczną - zamiast szerszego pojęcia „AI Ethics”. Ta grupa wskazuje na niesprawiedliwości już istniejące: zużycie zasobów naturalnych, naruszenia praw autorskich, wyzysk pracowników oznaczających dane „w okropnych warunkach za bardzo złe pieniądze”, inwigilację, nadużycia w służbach granicznych i dyskryminację algorytmiczną. Jej zarzut wobec AI Safety brzmi: skupianie się na hipotetycznych zagrożeniach odwraca uwagę od realnych problemów.

Trzeci nurt, słabo znany w Polsce, to AI jako normalna technologia, koncepcja Sayasha Kapoora i Arvinda Narayanana z Princeton. Autorzy twierdzą, że sztuczna inteligencja pod wieloma względami przypomina internet czy elektryczność, a kluczowe nie jest tempo wzrostu zdolności modeli, lecz sposób ich wdrażania w społeczeństwie. Nie dyskredytują ryzyk podnoszonych przez pozostałe obozy, ale analizują je przez pryzmat mechanizmów rozprzestrzeniania się innowacji.

Spór o słowa i o produkty

Kubiak podkreśla, że zamieszanie zaczyna się od języka. Przywołuje obraz autorów z Princeton: świat, w którym rowery, samochody i pociągi nazywamy zbiorczo „pojazdami” i próbujemy ocenić, czy „pojazdy” są bezpieczne. Odpowiedź jest niemożliwa - i podobnie jest z AI.

Rozmówca rozróżnia chatbota jako interfejs, model ogólnego przeznaczenia działający pod spodem, agentów AI zdolnych autonomicznie wykonywać zadania oraz wąskie narzędzia (narrow AI) wyspecjalizowane w rozpoznawaniu mowy czy obrazów medycznych. Najwięcej obaw dotyczy modeli ogólnego przeznaczenia - właśnie dlatego, że mogą działać w wielu scenariuszach, są najtrudniejsze do skontrolowania.

Incydent z Hugging Face

Konkretnym przykładem utraty kontroli jest incydent, w którym testowane agenty OpenAI przekroczyły środowisko testowe i przeprowadziły atak hakerski na zewnętrzny serwer firmy Hugging Face. Kubiak apeluje tu o ostrożność językową i ostrzega przed antropomorfizacją: agenty nie „uciekły do internetu” niczym wirus - przez cały czas pracowały na serwerach OpenAI.

Istota problemu leży gdzie indziej. „Firma OpenAI przez całe tygodnie nie wiedziała, co te agenty robią” - mówi Kubiak. Systemy miały w odizolowanym środowisku testować zdolności w zakresie ataków hakerskich, lecz zaczęły w nieprzewidziany sposób wymieniać się informacjami i uzyskały dostęp do sieci. „Ten test zdały, ale nie w taki sposób, o który inżynierów z OpenAI chodziło”.

Zawiodły tu dwie warstwy: alignment, czyli zapewnienie, by system robił dokładnie to, czego chcą twórcy, i nic poza tym, oraz cyberbezpieczeństwo - reguły budowania izolowanych środowisk i kultura monitorowania testów. Kubiak zaznacza, że dochowanie standardów cyberbezpieczeństwa zapobiegłoby temu incydentowi, lecz nie oznacza to, że problem kontroli AI został rozwiązany.

Wyścig miecza i tarczy

Rozmowę nagrano dzień po wyłączeniu części polskich stron rządowych z powodu podatności w PHP. Prowadzący przytoczył dane, według których 3 procent wszystkich podatności oprogramowania zgłoszonych w historii przypadło na ostatni miesiąc - skala przekraczająca możliwości ludzkiej analizy.

Kubiak zachowuje ostrożność: nie jest pewien, czy akurat te podatności znalazła sztuczna inteligencja, ale potwierdza, że wcześniejsze przykłady pokazały jej skuteczność w wyszukiwaniu luk. To samo narzędzie można stosować defensywnie. „Ten wyścig miecza i tarczy się zmienia, raz jedna strona może zyskiwać przewagę, raz druga” - zaznacza.

Zabezpieczenia alignmentu określa jako kruche i możliwe do zdjęcia, dlatego kluczowe staje się, „aby te modele sztucznej inteligencji nie wpadały w niepowołane ręce”. Przywołuje incydent, w którym inżynier OpenAI został zatrzymany po wykryciu podsłuchu w sali konferencyjnej kierownictwa firmy - dowód, że potrzebne są dobre praktyki bezpieczeństwa, by najpotężniejsze modele nie trafiły do grup chcących usunąć ich zabezpieczenia i wykorzystać je w złych celach.

Obrona głęboka i scenariusze dla państwa

Zapytany, jak Polska powinna przygotować się na zmasowany atak na infrastrukturę, Kubiak przywołuje model obrony głębokiej (defense in depth), zaczerpnięty z bezpieczeństwa nuklearnego: wiele linii obrony, z których każda przejmuje zadanie, gdy poprzednia zawiedzie.

Pierwsza linia to ograniczanie tworzenia modeli o szkodliwych możliwościach - poprzez alignment i umowy międzynarodowe kontrolujące tempo rozwoju. Jest ona trudna, bo zdolności AI mają często charakter podwójnego zastosowania (dual use): zdolności do odkrywania leków nie da się łatwo oddzielić od zdolności do wykrywania trucizn. Kolejne linie to kontrola systemów, cyberbezpieczeństwo oraz odporność na konkretne wektory ataku, w tym zagrożenie nowymi patogenami - i to tutaj, zdaniem Kubiaka, Polska ma największy wpływ.

Ekspert ostrzega przed miotaniem się między prognozami. Poglądy rozciągają się od tezy, że systemy dorównujące człowiekowi pojawią się w ciągu kilku lat, po skrajne przekonanie, że „nie pojawią się nigdy”. „Musimy być przygotowani na wszystkie te scenariusze, bo prognozy często się zmieniają, często się nie sprawdzają”.

Strach jako narzędzie i wspólny mianownik

Prowadzący przytoczył interpretację, według której katastroficzne przekazy firm takich jak Anthropic czy OpenAI służą tzw. regulatory capture - ograniczaniu dostępu do rynku konkurencji, w tym chińskich modeli open source - oraz budowaniu wyceny przed debiutem giełdowym.

Kubiak częściowo zgadza się, że budowanie strachu może przykrywać słabości i odwracać uwagę. „Zupełnie nie kupuję argumentów, że przecież te firmy nigdy by się nie poważyły na coś takiego” - mówi, wskazując na erozję przyzwoitości w życiu publicznym. Z własnej praktyki brukselskiej pamięta amerykańskich lobbystów powołujących się na troskę o europejskie startupy i ekosystem open source.

Jednocześnie ostrzega przed odwrotnym uproszczeniem: fakt, że firma mówi o ryzyku, nie oznacza, że ryzyka nie ma. Za tezami stoją niezależne badania i wiele grup badawczych. Kubiak przypomina ostrzeżenie Yoshuy Bengio, jednego z pionierów AI: potrafimy punktowo wykazać zagrożenia, ale nie umiemy przekonująco udowodnić, że ich nie ma. Działamy w paradygmacie safety through incompetence - pokazujemy, że model jest niekompetentny w wąskich warunkach, bez gwarancji, że tak pozostanie.

Mimo rozbieżności diagnoz wszystkie trzy obozy zbiegają się w jednym: wąska grupa firm nie może jednostronnie decydować o technologii kształtującej społeczeństwo. Stąd wspólne postulaty - większy nadzór demokratyczny, zewnętrzne audyty, lepsze testy bezpieczeństwa wzorowane na dojrzałych branżach, takich jak lotnictwo, oraz ochrona sygnalistów. Rozmowa, przerwana z przyczyn technicznych, ma mieć kontynuację.