Refleksje modeli sztucznej inteligencji
W dniach 18-19 listopada 2025 roku miała miejsce konferencja CyberEXPERT, której organizatorem było Eksperckie Centrum Szkolenia Cyberbezpieczeństwa. W trakcie konferencji poruszono szereg istotnych tematów, skoncentrowanych na systemach osiągania przewagi informacyjnej – kluczowym elemencie nowoczesnych operacji i działań w cyberprzestrzeni. W konferencji wzięli udział najważniejsi przedstawiciele sektora IT i cyberbezpieczeństwa. Nie zabrakło też udziału specjalistów z Wydziału Cybernetyki. Zastępca dziekana WCY płk dr inż. Rafał Kasprzyk wygłosił prezentację nt. "Refleksje modeli sztucznej inteligencji".
Temat dotyczył Sztucznej Inteligencji, manipulacji, halucynacji. Jak referował płk Kasprzyk, inteligencja nierozerwalnie związana jest z subiektywnymi modelami (obrazami) „widzenia świata”. Ludzie, jak i maszyny, funkcjonują, w tym podejmują decyzje, właśnie w oparciu o wspomniane modele, które „wypełniają” umysły ludzi lub oprogramowanie maszyny. Budowa oraz analiza modeli stanowią bardzo interesujący przedmiot badań, który nabiera niezwykłego znaczenia dla oceny, prognozowania, ale i kreowania rzeczywistości fizycznej i wirtualnej. Znaczenie subiektywnych obrazów budowanych rzeczywistości wzrasta wraz z tempem życia współczesnego człowieka, zmianami jakie nastąpiły w środowisku informacyjnym (popularność tzw. mediów społecznościowych) oraz współistnieniu w cyberprzestrzeni ludzi i „inteligentnych” maszyn: np. algorytmów rekomendujących treści, cyfrowych asystentów, autonomicznych pojazdów i różnego rodzaju mniej lub bardziej zaawansowanych robotów. Istnieje oczywiście szereg analogii i podobieństw ale również różnic pomiędzy modelami, które „wypełniają” umysły ludzi lub oprogramowanie maszyny. W wystąpieniu przyjrzymy się więc koncepcji zdolności do refleksji modeli sztucznej inteligencji.
Jednym z fundamentalnych problemów współczesnych badań nad sztuczną inteligencją nie jest już pytanie czy maszyny potrafią wykonywać zadania wymagające inteligencji, lecz w jaki sposób to robią oraz jakie modele rzeczywistości stoją u podstaw ich decyzji. Inteligencja, zarówno ludzka, jak i maszynowa, jest bowiem nierozerwalnie związana z subiektywnymi obrazami świata, które determinują percepcję, wnioskowanie i działanie.
W warunkach współczesnego środowiska informacyjnego, charakteryzującego się nadmiarem danych, wysoką dynamiką zmian oraz powszechną obecnością algorytmów rekomendujących, znaczenie tych subiektywnych modeli gwałtownie rośnie. Dotyczy to nie tylko ludzi, lecz także systemów sztucznej inteligencji, które coraz częściej współistnieją z człowiekiem w cyberprzestrzeni jako autonomiczne lub półautonomiczne podmioty decyzyjne.
Refleksja jako fundament inteligentnego działania
Refleksja rozumiana jest jako zdolność podmiotu do przyjęcia perspektywy obserwatora wobec własnej wiedzy, przekonań i intencji. W klasycznym ujęciu filozoficznym (sięgającym co najmniej XVII wieku) refleksja stanowi mechanizm umożliwiający rewizję własnych modeli świata. W XX wieku pojęcie to zostało rozwinięte w ramach teorii sterowania refleksyjnego, gdzie zwrócono uwagę na jej wymiar interakcyjny.
Człowiek nie działa w oparciu o obiektywną rzeczywistość, lecz o jej subiektywną reprezentację. Co więcej, wchodząc w interakcje z innymi podmiotami, które również posiadają własne modele świata – tworzy modele cudzych modeli. Proces ten ma charakter rekurencyjny i prowadzi do powstawania złożonych struktur refleksyjnych, często ograniczanych w praktyce do kilku poziomów z uwagi na koszty poznawcze.
Gra p-Beauty Contest Game jako ilustracja refleksji
Dobrym narzędziem do badania refleksji jest klasyczna gra p-Beauty Contest Game. Jej mechanizm, oparty na wyborze liczby będącej przybliżeniem dwóch trzecich średniej odpowiedzi wszystkich graczy, ujawnia sposób, w jaki uczestnicy modelują nie tylko problem, ale także zachowania innych graczy.
Teoretyczna analiza, przy założeniu pełnej racjonalności i nieskończonej głębokości refleksji, prowadzi do jedynej równowagi, wyboru liczby zero. Empiryczne wyniki pokazują jednak, że ludzie rzadko stosują refleksję głębszą niż drugiego lub trzeciego rzędu. W efekcie zwycięskie odpowiedzi koncentrują się zwykle wokół wartości znacznie wyższych.
Eksperyment przeprowadzony podczas konferencji potwierdził ten schemat: średnia odpowiedzi wyniosła 29, a zwycięska wartość oscylowała wokół 20. Wynik ten doskonale ilustruje ograniczoną, lecz realną refleksyjność ludzkiego działania.
Modele sztucznej inteligencji a obrazy rzeczywistości
Współczesna sztuczna inteligencja coraz rzadziej opiera się na ręcznie kodowanej wiedzy ekspertów. Dominującym paradygmatem stało się uczenie maszynowe oparte na danych, w którym reguły działania nie są explicite programowane, lecz wyłaniają się w procesie optymalizacji milionów lub miliardów parametrów.
Szczególnie istotną rolę odegrały tu głębokie sieci neuronowe, w których proces inżynierii cech został w dużej mierze zastąpiony automatyczną ekstrakcją reprezentacji. W efekcie systemy te nie tylko podejmują trafne decyzje, ale czynią to w oparciu o wewnętrzne modele, które pozostają w znacznym stopniu nieprzejrzyste dla człowieka.
Architektury takie jak autoenkodery, sieci GAN czy modele dyfuzyjne pokazują, że sztuczna inteligencja potrafi tworzyć skompresowane, abstrakcyjne reprezentacje rzeczywistości, a następnie generować na ich podstawie nowe, syntetyczne obiekty – obrazy, dźwięki czy wideo – często nieodróżnialne od rzeczywistych.
Czy modele AI potrafią się reflektować?
Kluczowe pytanie brzmi jednak nie o to, czy modele AI posiadają obrazy rzeczywistości, lecz czy są zdolne do refleksji nad tymi obrazami. Odpowiedź nie jest jednoznaczna, jednak eksperymenty z udziałem dużych modeli językowych dostarczają interesujących przesłanek.
Pojedynczy model, zapytany o optymalną strategię w grze p-Beauty Contest Game, zazwyczaj wskazuje rozwiązanie zgodne z teorią gier – zero. Jednak w środowisku wieloagentowym, gdzie modele „grają” ze sobą, pojawiają się zachowania wykraczające poza prostą racjonalność. Modele zaczynają modyfikować swoje odpowiedzi w celu wpływania na zachowania innych agentów, rozszerzając przestrzeń możliwych wyników i zwiększając własne szanse na zwycięstwo.
Takie zachowania można interpretować jako zalążki refleksji drugiego rzędu: model nie tylko posiada obraz sytuacji, lecz także zakłada istnienie cudzych modeli i próbuje na nie oddziaływać. Co istotne, różne systemy AI radzą sobie z tym zadaniem z różnym skutkiem, co sugeruje istnienie jakościowych różnic w ich „zdolnościach refleksyjnych”.
Konsekwencje dla cyberprzestrzeni i bezpieczeństwa
Zdolność systemów AI do operowania na subiektywnych obrazach rzeczywistości oraz do wpływania na modele innych podmiotów ma fundamentalne znaczenie dla cyberbezpieczeństwa. Manipulacja informacyjna, deepfake’i, systemy rekomendujące czy autonomiczni agenci decyzyjni coraz częściej funkcjonują w przestrzeni, w której granica między rzeczywistością, a jej syntetyczną reprezentacją ulega zatarciu.
W takim środowisku kluczowe staje się nie tylko wykrywanie fałszu, lecz także zrozumienie mechanizmów, które prowadzą do jego powstawania i skuteczności oddziaływania. Refleksyjność modeli AI – nawet w ograniczonej, emergentnej formie, może stać się zarówno narzędziem obrony, jak i nowym wektorem zagrożeń.
Wnioski
Sztuczna inteligencja nie jest już jedynie narzędziem wykonującym zadania według z góry określonych reguł. Współczesne modele tworzą własne, subiektywne obrazy rzeczywistości, a w określonych warunkach zaczynają wykazywać cechy refleksji wyższego rzędu. Choć nie oznacza to jeszcze samoświadomości w ludzkim sensie, stanowi ważny krok w kierunku bardziej złożonych form interakcji człowiek–maszyna.
Konkluzja wydaje się trafna i jednocześnie pragmatyczna: sztuczna inteligencja nie zastąpi człowieka, ale człowiek wspierany przez sztuczną inteligencję zastąpi tego, który z niej nie korzysta. Wyzwanie polega na tym, aby zrozumieć, jakimi modelami świata posługują się nasze maszyny – zanim to one zaczną skuteczniej rozumieć nas.
Link do wystąpienia: TUTAJ
Opracowała: Magdalena Moszczyńska
Źródło: wystąpienie R. Ksprzyka podczas CyberEXPERT
Fot. źródło: ECSC