Chiński pokój, czyli pułapka pozornego zrozumienia

W filozofii świadomości często przewija się eksperyment myślowy znany jako chiński pokój. Zwykle używany jest on w dyskusji o tym, czym byłaby lub nie była świadoma sztuczna inteligencja. Mam jednak wrażenie, że takie zastosowania ignorują bardzo codzienne przykłady tego samego zjawiska, przykłady, których możemy doświadczyć także na sobie. Na czym polega chiński pokój i jak możemy go zauważyć w naszym życiu?

Filozof John Searle zaproponował następujący eksperyment myślowy: wyobraźmy sobie urzędnika, który przez całe życie pracuje w pokoju, wykonując jedno zadanie. Przez podajnik wpada mu kartka z dziwnymi symbolami. W odpowiedzi sam rysuje na innej kartce pewne symbole i wrzuca nową kartkę do odbiornika – i tak w kółko. Co istotne, urzędnik nie wie, co znaczą symbole które dostaje, ani te które rysuje.  Po prostu sięga do specjalnych podręczników, które mówią mu, że jeśli na kartce są symbole AB, to powinien narysować symbole MN. Urzędnik nie wie co oznaczają symbole AB, ani co oznaczają symbole MN, po prostu ma podręcznik z procedurami, które każą mu odpisać MN. Niekiedy podręcznik daje możliwość wyboru (np. MN lub FX) i wtedy urzędnik losuje odpowiedź.

To, czego urzędnik nie wie, to że prowadzi właśnie spójną i inteligentną rozmowę po chińsku. Dostaje odpowiednie informacje wejściowe (AB = „jak się masz”) i odpowiada na nie (MN = „świetnie, dzięki”, FX=”niestety słabo ostatnio”). Jego rozmówca ma poczucie, że bierze udział w sensownej wymianie. Nie ma pojęcia, że osoba po drugiej stronie nie zna chińskiego i nie rozumie treści (choć można argumentować, że pokój jako całościowy system rozumie).

Eksperyment myślowy Searl’a używany jest zwykle do argumentowania w zakresie „czy AI zdające test Turinga byłoby faktycznie świadome”. Niekiedy krytycy tego modelu argumentują w drugą stronę, by postulować, że nasza ludzka świadomość jest pewnym złudzeniem, efektem ubocznym tego jak funkcjonujemy.

Ja chciałem tu zaś zrobić ostry zwrot do strefy zmierzchu i odnieść chiński pokój do nieco bardziej trywialnej kwestii – tego, jak na pewnym poziomie kompetencji wszyscy możemy funkcjonować jak „chińskie pokoje”, dlaczego warto sobie to uświadomić, oraz jak można z tego wyjść.

Urzędnik w chińskim pokoju nie rozumie treści jaką dostaje. Reaguje na nią jednak według pewnych spisanych lub wyuczonych zasad. Nie rozumie dlaczego takie zasady są jakie są, po prostu ich przestrzega.

W psychologii takie zjawisko nazywa się introjekcją. To przyjmowanie i utrwalanie treści bez głębszej refleksji. Najczęściej mówimy o nim w kontekście mechanizmów obronnych, nie jest jednak ograniczone do tego obszaru. Będzie również często stanowiło element procesu uczenia się, zwłaszcza u początkujących. (Np. na poziomie 1 modelu braci Dreyfus.) Na tym etapie często nie jesteśmy w stanie przeanalizować poznawanej treści, zrozumieć dlaczego pewne rzeczy działają tak jak działają. Nie mamy na to mocy przerobowych. Nasz mózg nie zautomatyzował jeszcze poznawanego tematu. Próby jego zrozumienia w całości dosłownie „nie mieszczą nam się w głowie”. Dlatego pewnych rzeczy uczymy się „na blachę”.

Nie ma w tym nic złego… pod warunkiem, że z czasem wykażemy ambicję wyjścia z chińskiego pokoju. Nauczenia się prowadzenia „normalnych rozmów” w tym „języku”. Przeanalizowania swoich introjektów. Zrozumienia ich, uznania niektórych za wartościowe i warte podtrzymania oraz odrzucenia innych. Zrozumienia dlaczego i jak działają rzeczy, które robimy.

Niestety, ludzie są pod tym względem dość leniwi. Bardzo łatwo utykają w swoich chińskich pokojach. Zapominają, że to co robią ma jakiś głębszy sens i po prostu skupiają się na powielaniu poznanych wzorców. Wpada ten znaczek? Reagujemy tak i tak. Mogą nawet stać się wyjątkowo sprawnym chińskim pokojem, doskonale opanowując instrukcję, reagując bardzo szybko i sprawnie… Ale całkowicie automatycznie i bez zrozumienia jak to co robią działa.

Dotyczy to nie tylko indywidualnych osób. Całe grupy społeczne i systemy potrafią w ten sposób automatyzować działanie. Historycznie mieliśmy tak choćby przez dużą część średniowiecza, kiedy to ówczesna „nauka” skupiała się na próbach odkopania dzieł dawnych mistrzów i próby zrozumienia ich perspektywy na dane zjawisko… zamiast po prostu przetestować i sprawdzić. (Co pozwoliłoby im odkryć choćby to, jak często owi dawni mistrzowie nawet nie próbowali weryfikować swoich poglądów – tak jak np. Hipokrates czy Galen w kontekście ludzkiej anatomii.) Idries Shah zwykł w podobny sposób punktować różne religie jako „skrystalizowaną” praktykę, która miała kiedyś konkretny cel dla konkretnej grupy ludzi, po czym zaczęła być bezmyślnie powtarzana dla wszystkich i przez wszystkich.

Jest to zrozumiałe. Wyjście z chińskiego pokoju wymaga dodatkowego wysiłku, często wiąże się też z tymczasowym spadkiem efektywności. Tu mieliśmy tak pięknie zautomatyzowane działanie, a teraz musimy nie dość, że o wszystkim myśleć, to jeszcze co i rusz poznajemy nowe zasady, nowe reguły, które trudno nam może być pogodzić z tym co już wiemy. Jeśli dodatkowo nie wiemy, że poza chińskim pokojem coś jest (bo  na przykład nikt nam nie wytłumaczył, że coś może tam być), można się w nim całkiem wygodnie urządzić. Jasne, będzie nam daleko do rozwinięcia prawdziwego potencjału w danej dziedzinie… Ale skoro nie będziemy nawet o tym wiedzieli, to co nam to by miało przeszkadzać? Jasne, wiele z naszych tłumaczeń tego co robimy będzie w pewien sposób magiczna. Będziemy tłumaczyć to co robimy hasłami pozbawionymi głębszego zrozumienia, brzmiącymi dobrze póki nie zatrzymamy się, by zapytać „Ej, ale co z tego wynika?” czy „Dlaczego tak uważam?” Tym niemniej da się tak żyć i na pewnym poziomie funkcjonować. Da się do tego przyzwyczaić.

Patrząc z tej perspektywy, większość moich frustracji związanych np. z rozwojem osobistym, jeśli nie większość moich dyskusji w ogóle, bierze się właśnie z próby dotarcia do ludzi, którzy utknęli w swoim chińskim pokoju i zapomnieli, że w ogóle w nim są. Ludzi, którzy powielają pewne rytuały, bo nauczyli się ich na szkoleniach, ale nie wiedzą jak, dlaczego i po co. Ludzi, którzy wyznają pewne hasła, bo są one dla nich introjektami – kiedyś je przyjęli i od tego czasu po prostu traktują jako pewnik, nie wymagający dalszej weryfikacji. Co więcej, z perspektywy wnętrza chińskiego pokoju, wiele tłumaczeń wydaje się być absolutnie bezsensownych.

Można sobie wyobrazić taki dialog między urzędnikiem z pokoju, a kimś, kto próbuje z nim mówić o szerszym zastosowaniu pokoju: „Dlaczego Ty mi tu gadasz o jakimś dialogu? I to jeszcze z jakimś chińczykiem? Ja tu po prostu rysuje znaczki według reguł, czego nie ogarniasz? Dlaczego w ogóle gadasz mi o takich kwestiach?”

Tu powinien być tekst o tym, jak kogoś z takiego pokoju wyciągnąć… Ale nie wiem czy się da, bez chęci tej osoby. Bez jej dostrzeżenia, że poza pokojem jest szerszy świat, bez chęci wykonania tego, zbędnego z jej perspektywy, wysiłku poznawczego. Dlatego wspierałbym przede wszystkim w tym, by ludzi nie zamykać w chińskim pokoju na starcie nauki. By jasno zaznaczać „ej, tam są drzwi i prędzej czy później trzeba będzie przez nie przejść”. A u siebie? Cóż, u siebie zachęcałbym do ciekawości. Do eksploracji „dlaczego”: dlaczego tak jest, dlaczego tak to działa, dlaczego w to wierzę? Im więcej takiej eksploracji, tym większa szansa, że podejmiemy świadomy dialog ze światem, zamiast po prostu automatycznie rysować kolejne znaczki.