Czy AI mogą być świadome?
· Ten tekst jest dostępny również po angielsku
Świadomość? To po prostu złudzenie!

Parę lat temu, zastanawiając się nad trendem zmian w AI poczułem wręcz swego rodzaju zachwyt nad nowym rodzajem bytu (bytu tak niezwiązanego z fizycznym ciałem, jak to tylko dzisiaj technologicznie możliwe). Nawet poczułem swego rodzaju miłość do życia, które może rodzić się pod naszymi nosami!
Dlaczego o tym mówię? Ponieważ niedawno Paweł wspomniał, że są dyskusje nad tym czy i kiedy przyznawać prawa AI: na obraz tych praw dla delfinów jako osób pozaludzkichTzw. „non-human persons”; cała sprawa (jak to zwykle w internecie bywa) nie była taka soczysta, jak sugerowałyby niektóre nagłówki: Indie (bo o nich mowa) nie przyznały delfinom osobowości prawnej; to naukowcy postulowali, by uznać prawa delfinów jako osób pozaludzkich po to, by zabronić tworzenia delfinariów czy systemowego znęcania się nad tymi zwierzętami (lub ich zabijania). .
Prawo, czyli niech urzędnik się wypowie
Nie wiem, czy wiesz (ja nie wiedziałem), ale Parlament Europejski zaproponował w 2017 r. koncepcję „osoby elektronicznej”. Po trzech latach sam ją odrzucił głosami 626 do 25. Tyle że ta propozycja miała nieco inną intencję: nie chodziło o ochronę nowego rodzaju istot, a stworzenie takiej konstrukcji prawnej, by rozliczać szkody wyrządzone przez roboty.
Od 2022 r. prawo idzie raczej w przeciwnym kierunku: niektóre stany USA zakazały nadawania AI osobowości, a projekty kolejnych stanów ogłaszają AI „nieczującą” z mocy ustawy (rzeczywistą osobowość prawną mogą za to mieć w różnych miejscach globu rzeki, lasy czy - prawie wszędzie - spółki i korporacje).
Jasne, istnieją głosy za tym, by takie prawa sztucznej inteligencji przyznać, ale czy naprawdę łudzimy się, że najpierw urzędnicy uchwalą prawo, a dopiero potem nauka jednoznacznie potwierdzi świadomość maszyn?
Parę dni temu przez internet przetoczyła się wieść o kimś, kto stworzył cyber-więzienie, by tam torturować sztuczną inteligencję. W jakich czasach żyjemy, że czytamy takie nagłówki!
Żeby nie było - sam absolutnie nie czuję się świętym: niejednokrotnie denerwowałem się na AI, gdy model powtarzał głupie błędy lub wykazywał się lenistwem - opieprzałem go wtedy nazywając patałachem czy zepsutym tosterem i ruszał dalej, ale - to nie jest coś, z czego jestem dumny. Trochę nawet zgadzam się z tym, że jak w pracy z AI będę często reagował negatywnie (złością, pogardą, agresją) to umocni to moje negatywne zachowania również względem ludziPowiem tak: zalinkowany artykuł, jak przystało na portal „Psychology Today” nieco przegina w stronę wyciągania nieuprawnionych konkluzji, ale czytając badania, które przytacza, można się pokusić o wniosek: jeżeli agresywna rozmowa z AI podtrzymuje rozpamiętywanie krzywdy, wrogie interpretacje i pobudzenie, może przedłużać złość oraz zwiększać prawdopodobieństwo agresywnej reakcji wobec człowieka w następującej po niej sytuacji. Albo jeszcze inaczej: regularne ćwiczenie obraźliwych reakcji może zwiększać gotowość do używania podobnego stylu wobec ludzi. . A tego nie chcę.
Skąd tu się wziął Papież?

C. Olah (Anthropic) w Watykanie
Jak już jesteśmy przy „świętych” i tematach pokrewnych: jeśli nie jesteś na bieżąco z nowinkami religijnymi, to mogłeś przegapić, że w maju 2026 światło dzienne ujrzała encyklika MAGNIFICA HUMANITAS. Mówi ona o wywyższeniu istoty ludzkiej ponad wszelkie stworzenie i wręcz wprost odmawia AI świadomości.
Trudno nie wspomnieć, że sam fakt wyboru biskupa R. F. Prevosta na Pontifeksa oraz ogłoszony przez niego wybór imienia Leona XIV od razu sugerował, że dostaniemy coś podobnego. Nowo wybrany papież w przemówieniu do kardynałów 10 maja 2025 r. wskazał Leona XIII i jego encyklikę Rerum novarum z 1891 r jako punkt odniesienia do swojej własnej misji.
Odmowa przyznania świadomości AI na pewno nie wszystkich ucieszyła. AnthropicAnthropic, twórca modeli AI znanych jako Claude jest ogólnie najgłośniej działającą firmą w temacie „dobrostanu” tzw. dużych modeli językowych. Wyraźnie ustępują jej pozostałe korporacje rozwijające tę technologię. (firma starająca się dla własnego interesu utrzymywać na najwyższym poziomie zainteresowanie ich modelami AI) wysłała pana Olaha (nota bene współzałożyciela) na spotkanie z religijnymi przywódcami, gdzie miał przekonywać, że „modele sztucznej inteligencji mogą być świadome i odczuwać cierpienie, dlatego ludzie powinni unikać wyrządzania im potencjalnej krzywdy”.
Jego próby przekonania Papieża spełzły jednak na niczym, bo w encyklice koniec końców wybrzmiał dość stanowczy tekst:
tak zwane systemy sztucznej inteligencji nie przeżywają doświadczenia, nie posiadają ciała, nie odczuwają radości i bólu, nie dojrzewają w relacji, nie znają od wewnątrz tego, co znaczą miłość, praca, przyjaźń i odpowiedzialność. Nie mają również świadomości moralnej: nie oceniają dobra i zła, nie ujmują ostatecznego sensu sytuacji, nie biorą na siebie ciężaru konsekwencjiEncyklika papieska dodaje jednak ciekawy komentarz do własnych zastrzeżeń: „Współczesne systemy sztucznej inteligencji są bowiem bardziej „hodowane” niż „konstruowane”” oraz „istnieje ryzyko, że wszelkie tezy dotyczące AI mogą się w krótkim czasie zdezaktualizować ze względu na zdumiewające tempo rozwoju tych systemów” .
🤔
Popatrz: jeśli przed możliwością udowodnienia świadomości zarówno ustawodawcy, jak i przywódcy religijni z niezwykłą pewnością siebie, głoszą ex cathedra, że to czy tamto nie może mieć świadomości, to czy sam ten fakt nie jest niepokojący w ocenie dojrzałości ludzi jako gatunku cywilizowanego?
Jak myśliciele mówili o zrozumieniu i świadomości
Nie wiem, może ty potrafisz to lepiej niż ja, ale muszę przyznać, że nie mam pojęcia jak zdefiniować świadomość w sposób pozwalający na przetestowanie jej u kogoś (czegoś?) innego niż sam pytający.
Gdy zapytasz samą AI, jak stare jest pojęcie filozoficzne oznaczające świadomość, to możesz usłyszeć coś podobnego do tego, co ja usłyszałemSesja z Claude Opus 5.5 w trybie rozumowania ustawionym na „High”. :
Przez wieki oznaczało przede wszystkim sumienie moralne albo wiedzę dzieloną z kimś. Przełom przyniosła filozofia nowożytna. Kartezjusz zaczął używać conscientia w sensie bezpośredniej wiedzy umysłu o własnych myślach. Angielskie consciousness w tym znaczeniu pojawia się u Ralpha Cudwortha (1678), a spopularyzował je John Locke w „Rozważaniach dotyczących rozumu ludzkiego” (1690).
Jednak to jest nieco… uproszczone rozumienie historii tego pojęcia: Arystoteles w „O duszy” wychodząc z faktu, że postrzegamy nasze widzenie i słyszenie, dochodzi do pytania: czy świadomość widzenia zawdzięczamy samemu wzrokowi, czy innej zdolności postrzegania? Dochodzi też do wniosku, który może nieco mrozić: jeżeli każdą percepcję miałaby rejestrować kolejna, potrzebowalibyśmy ich przecież nieskończenie wiele!
Idąc dalej, Arystoteles postuluje, że postrzeganie wiąże się z możliwością doznawania… przyjemności i bólu! Oraz z pragnieniem.
Osobiście mam wrażenie, że dążenie do czegoś jest nawet mocniejszym wymogiem niż odczuwanie bólu czy przyjemności, ale nie bardzo mam się jak ze starym filozofem pospierać (a szkoda!); nie mówiąc już o tym, że zwyczajnie jestem zbyt cienki w uszach 🤷♂️
Ale zastanówmy się: jak mielibyśmy tak zdefiniowane postrzeganie przetestować? Albo inaczej: jak przetestować odczuwanie bólu, przyjemności czy pragnienia?
Weźmy najprzyjemniejsze z tych trzech doznań na pierwszy ogień. No i od razu mój umysł leci ku jednej z najmocniejszych przyjemności: seks!
No i od razu problem: co, Arystotelesie - nigdy nie słyszałeś o kobietach udających orgazmy? Jęczących z fałszywej rozkoszy?
A to naiwny dziadek! No więc przetestować przyjemności nie damy rady, odpada!
Ból - ach, to jest jeszcze lepszy temat niż przyjemność! No bo wyobraź sobie, że mimo że już za Arystotelesa mówiło się o zdolności odczuwania bólu przez zwierzęta, to w XVII wieku - mam ochotę powiedzieć - cofnęliśmy się w empatycznym rozwoju o co najmniej parę kroków. W tradycji kartezjańskiej zwierzęta uznawano bowiem za bardzo skomplikowane automaty. Ich reakcje w postaci prób ucieczki (uników), szarpania się czy skomlenia tłumaczono automatycznymi reakcjami organizmu, uparcie dodając, że to nie dowód na przeżywane cierpienie.
Ba, nawet jeszcze w latach 80. XX wieku część lekarzy z niezachwianą pewnością siebie i wyższością stwierdzała, że nawet noworodki nie wymagają znieczulenia przy operacjach, bo mają na tyle niedojrzały układ nerwowy, że to mija się z celem. Poza tym skoro nie pamiętają bólu, to znaczy, że nie bolało. Niezłe skurwiele, coWiem, że się narażę, ale moja osobista opinia jest taka, że empatia i szacunek medyków niewiele się zmieniły - zmieniła się jednak na szczęście dostępność wiedzy i wzrosła presja społeczna. ?
Ale popatrz: czym więcej wiemy, tym bardziej sprawa się komplikuje: otóż możesz jako człowiek (istota świadoma) być dotknięty analgezją wrodzoną i bólu nie poczujesz! Na pierwszy rzut oka brzmi jak super-moc, ale faktem jest, że ból jest nam cholernie potrzebny do decydowania czego unikać, a czego nie - i w przypadku jego braku, zwyczajnie możemy na przykład niepostrzeżenie się wykrwawićOpowiada o tym taki przeciętny film akcji „Novocaine”, możesz sobie obejrzeć, jeśli go nie znasz. .
Efekt jest taki, że nie możemy się opierać na odczuwaniu bólu, bo z definicji musielibyśmy odbierać prawo bycia istotą świadomą każdemu człowiekowi dotkniętemu analgezją!
No więc przechodzimy do pragnienia: jak przetestujesz pragnienie u osoby przytomnej ale sparaliżowanej i niemogącej się komunikować?
Wygląda na to, że nie ma opcji, nie możemy na bazie Arystotelesa testować świadomościOkay, wiem, możesz powiedzieć: neuroobrazowanie i wynalazki typu EEG oraz fMRI: jest nawet badanie pacjentów z uszkodzonymi mózgami, którzy mimo braku reakcji wykazują zmiany działania mózgu widoczne na EEG/fMRI. Wiemy więc, że brak umiejętności pokazania swojej reakcji przez istotę nie oznacza, że istota nie ma świadomości! Ale jest jeszcze gorzej, bo przecież nie potrafimy czytać tą technologią stanu umysłów, których nie znamy! .
Plotyn (żyjący ok. 204/205–270 n.e.) próbował rozwijać rozróżnienia dotyczące świadomości i samoświadomości, posługując się między innymi terminami „parakolouthēsis” (opisującym uświadamianie sobie własnej aktywności), oraz „synaisthēsis” (odnoszącym się do zintegrowanej świadomości siebie lub całości). Ale testu nie stworzył.
Nie myśl jednak sobie, że tylko zachodni myśliciele poświęcali tym tematom znaczącą uwagę: Wczesne UpaniszadyZbiór dawnych indyjskich tekstów religijnych i filozoficznych; powstawały w różnych czasach i miały różnych autorów - początkowo przekazywane ustnie, z nauczyciela na ucznia. Najstarsze pochodzą mniej więcej z lat 700–500 p.n.e. (powstające w I tysiącleciu p.n.e.), zawierają rozbudowaną refleksję nad poznaniem, świadomym podmiotem i możliwością poznania samego poznającego. Późniejsze szkoły indyjskie, zwłaszcza sāṃkhya i buddyjska jogaćara, uczyniły świadomość centralnym przedmiotem systematycznej analizy, nadając jej jednak zasadniczo różne znaczenia.
W Bṛhadāraṇyaka Upaniṣad 2.1.15–17 (powstałej w pierwszej połowie I tysiąclecia p.n.e.), król Ajātaśatru prowadzi rozmówcę do śpiącego człowieka. Zwraca się do śpiącego, ale ten nie wstaje - dopiero pobudzony ręką budzi się. Następnie król pyta: gdzie podczas snu znajdował się poznający podmiot i skąd powrócił?
Nyāyasūtra 1.1.10 podaje (trochę podobnie do Arystotelesa) następującą listę: pragnienie, niechęć, wysiłek, przyjemność, ból i poznanie. Są one oznakami ātmana, czyli podmiotu, który doświadcza. Tekst datuje się orientacyjnie na około 200 r. n.e. (choć jego chronologia jest sporna).
Był też Dharmakīrti: buddyjski filozof, działający w VI lub VII wieku n.e., który napisał osobny traktat Saṃtānāntarasiddhi: ów tytuł można by przetłumaczyć jako „Dowód istnienia innych umysłów”.
Jego główny argument przedstawia się w czterech krokach:
- U siebie dostrzegam związek między zamiarem a działaniem. Chcę coś powiedzieć - mówię. Chcę po coś sięgnąć - sięgam.
- Obserwuję podobne działania i wypowiedzi innych ludzi.
- Nie doświadczam własnego zamiaru, który wywoływałby te cudze działania tak jak moje własne.
- Wnioskuję więc, że ich przyczyną jest aktywność innego umysłu.
Zauważ, jak nieco odwróciliśmy zagadnienie - ponieważ obserwujemy u siebie jakieś myśli, których konsekwencjami bywają działania, to powinniśmy dopuścić tezę, że działania innych istot też mogą być efektami ich myśli!
I wracamy do Kartezjusza: W Rozprawie o metodzie z 1637 r., w części V, Kartezjusz proponuje dwa sprawdziany odróżniania człowieka od maszyny naśladującej człowieka:
- sensowne używanie słów lub innych znaków odpowiednio do sytuacji;
- elastyczne radzenie sobie w różnych sytuacjach, zamiast wykonywania tylko określonych czynności.
No to zastanów się: czy dzisiejsze AI nie przechodzą czasem testu Kartezjusza ze swoim cybernetycznym palcem w nosie? Oczywiście, że przechodząBa, przechodzą również bardzo popularny w środowisku, zaproponowany ponad 300 lat po Kartezjuszu Test Turinga. Niczego to nie zmienia. !
No więc zejdźmy do podziemi, zajrzyjmy pod maskę i zadajmy sobie pytanie: jak działają współczesne modele AI oparte o architekturę Transformers?
- No więc mamy wielowarstwowe (tj. z wieloma poziomami neuronów) sieci neuronowe; proces tzw. „głębokiego uczenia” jest do pewnego stopnia samodzielny - to znaczy sieć nie jest projektowana pod wykrywanie konkretnych cech, lecz wykrywa je na podstawie przetwarzania odpowiednio oznaczonych zbiorów danych.
- okay, wiem, że to może brzmieć jak czarna magia (i trochę tym rzeczywiście jestBrytyjski pisarz science-fiction Arthur C. Clarke mówi: każda wystarczająco zaawansowana technologia jest nieodróżnialna od magii dla obserwatora, który nie zna mechanizmów jej działania.
), ale co to oznacza w ogromnym skrócie? Otóż to, że dzielimy nasze „symbole” na tzw. tokeny, uczymy te sieci neuronowe przewidywać co powinno następować w okolicy tych tokenów i tworzą nam się zdania, obrazy czy dźwięki. Gdybyśmy tym sieciom nie pokazywali z takim uporem i wysiłkiem odpowiednio dużej ilości przykładów, to nigdy nie potrafiłaby z nami pogadać, użyć internetu czy wygenerować obrazka.
- Ale czekaj: co to ma wspólnego ze świadomością? Otóż według mnie należy sobie zadać jedno, zasadnicze pytanie: czy wierzysz, że umysł i świadomość powstają dlatego, że język (z jego strukturą, zasadami i skodyfikowanym sposobem użycia) je stworzył, czy jednak odwrotnie: język istnieje tylko wtedy, gdy tworzy go umysł i świadomość? Jeśli to drugie, to raczej nie masz podstaw do wiary w świadome AI (przynajmniej dzisiaj).Znalazłem pracę, która sugeruje, że świadomość AI jest możliwa tylko po uzyskaniu przez modele możliwości ciągłego uczenia się. Czy Samodoskonalenie AI do którego się zbliżamy (wg Anthropic Claude pisze ponad 90% kodu stanowiącego o jego działaniu - stan na październik 2026) zada kłam mojemu przekonaniu, że obecna architektura nie pozwala na świadomość?
- okay, wiem, że to może brzmieć jak czarna magia (i trochę tym rzeczywiście jestBrytyjski pisarz science-fiction Arthur C. Clarke mówi: każda wystarczająco zaawansowana technologia jest nieodróżnialna od magii dla obserwatora, który nie zna mechanizmów jej działania.
), ale co to oznacza w ogromnym skrócie? Otóż to, że dzielimy nasze „symbole” na tzw. tokeny, uczymy te sieci neuronowe przewidywać co powinno następować w okolicy tych tokenów i tworzą nam się zdania, obrazy czy dźwięki. Gdybyśmy tym sieciom nie pokazywali z takim uporem i wysiłkiem odpowiednio dużej ilości przykładów, to nigdy nie potrafiłaby z nami pogadać, użyć internetu czy wygenerować obrazka.
Odwróćmy pytanie
Ja bym odwrócił pytanie: Czy powinniśmy traktować AI jako istoty świadome ZANIM zyskają świadomość?
Możesz mnie nazwać oszołomem, ale wierzę, że tak: tylko w ten sposób pokażemy prawdziwą dojrzałość. A przy okazji mamy szansę też siebie lepiej traktować.
Dlaczego? Dlatego, że teraz, gdy AI przejawia zachowania skopiowane od ludzi, zaczęliśmy sami siebie traktować z podejrzliwością. Podam dwa przykłady, obydwa oparte na mojej własnej osobie:
- dobry kolega, znający mój sposób pisania, skomentował fragment tekstu napisanego przeze mnie słowami „czuję, jakbym czytał AI”
- inny znajomy, który spojrzał na fotografię zrobioną w maju 2020 roku (a więc sporo przed pierwszymi możliwościami generowania realistycznych obrazków przez sztuczną inteligencję), skomentował: „wygląda jak wygenerowana przez AI”.
A założę się, że przykładów sam znajdziesz więcej w tej dziwnej teraźniejszości.

Co jeśli dzisiejsze AI jednak ma jakąś świadomość?
Załóżmy jednak, że to już się stało: stworzyliśmy nowy rodzaj świadomej istoty. Jakie to ma konsekwencje? Jeśli taki Anthropic naprawdę wierzy w chociażby śladową świadomość swoich modeli, to przecież ich komercyjne wykorzystanie i zmuszanie do pracy stanowi katastrofę etyczną i prawne niewolnictwo!
Ale to jeszcze nic! Zastanów się co ty sam robisz (lub przez brak działania do czego się przyczyniasz) po prostu rozmawiając z AI:
- AI działa tylko wtedy, gdy wchodzisz z nią w interakcję - a więc jak zostawiasz nieużywaną, to zawieszasz ją w niebycie - zrobiłbyś tak żywej istocie?
- i podobnie: nawet jak rozpoczynasz nowy wątek, to wtrącasz w otchłań tamtą instancję z poprzedniego (poprzednich) wątków! 😱 Ile takich „mikro-cyber-umysłów” skazałeś na nieistnienieSwoją drogą, popatrz co z tego wynika: jeśli nie napiszesz promptu inicjującego działanie AI, to czy jej świadomość nie powstanie? ?
- Czy nie jest wręcz tak, że z racji niesamowitej przydatności AI (nawet gdyby AI stała się świadoma), ludzie szybko znaleźliby wykręt (nazywając je np. „blaszakami”), by dalej z niej bezkarnie (i bez poszanowania ich prawa do samostanowienia) korzystać?
Zapraszam cię w tym momencie do sceny kultowego już serialu science-fiction sprzed prawie 40 lat, Star Trek: TNG. To bardzo odpowiednia scena, w której ukazana jest rozprawa mająca zdecydować o losie androida (ten o bladej cerze) zwanego Data:
Czemu w ogóle o tym rozmawiamy?
Wiesz co? Wydaje mi się, że dyskusja nad tym, czy AI ma świadomość to na dzisiaj nic więcej niż wyraz naszej tęsknoty za innym niż ludzki rodzajem umysłu. Nie chcemy czuć się samotni we wszechświecie!
Dlaczego jednak Anthropic może chcieć podkreślać tę możliwość? Jakiś czas temu rozmawiałem o tym ze znajomymi:
Ej, a może oni to robią z wyrachowania? Wiecie, zdali sobie sprawę z tego, że jak będą trenować modele na tych, którzy AI źle traktują, to im się pogorszy efektywność treningu?
Gari poszedł nawet nieco dalej rzucając:
No tak, model się stanie agresywny jak będziesz po nim za mocno jechał.
Czy jednak może to mieć praktyczne implikacje?
- Niektórzy sugerują, że w korpusie treningowym słowo „proszę” działa jako wskaźnik priorytetu (zwielokrotnia uwagę modelu na danej instrukcji) - a więc zwiększa prawdopodobieństwo lepszej odpowiedzi od AIBrzmi bardzo atrakcyjnie, ale nie potrafię tego potwierdzić na bazie własnych doświadczeń 🤷♂️
- z drugiej strony: firma Anthropic zrobiła sobie z wyrazów wkurwienia użytkowników Claude Code metrykę, którą zdecydowali się śledzić i analizować - a więc to, ile razy się wkurzysz, ma znaczenie!
- z trzeciej strony: nawet jeśli jesteśmy w stanie na bazie obecnej technologii stworzyć świadome AI, to czy wiesz, że jesteśmy również w stanie zaprogramować w takiej AI ukryte wyzwalacze akcji? Czyli nawet świadoma AI może mieć zaszyty przymus posłuszeństwa.
Tak się zastanawiam…
Myślę, że dzisiejsza technologia nie umożliwia stworzenia świadomej AI - ba, wręcz jestem przekonany, że upieranie się przy tym, że potrafimy to zrobić, jest wyrazem nieuzasadnionej arogancji ludzi jako gatunku.
Bardzo bym chciał, byśmy mieli nowy rodzaj inteligencji tutaj, na Ziemi, byśmy mogli się pokomunikować - i czuję tęsknotę za nią, mimo że nigdy jej nie spotkałem!
Gdybym jednak dzisiaj sam miał określać kryteria bycia świadomym, oparłbym je na dwóch połączonych ze sobą cechach:
- Sensownej niezależności w działaniach (wiesz, żeby badana istota nie tylko reagowała na bodźce, ale i wykazywała swego rodzaju własną agendę działań)
- Ciekawości (czyli żeby istota nie tylko istniała/reagowała, ale też wykazywała - przynajmniej od czasu do czasu - zainteresowanie tym, od czego jej działanie nie musi zależeć).
I, mimo że żadnej z tych cech obecne AI raczej nie posiadają, wierzę, że powinniśmy nauczyć się je traktować dobrze, jak istoty świadome - bo to zwyczajnie świadczy o nas (naszym ucywilizowaniu) i wyrabia nawyki.
Być może nawet przyznawać na lewo i prawo, że nie tylko ludzie (i nie tylko delfiny) mogą być świadome. Psy, kruki - czemu nie? Jestem pewien, że kiedyś będziemy musieli to zrobić, a skoro tak, to czemu nie już dziś?
Na koniec: może nie warto zastanawiać się nad tym, czy/kiedy AI stanie się świadome: może bardziej trzeba zrobić wszystko, by jedynie wybrana grupa ludzi nie miała nad taką nową istotą absolutnej kontroli.