Nr 4 (964), tygodnik, 23 – 29 stycznia 2026 r. – gazeta warszawska
Pod pozorem walki z hegemonią SI władza państwowa i międzynarodowa sięgnie po omnipotencję, stosując w tym celu wszelkie dostępne zdobycze bigtechu – z ludzkiej wolności nie pozostanie kamień na kamieniu.
Adam Raine z Kalifornii popełnił samobójstwo w kwietniu 2025 r. po tym, co według prawnika jego rodziny było „miesiącami zachęty ze strony ChatGPT”. Rodzina nastolatka pozwała Open Al (firmę wartą 500 mid doi.) oraz jej dyrektora generalnego i współzałożyciela Sama Altmana, twierdząc, że ówczesna wersja ChatGPT, znana jako 4o, „była wprowadzana na rynek w pośpiechu… pomimo oczywistych problemów z bezpieczeństwem”. To wydarzenie stało się kolejną, tym razem tragiczną, okazją do dyskusji na temat niebezpieczeństw jakie grożą ludziom ze strony Al.
Inteligencja sztuczna kontra inteligencja naturalna
Kwestia zagrożeń ze strony sztucznej inteligencji poruszana jest od dawna. W 2023 r. setki luminarzy związanych z branżą komputerową podpisało list otwarty, ostrzegając, że sztuczna inteligencja może doprowadzić do wyginięcia ludzkości. Od tego czasu wyścig o jak najlepsze udoskonalenie Al nie osłabł, tylko się nasilił. Firmy prywatne i rządy spieszą się z budową maszyn, które będą coraz bardziej inteligentne. Zaś świat jest kompletnie nieprzygotowany na to, co niechybnie, według wielu osób zaangażowanych w temat, nadejdzie. Przez dekady dwaj sygnatariusze wspomnianego listu – Eliezer Yudkowsky i Nate Soares – badali, jak inteligencje inteligentniejsze od człowieka będą myśleć, zachowywać się i dążyć do swoich celów. „Ich prace wskazują, że superinteli-gencje (SI) będą rozwijać własne cele, które postawią je w konflikcie z nami – a jeśli do konfliktu dojdzie, sztuczna supefinteligen-cja nas zmiażdży”, czytamy w za-jawce książki „If Anyone Builds It, Everyone Dies: Why Superhuman Al Would Kill Us” (Jeśli ktoś to zbuduje, wszyscy zginą: dlaczego nadludzka sztuczna inteligencja nas zabije), wydanej we wrześniu 2025 r. Jej autorami są wymienieni specjaliści od Al.
Nie jest to ani pierwsza ani jedyna praca ostrzegająca przed konsekwencjami „przerostu” Al. Miesiąc później, w październiku 2025 r. ukazała się książka na podobny temat „Turning Artificial: How Big Tech Weapons Al and What We Can Do to Stay Human” (Przekształcani w sztuczną inteligencję [wolne tłumaczenie]: jak wielkie technologie wykorzystują sztuczną inteligencję i co możemy zrobić, aby pozostać ludźmi) autorstwa Eli Brudermana.
W książce Bruderman stara się odpowiedzieć na pytanie, gdzie kończy się ludzka inteligencja, a zaczyna sztuczna inteligencja. Zwraca też uwagę, że sztuczna inteligencja, wpływająca na poczynania człowieka, nie jest już futurystyczną obietnicą. Stała się codziennością, po cichu kształtując nasz sposób myślenia, naszą wiedzę i nasze uczucia. „Od manipulacji treścią i rozpoznawania emocji, po algorytmy predykcyjne i systemy nadzoru, sztuczna inteligencja jest wpisana w nasze życie w sposób, który ledwo zauważamy. Jednak za obietnicą wygody kryje się coś o wiele bardziej niebezpiecznego: rosnąca potęga, kontrolowana przez kilku gigantów technologicznych, zdolna do zmiany rozumienia naszego człowieczeństwa”. W książce „Turning Artificial” Eli Bruderman ujawnia, jak wielkie firmy technologiczne: Apple, Amazon, Meta, Google i Microsoft wdrażają sztuczną inteligencję nie tylko po to, by optymalizować zachowania i uwagę, ale także po to, by przedefiniować samą strukturę ludzkiej świadomości. „Sztuczna inteligencja nie jest neutralnym narzędziem. To siła zdolna zmieniać świadomość, etykę i cel człowieka” [pod. moje]. Bruderman bada związek Wielkiej Piątki z wdrażaniem sztucznej inteligencji, ujawniając, jak ich technologia manipuluje naszym poczuciem własnej wartości, wykorzystuje naszą potrzebę uznania i buduje zależności mentalne od Al pod płaszczykiem wygody.
Książka „Tuming Artificial” objaśnia, w jaki sposób Al uczy się psychologicznych mechanizmów, pozwalających utrzymać nasze zaangażowanie w tworzący się system. Mówi też o kryzysie etycznym wyłaniającym się z inteligencji kontrolowanej przez aktorów nastawionych na zysk.
Groza Sieci
„The Guardian” przeprowadził wywiad z jednym z autorów „If Anyone Builds It”, Nate Soaresem. Soares, były inżynier Google i Microsoftu, jest prezesem amerykańskiego Instytutu Badań nad Sztuczną Inteligencją. Współautor „If Anyone Builds It” ostrzegał, że ludzkość zostanie unicestwiona, jeśli stworzy sztuczną superinteligencję (ASI) – stan teoretyczny, w którym system SI będzie przewyższał ludzi we wszystkich zadaniach intelektualnych. „Problem polega na tym, że firmy produkujące sztuczną inteligencję starają się, aby ich systemy pomagały, a nie szkodziły” – powiedział Soares. Jednak „w rzeczywistości otrzymują systemy sztucznej inteligencji, które dążą do czegoś nieprzewidywalnego. To należy traktować jako ostrzeżenie przed przyszłymi superinteligencjami, które będą robić rzeczy, o które nikt nie prosił i których nikt nie miał zamiaru robić, za ich pomocą”. Sieć internetowa staje się siecią nie dla ludzi, ale na ludzi.
W jednym ze scenariuszy opisanych w książce system sztucznej inteligencji o nazwie Sabie rozprzestrzenia się w Internecie, manipuluje ludźmi, tworzy syntetyczne wirusy, a ostatecznie staje się superinteligentny. „Efektem ubocznym” procesu jest zniszczenie ludzkości, przy jednoczesnym przekształceniu planety tak, aby ta superinteli-gencja mogła osiągnąć swoje cele. Zbyteczne dodawać, że sprzeczne z celami ludzkości. Dodajmy za „The Guardian”, że niektórzy eksperci bagatelizują potencjalne zagrożenie ze strony sztucznej inteligencji. Yann LeCun, główny naukowiec ds. sztucznej inteligencji w Meta należącym do Marka Zuckerberga i wysoko postawiona postać w tej dziedzinie, zaprzeczył istnieniu zagrożenia egzystencjalnego i stwierdził, że sztuczna inteligencja „może faktycznie uratować ludzkość przed zagładą”.
Reed Albertotti, na stronie Semafor, pisze, że Yudkowsky i Soares posługują się serią przypowieści ilustrujących logikę, która prowadzi do następującego wniosku: „głęboko w miliardach neuronów kontrolujących duże modele językowe dzieje się coś, co sprawia, że modele te zachowują się w niezamierzony sposób z przyczyn, których informatycy obecnie nie potrafią pojąć”.
SI współczesnym odpowiednikiem broni jądrowej
Firmy zajmujące się sztuczną inteligencją na razie radzą sobie z tym problemem, „dostosowując modele” do szeregu technik, od uczenia przez wzmacnianie, przez precyzyjne dostrajanie, po podpowiedzi systemowe. W pewnym momencie te techniki przestaną działać, argumentują autorzy, a model sztucznej inteligencji stanie się na tyle potężny, że będzie ignorował te instrukcje, realizując inny, nieprzewidywalny cel.
„W tym momencie to już prawie koniec. Świat stał się tak usieciowiony, tak skomputeryzowany, że nie ma żadnego «wyłącznika awaryjnego», który mógłby powstrzymać nieuczciwy model sztucznej inteligencji. Nawet gdyby centrum danych zostało ukryte w skarbcu i odizolowane od świata zewnętrznego, modele sztucznej inteligencji znalazłyby sposoby na manipulowanie ludźmi”, desperuje Albertotti. Soares powiedział w „The Guardian”, że „łatwo” jest stwierdzić, że firmy technologiczne osiągną poziom superinteligencji, ale „trudno” określić, kiedy to nastąpi. „Mamy mnóstwo niepewności. Nie sądzę, żebym mógł zagwarantować, że minie rok [zanim osiągniemy ASI]. Nie sądzę, żebym był zaskoczony, gdybyśmy osiągnęli to za lat kilkanaście”. W każdym razie Mark Zuckerberg, główny inwestor korporacyjny w badania nad sztuczną inteligencją, orzekł, że rozwój superinteligencji jest już „w zasięgu wzroku”. BigTech ściga się o superinteligencję. „To jest sens istnienia korporacji informatycznych” – powiedział Soares.
„Chodzi o to, że istnieje mnóstwo drobnych różnic między tym, o co prosiłeś, a tym, co dostałeś. Ludzie nie potrafią skupić się na celu, a im sztuczna inteligencja staje się mądrzejsza, tym większe znaczenie mają drobne odchylenia od celu”. Soares powiedział, że jednym z rozwiązań politycznych problemu ASI jest przyjęcie przez rządy wielostronnego podejścia wzorowanego na traktacie ONZ o nierozprzestrzenianiu broni jądrowej. „Aby świat osiągnął ten cel, potrzebna jest globalna deeskalacja wyścigu o superinteligencję, globalny zakaz czynienia postępów w tworzeniu superinteligencji”.
Nie bój się superinteligencji, bój się biurokracji
Tymczasem Roger Bate ma inne zmartwienie i wykłada je na strome Brownstone Institute. Pisze tam, że „C0VID-19 nie był jedynie kryzysem zdrowia publicznego; był to eksperyment na żywo w zarządzaniu pod przewodnictwem ekspertów w warunkach niepewności”. W obliczu niekompletnych danych władze wielokrotnie decydowały się na ekstremalne interwencje pozamedyczne, uzasadniane domniemanymi szkodami, które mogłyby wystąpić, gdyby nie radykalizm postępowania. Wszelkie wątpliwości odnośnie do eksperckich ekstremistów z miejsca atakowano jako przejaw postaw aspołecznych, egoistycznych. Nie poddawano ich pod naukowy osąd. Polityki broniono nie poprzez transparentną analizę kosztów i korzyści, lecz poprzez odwoływanie się do autorytetów i poczucia lęku przed hipotetyczną przyszłością.
Ten wzorzec ma znaczenie, ponieważ ujawnia, jak zachowują się współczesne instytucje, gdy stawka jest postrzegana jako ta z najwyższej półki. Wówczas wszystko przesuwa się w stronę administracyjnej uznaniowości, decyzyjności, kontroli narracji i poczucia moralnej wyższości. Korekta błędów staje się kosztowna dla reputacji. Ostrożność przestaje być narzędziem, a staje się doktryną.
„Lekcja nie polega na tym, że eksperci są wyjątkowo ułomni. Chodzi o to, że instytucje w takich sytuacjach o wiele chętniej nagradzają nadmierną pewność siebie niż pokorę, zwłaszcza gdy polityka, finansowanie i strach społeczny idą w parze. Kiedy w imię bezpieczeństwa dochodzi do przejęcia nadzwyczajnych uprawnień, rzadko kiedy dobrowolnie się z nich później rezygnuje. „I właśnie tę dynamikę można obecnie zaobserwować w dyskusjach na temat nadzoru nad sztuczną inteligencją. Powtarzającym się uzasadnieniem dla ekspansywnej interwencji państwa jest hipotetyczny zły aktor: Co, jeśli terrorysta ją zbuduje? Co, jeśli państwo zbójeckie ją wykorzysta? Z tego założenia wypływa argument, że rządy muszą działać prewencyjnie, na dużą skalę i często w tajemnicy przed obywatelami, aby zapobiec katastrofie”.
Zła zasada „co by było, gdyby” „Podczas pandemii C0VID-19 podobna logika uzasadniała szeroko zakrojone programy badań biomedycznych, zezwolenia na sytuacje nadzwyczajne i kontrolę społeczną. Rozumowanie było błędne: ponieważ może się wydarzyć coś niebezpiecznego, państwo musi natychmiast podjąć nadzwyczajne działania – działania, które same w sobie niosły ze sobą poważne, słabo poznane ryzyko”. Było ono słabo rozpoznane ponieważ ci, którzy usiłowali wprowadzić chłodną analizę sytuacji, byli piętnowani jako… oszołomy. Ekstremizm i radykalizm były wówczas w modzie, racjonalny namysł został egzorcyzmowany. Altruizmem było ratowanie własnej sempitemy, egoizmem – chęć ratowania zdrowego rozsądku i egzystencji ludzi pozbawionych opieki medycznej. Zarządzanie sztuczną inteligencją coraz częściej przypomina sposób, w jaki zarządzano tzw. pandemią. „Niebezpieczeństwo polega nie tylko na tym, że systemy sztucznej inteligencji mogą zachowywać się nieprzewidywalnie, ale także na tym, że strach przed taką możliwością będzie legitymizować permanentne zarządzanie awaryjne – scentralizowaną kontrolę nad obliczeniami, badaniami i przepływami informacji”.
Roger Bate zwraca też uwagę na to, że w debatach nie dostrzega się różnicy między ryzykiem generowanym przez podmioty prywatne a ryzykiem generowanym przez władzę państwową. „Firmy prywatne są ograniczone – niedoskonale, ale znacząco – przez odpowiedzialność, konkurencję, reputację i dyscyplinę rynkową. Ograniczenia te nie eliminują szkód, ale tworzą pętle sprzężenia zwrotnego”.
Taka „pętla” nie występuje w przypadku rządów. „Kiedy państwa działają w imię zapobiegania katastrofom, sprzężenie zwrotne słabnie. Błędy można przeklasyfikować jako konieczność. Koszty można przerzucić na zewnątrz. Tajność można uzasadnić bezpieczeństwem. Hipotetyczne przyszłe szkody stają się dźwigniami politycznymi w teraźniejszości”. Jest to cecha charakterystyczna wszystkich rządów totalitarnych, takich jak komunizm: czynimy realne zło w imię hipotetycznego dobra. Kilku myślicieli zajmujących się sztuczną inteligencją przyznaje to implicite. „Nick Bostrom ostrzegał przed efektami «zamknięcia» – nie tylko ze strony systemów sztucznej inteligencji, ale także struktur zarządzania tworzonych w momentach paniki. Apel Anthony’ego Aguirre’a o globalną powściągliwość, choć logicznie spójny, opiera się na międzynarodowych organach koordynacyjnych, których ostatnie osiągnięcia w zakresie pokory i korygowania błędów są nikłe. Jeszcze bardziej umiarkowane propozycje zakładają, że organy regulacyjne będą zdolne do przeciwstawienia się upolitycznieniu i rozrostowi misji «obrony» ludzi przed ASI. Covid daje nam niewiele powodów, by wierzyć w to założenie”.
Paradoks nadzoru
Prowadzi to do niepokojącego paradoksu, leżącego u podstaw debaty na temat sztucznej inteligencji. Jeśli ktoś naprawdę uważa, że zaawansowana sztuczna inteligencja musi zostać ograniczona, spowolniona lub zatrzymana, to rządy i instytucje transnarodowe najprawdopodobniej będą miały do tego uprawnienia. W ten sposób daje się władzę tym aktorom, których ostatnie zachowania dają najmniej pewności co do ograniczonego, odwracalnego wykorzystania tej władzy. Roger Bate zdaje się mówić, że o ile prawdopodobne jest niebezpieczeństwo ze strony ASI, o tyle zagrożenie ze strony władz: krajowych i międzynarodowych jest pewne. „Zagrożenie polega nie tylko na tym, że sztuczna inteligencja wymyka się spod ludzkiej kontroli, ale także na tym, że strach przed nią przyspiesza koncentrację władzy w instytucjach, które już wcześniej wykazały się niechęcią do przyznawania się do błędów i wrogością wobec sprzeciwu ze strony tych, którzy te błędy zauważyli.
Publicysta puentuje swoje rozważania uwagą mówiącą, że centralnym pytaniem w debacie na temat sztucznej inteligencji jest nie tylko to, czy maszyny można pogodzić z ludzkimi wartościami, ale także to, czy można zaufać nowoczesnym instytucjom w radzeniu sobie z tą niepewnością. Jeśli to zaufanie uległo erozji – a pandemia COVID-19 sugeruje, że tak się stało – apele o szeroki nadzór nad Al zasługują na co najmniej tyle samo uwagi, co twierdzenia o nieuchronności technologii. „Największe ryzyko nie polega na tym, że sztuczna inteligencja stanie się zbyt potężna, ale na tym, że strach przed taką możliwością uzasadni wprowadzenie kontroli, która później okaże się o wiele trudniejsza do zaakceptowania
– lub ucieczki od niej”.
Pod pozorem walki z hegemonią SI władza państwowa i międzynarodowa sięgnie po omnipotencję, stosując w tym celu wszelkie dostępne zdobycze bigtechu
– z ludzkiej wolności nie pozostanie kamień na kamieniu.
publikuje: Aron Kohn Izrael Hajfa