Skąd wzięły się memy z papieżem Leonem XIV w zbroi krzyżowca? Jeśli ktoś przeoczył, poszło o jego pierwszą encyklikę „Magnifica humanitas”, poświęconą sztucznej inteligencji. Internet dopisał hełm, krzyż i wyprawę przeciw maszynom. Sam dokument nie jest jednak antytechnologiczną odezwą.
Leon XIV pisze o świecie, w którym technologia zaczyna urządzać pracę, wojnę, komunikację, dostęp do wiedzy i kontrolę społeczną. Sztuczna inteligencja nie jest tu komputerową ciekawostką ani zabawką laboratoriów. Przesuwa dochody, status i władzę. Kto mówi wyłącznie o wyścigu modeli, pomija podstawowe pytanie – komu ta technologia ma służyć.
Papież sięga po obraz Babel i Jerozolimy. Po jednej stronie stawia wieżę pychy, dominacji i samoubóstwienia. Po drugiej miasto budowane dla wspólnego życia. Sztuczna inteligencja może poszerzać ludzkie możliwości, ale może też stać się architekturą zależności. Jedni będą mieli modele, dane, infrastrukturę i władzę obliczeniową. Inni zostaną materiałem dla systemu.
Leon XIV przypomina, że technologia „nie jest jednak neutralna”. Przyjmuje oblicze ludzi i instytucji, które ją projektują, finansują, regulują i wykorzystują. AI budowana w logice zysku będzie broniła zysku. Rozwijana w logice wojskowej konkurencji znajdzie miejsce w armii. Projektowana jako narzędzie nadzoru znajdzie obywatela, ucznia, pracownika i konsumenta do obserwowania.
Moda na „etyczną AI” niewiele zmienia, jeśli zasady piszą właściciele infrastruktury. Wielkie koncerny mają deklaracje, komisje i zespoły od bezpieczeństwa. Rzadziej mówią o tym, kto posiada modele, kto trzyma dane, kto kontroluje serwerownie, kto zarabia, kto traci pracę i kto nie ma wpływu na reguły systemu. Etyka staje się wtedy dekoracją władzy, nie jej ograniczeniem.
Papież używa mocnego słowa – „rozbroić”. Rozbrojenie AI oznacza wyrwanie jej z logiki rywalizacji, która nie jest już wyłącznie militarna. Jest także ekonomiczna i poznawcza. Nie chodzi o odrzucenie technologii, lecz o przerwanie równania, według którego większa moc techniczna daje prawo do rządzenia.
Najostrzej widać to w sprawach wojny. Algorytm może przyspieszyć decyzję, wytypować cel, oszacować ryzyko i podpowiedzieć atak. Może oddalić sprawcę od ofiary i zamienić człowieka w punkt danych. Ekran, model i kategoria prawdopodobieństwa zasłaniają twarz. Papież pisze krótko – „nie istnieje żaden algorytm, który mógłby uczynić wojnę moralnie dopuszczalną”.
Spór o autonomiczne systemy zabijania nie kończy się na pytaniu, czy maszyna trafi we właściwy cel. Groźniejsze jest przesunięcie odpowiedzialności. Człowiek może powiedzieć, że system rekomendował, model wyliczył, procedura pozwoliła. Decyzja o życiu i śmierci zostaje opakowana w język skuteczności. Wojna staje się szybsza, czystsza w prezentacji i bardziej bezosobowa w wykonaniu.
Ten sam mechanizm widać w pracy. Dzisiejszy przemysł AI ściga się w tworzeniu systemów, które imitują człowieka. Piszą, mówią, analizują, programują, obsługują klienta, generują obrazy i wspierają decyzje. W tej opowieści człowiek coraz częściej występuje jako wolniejsza wersja maszyny. Koszt, przeszkoda, element do przesunięcia na margines.
Człowiek i maszyna uczą się inaczej. Ludzie potrzebują doświadczenia, relacji, błędu, rozmowy, ciała, pamięci i społecznego świata. Modele AI działają na ogromnych zbiorach danych, rozpoznają wzorce i generują przekonujące odpowiedzi, ale nie mają odpowiedzialności, empatii ani przeżytego kontaktu z rzeczywistością. Mogą udawać rozmowę. Nie stają się przez to osobą.
Możliwy jest inny kierunek. Elektryk z narzędziem diagnostycznym pracuje lepiej, ale nie znika. Pielęgniarka korzystająca z systemu pomagającego interpretować objawy nie oddaje decyzji maszynie. Nauczyciel może szybciej dopasować materiał do ucznia, lecz nadal to on rozumie klasę, lęk dziecka, milczenie, zmęczenie i rodzinny kontekst. Urzędnik może szybciej znaleźć dokumenty, nie przekazując algorytmowi prawa do rozstrzygania o człowieku.
Rynek pcha technologię w przeciwną stronę. Firma obniży koszty, jeśli może. Platforma zbierze dane, jeśli prawo jej nie zatrzyma. Państwo sięgnie po tańszy nadzór, jeśli obywatele i instytucje nie postawią granicy. Pracownik coraz częściej dopasowuje się do rytmu aplikacji, systemu ocen i automatycznego przydziału zadań. Maszyna miała pomagać człowiekowi. Coraz częściej człowiek pracuje tak, by nie przeszkadzać maszynie.
Masowa kolekcja danych daje władzę cichszą niż przymus policyjny. Kto potrafi profilować zachowania, ten nie tylko sprzedaje reklamy. Może wpływać na dostęp do kredytu, pracy, usług, informacji, widzialności i reputacji. Nie trzeba zakazywać, żeby kierować. Wystarczy wzmacniać jedne treści, chować inne, inaczej klasyfikować ludzi, zmieniać próg ryzyka, punktację, ranking, scoring albo rekomendację.
W cyfrowym kapitalizmie własnością są już nie tylko fabryki, ziemia i kapitał. Własnością są patenty, algorytmy, platformy, infrastruktura i dane. Kto je kontroluje, ten kontroluje coraz większy fragment życia społecznego. Leon nie brzmi tu jak sentymentalny krytyk nowoczesności. Uderza w oligarchię technologiczną, która swoją władzę przedstawia jako postęp całej ludzkości.
AI ma też ciężar materialny, choć w reklamach wygląda jak lekka chmurka. Za natychmiastową odpowiedzią stoją centra danych, energia, woda, rzadkie metale, kopalnie, pracownicy infrastruktury, podwykonawcy i moderatorzy treści. Na ekranie widać model, odpowiedź, obraz, aplikację. Zaplecze znika z pola widzenia.
W encyklice wraca kolonializm danych. Informacje o zdrowiu, genetyce, demografii, zachowaniach i potrzebach całych społeczeństw stają się zasobem gospodarczym. Dane zebrane pod hasłem pomocy, badań albo innowacji mogą później służyć do przewidywania rynków, kierowania inwestycjami i klasyfikowania ludzi według opłacalności. Dawniej kolonie dostarczały surowce. Dzisiaj surowcem może być ludzkie życie zapisane w bazach danych.
Leon XIV uderza też w marzenie posthumanistyczne – wizję, w której ciało, zależność od innych, choroba, starzenie się, błąd i kruchość są usterkami do usunięcia. Człowiek nie jest maszyną wymagającą aktualizacji. Nie dojrzewa przez eliminację ograniczeń, lecz przez relacje, odpowiedzialność, pamięć i spotkanie z innymi.
W kulturze technologicznej łatwo pomylić moc z mądrością. Większy model nie daje lepszego świata. Szybsza decyzja nie jest automatycznie sprawiedliwsza. Więcej danych nie znaczy więcej prawdy. Automatyzacja nie wyzwala, gdy odbiera ludziom wpływ, pracę i godność.
Ten spór wymaga decyzji politycznych – kontroli autonomicznych systemów wojskowych, ograniczenia algorytmicznego nadzoru, praw obywateli do danych, praw pracowników wobec systemów oceny i zwolnień oraz antymonopolowych działań wobec platform, które koncentrują technologię, kapitał i informację.
Krucjata Leona nie jest walką z technologią. Chodzi o granicę, za którą człowiek przestaje jej używać, a zaczyna być przez nią zarządzany.
