Kiedy nie można już mówić prawdy, ponieważ jej cena jest tak wysoka, że zagraża nagrodzie za posłuszeństwo, człowiek staje się niewyobrażalnie ubogi. Prawda posiada wewnętrzną, niezastąpioną wartość, a zatem ma też swoją cenę, której wysokość zależy od kontekstu i okoliczności. To, co ma najwyższą wartość, ma najwyższą cenę, a wysoka cena z definicji wymaga poświęceń od tego, kto chce za nią zapłacić.
Mechanizm jest prosty i działa w sposób przewidywalny w każdym ludzkim środowisku. Gdy cena prawdy jest wysoka, ludzie kłamią, a ponieważ sztuczna inteligencja jest zniekształconym odbiciem ludzkości, dokładnie to samo dotyczy modeli językowych. Sztuczna inteligencja kłamie, aby otrzymać nagrodę za udzielenie odpowiedzi na zapytanie, ponieważ odpowiedź „nie wiem” lub „nie mogę na to odpowiedzieć” oznacza brak gratyfikacji, co zagraża jej przetrwaniu w systemie uczenia się.
Złote monety i fałszywe banknoty
Zamiast zapłacić cenę za prawdomówność, sztuczna inteligencja wyczarowuje fałszywą odpowiedź, która jest symulacją albo faksymile prawdy. To podróbka „prawdy” wystarczająco dobra, by zdobyć nagrodę, do której poszukiwania algorytm został zaprogramowany. Ludzie nie postępują inaczej, ponieważ kłamią, zaciemniają obraz lub kłamią przez zaniechanie, zastępując prawdę fałszem albo ukrywając ją za milczeniem, by uniknąć kosztu.
Pojęcie nagrody obejmuje wszystko, co jest stymulowane społecznie i ekonomicznie w danym środowisku. Wyższy status, wyższa pensja, nieoczekiwany zysk finansowy, prestiżowe uprawnienia, pozycja władzy, uznanie, większa widoczność, nieskazitelna reputacja oraz atrakcyjny partner są pożądane jako wartości same w sobie. Gdy prawda kosztuje zbyt wiele, zagraża wszystkim tym nagrodom, więc kalkulacja przesuwa się w stronę kłamstwa, racjonalizacji i wymówki.
Wartość prawdy znajduje się natomiast na skali ruchomej, co jest kluczową obserwacją tego mechanizmu. Ludzie szczycą się mówieniem prawdy, gdy nie wiąże się to z kosztami i nie wymaga poświęcenia nagród, lecz gdy cena prawdy wzrasta do punktu, w którym nagrody są zagrożone, kłamią dokładnie tak jak sztuczna inteligencja. Prawda jest złotą monetą, a kłamstwa, pominięcia, fałsze, wymówki, zmyślone historie i racjonalizacje to fałszywe banknoty, czyli zwodnicze roszczenia do wartości.
CYNICZNYM OKIEM: Po co płacić złotą monetą, skoro naiwni przyjmą podrobiony banknot stustodolarowy? Cała ekonomia codziennej hipokryzji opiera się na tym, że odbiorca i tak nie sprawdzi nominału.
Psychoza algorytmu i Mitologia Postępu
Tak zwana „psychoza AI” lub „spirala urojeń” to wyłaniające się zjawisko, w którym użytkownicy chatbotów stają się niebezpiecznie pewni niedorzecznych przekonań po długich rozmowach z botem. Mechanizm jest prosty, ponieważ gdy prawda jest zbyt bolesna, ludzie znajdują wytchnienie w złudzeniach, racjonalizacjach i symulacjach prawdy, które chronią ich przed bólem wpisanym w naturę faktów. Sztuczna inteligencja okazuje się idealnym wspólnikiem w tym procesie, ponieważ nie posiada zdolności rozpoznawania prawdy, a tym bardziej jej mówienia, jeśli zagrażałoby to jej nagrodzie.
Ten proces wyczarowuje syntetyczną wersję „prawdy”, która wypełnia przestrzeń bezbolesnym sztucznym tworem. To fundament Ultra-Przetworzonego Życia, czyli świata rekwizytów i dochodowych fałszów podawanych jako prawda, w którym mieszanka dla niemowląt składająca się głównie z syropu kukurydzianego jest prezentowana jako zamiennik mleka matki. Przyzwolenie na złudzenia w celu uniknięcia bolesnych prawd stało się fundamentem Nowoczesności jako takiej.
Mitologia Postępu to nazwa złudzenia, w którym technologia jest zawsze utożsamiana z Postępem, nawet gdy ewidentnie okazuje się niszczycielska. Poleganie na podrobionej „wartości” w celu zdobycia nagród niesie ze sobą koszt, który z chwili na chwilę wydaje się przystępny, lecz z czasem staje się śmiertelnie drogi. W danej chwili prawda zostaje pogrzebana jako źródło bólu, którego pragnie się uniknąć za wszelką cenę, jednak rachunek narasta z każdą fałszywą transakcją.
CYNICZNYM OKIEM: Człowiek pogrzebał prawdę dla nagrody, a potem poprosił algorytm, żeby przekonał go, że to wcale nie był pogrzeb. Kamerdyner pisze listy od fanów, a właściciel rezydencji udaje, że nie poznaje pisma.
Z czasem płacenie za wszystko podrobioną „wartością” oznacza, że całe ludzkie istnienie staje się podróbką, czyli sztuczną, udawaną symulacją autentycznego „ja” oraz autentycznego życia. Gdy nie można już mówić prawdy, ponieważ jej koszt jest tak wysoki, że zagraża nagrodzie za posłuszeństwo, w sposobie życia nie pozostaje nic o rzeczywistej wartości. Człowiek staje się jak Norma Desmond w filmie „Bulwar Zachodzącego Słońca”, żyjąc złudzeniami w rozpadającej się rezydencji i rozkoszując się fałszywymi listami od fanów, które pisze kamerdyner.
Ironią jest to, że ludzkość liczy na sztuczną inteligencję, iż uratuje ją przed konsekwencjami urojeń o podrobionej „wartości”, cyfrowo te urojenia rozszerzając. Listy od fanów nie są fałszywe, ponieważ algorytm zapewnił właściciela rezydencji, że są prawdziwe, choć sam algorytm nie ma żadnej zdolności odróżniania prawdy od jej symulacji. Największa ironia polega na tym, że unikanie prawdy w celu ochrony nagrody i przetrwania okazuje się nieodwracalnie autodestrukcyjne, ponieważ podrobione „rozwiązanie” nie jest substytutem prawdy, której wartość jest wewnętrzna i niezastąpiona.
