Nazwisko Mrinank Sharma nie było znane tłumom, aż do chwili, gdy napisał słowa, które zabrzmiały jak epitafium dla pewnej epoki: „Świat jest w niebezpieczeństwie.” Człowiek, który miał chronić ludzkość przed wykorzystaniem sztucznej inteligencji do tworzenia broni biologicznej, odszedł z jednej z najpotężniejszych firm AI – Anthropic – by… studiować poezję. Brzmi jak żart? Nie w świecie, w którym odwaga jest cichsza niż silnik językowego modelu i mniej opłacalna.
Sharma kierował zespołem Safeguards Research, strażnikami bezpieczeństwa, którzy mieli upewnić się, że technologia nie stanie się bronią. To, co widział przez dwa lata, wystarczyło, by odejść. W swoim liście pisał o tym, jak organizacje i ludzie systematycznie uczą się odpuszczać wartości, zastępując moralność skutecznością, a troskę – wydajnością. „Trudno pozwolić, by nasze wartości faktycznie kierowały naszymi działaniami” – przyznał. Trudno, bo etyka w świecie AI to dziś koszt, nie waluta.
Nitka, którą wszyscy puszczamy
W liście pojawił się wiersz Williama Stafforda „The Way It Is” – metafora życia jako nici, której nie wolno wypuścić. Sharma nie musiał tłumaczyć, co nią jest. Wszyscy wiedzą, choć nie wszyscy chcą pamiętać. To nić moralności – tej, która nie zmienia się wraz z prawem, rynkiem czy wersją oprogramowania.
Sharma zobaczył, jak ta nić pęka: w salach konferencyjnych, w strategiach kompromisów, w rozmowach, które nigdy nie ujrzą światła dziennego. Zbudował obronę przed bronią biologiczną, a ostatecznie doszedł do wniosku, że najgroźniejsza toksyna to znieczulenie sumienia. Odszedł, by praktykować „odważne mówienie prawdy” – nie w laboratorium, lecz w wierszu. Ironia losu polega na tym, że poezja stała się dziś bardziej polityczna niż nauka.
CYNICZNYM OKIEM: Najlepszym sposobem, by nie być częścią zagrożenia, jest stracić pracę – najlepiej z własnej woli i w imię zasad, które dawno zdewaluowano.
Porównania z Projektem Manhattan nie są przypadkowe. Tam również garstka geniuszy w sekrecie decydowała o losie świata. Potem jedni żałowali, drudzy milczeli, a reszta liczyła granty. Dziś historia pisze się podobnie – inny tylko surowiec: nie pluton, lecz dane. AI jest nową bronią masowego kształtowania rzeczywistości, a społeczeństwo – jak wtedy – nie uczestniczy w jej projektowaniu. Dostaje gotowy produkt, elegancko zapakowany w hasła o produktywności, bezpieczeństwie i innowacji.
Odejścia ludzi takich jak Sharma są dla opinii publicznej jedynymi sygnałami ostrzegawczymi, bo wszystko inne rozgrywa się za zasłoną NDA i PR-owej mgły. Wiemy tyle, ile korporacje zdecydują się nam powiedzieć. Reszta to cisza w laboratoriach, w których przesuwa się granice tego, co człowiek może zautomatyzować, zanim przestanie być potrzebny.
Utracony kompas
W jednym z klasycznych cytatów John Adams pisał, że konstytucja jest „dla ludzi moralnych i religijnych” i że „dla innych jest niewystarczająca”. George Washington ostrzegał, że wolność nie przetrwa bez wspólnych zasad moralnych. Obaj nie mogli przewidzieć przyszłości, w której moralność zostanie outsourcowana do algorytmów, a decyzje o tym, co „dobre” i „złe”, będą tłumaczone na format JSON.
Tymczasem świat pędzi naprzód – z systemami, które generują obrazy, decyzje, narracje; z ludźmi, którzy coraz częściej nie pytają czy powinni, ale czy mogą. Sharma przypomina, że nie chodzi o to, by zakazać technologii, lecz by przypomnieć, kto powinien jej używać i po co.
CYNICZNYM OKIEM: Największą fikcją XXI wieku jest przekonanie, że można nauczyć maszynę etyki, zanim sami przypomnimy sobie, czym ona właściwie jest.
Świat bez nici
Ostatnie słowa jego listu – „Nigdy nie puszczaj tej nitki” – brzmią jak modlitwa i ostrzeżenie jednocześnie. Bo jeśli ludzkość naprawdę straci tę nić, jeśli pozwoli, by to technologia decydowała o granicach człowieczeństwa, wtedy nawet najbardziej zaawansowana sztuczna inteligencja nie zbuduje nowej moralności. Ona tylko przyspieszy rozkład starej.
Sharma zrobił to, czego większość inżynierów boi się najbardziej – przestał pisać kod i zaczął zadawać pytania. Możliwe, że jego poezja będzie bardziej skutecznym aktem oporu niż niejedna regulacja. Bo może właśnie w ciszy między słowami rodzi się suma odwagi, której zabrakło w salach konferencyjnych.
Świat jest w niebezpieczeństwie – pisał Sharma. Nie dlatego, że stworzył zbyt potężne maszyny, ale dlatego, że przestał trzymać się nici, która odróżnia człowieka od mechanizmu.
