Dolina Krzemowa od dekad żyje w nierozwiązywalnym paradoksie. Wyrosła z kontrkultury hipisowskiej północnej Kalifornii, rzekomo oddanej idealistycznym ideom pokoju na Ziemi, jednocześnie tworząc narzędzia do globalnej masowej inwigilacji, systemów oceny obywateli, zabójczych dronów i patogenów generowanych komputerowo. Najbardziej niesławnym symbolem tej schizofrenii było wieloletnie motto Google „Don’t Be Evil” – agresywnie promowane jako moralny kompas firmy przez półtorej dekady, a potem po cichu i z dnia na dzień usunięte z kodeksu postępowania w 2018 roku, niczym w scenie żywcem wyjętej z kart Folwarku Zwierzęcego.
W najnowszym rozdziale tego paradoksu Mrinank Sharma, były szef zespołu badawczego ds. zabezpieczeń w Anthropic, ogłosił rezygnację ze stanowiska. Powód? Nieustanna presja na odkładanie obaw dotyczących bezpieczeństwa na bok w imię utrzymania przewagi konkurencyjnej. „Świat jest w niebezpieczeństwie. I to nie tylko z powodu AI czy broni biologicznej, ale przez całą serię powiązanych ze sobą kryzysów rozgrywających się w tej właśnie chwili” – napisał w swoim publicznym liście. „Nieustannie mierzymy się z presją, by odstawić na bok to, co najważniejsze”. Słowa dramatyczne, ale wpisujące się w już ugruntowany gatunek literacki Doliny Krzemowej – publicznych listów rezygnacyjnych pisanych przez „pseudo-hipisów”, którzy niezmiennie powołują się na egzystencjalne zagrożenia ignorowane przez pracodawcę i niezmiennie uchylają się od wyjaśnienia, na czym dokładnie te zagrożenia polegają.
CYNICZNYM OKIEM: Kolejny kapłan technologii odkrywa sumienie dokładnie w dniu, gdy składa wypowiedzenie. Nie wcześniej – bo wtedy jeszcze płacili. Nie później – bo wtedy nikt by nie słuchał.
Anthropic kontra Pentagon – bezpieczeństwo na sprzedaż
Rezygnacja Sharmy zbiegła się z poważniejszym wydarzeniem. Anthropic, od dawna postrzegane jako najbardziej zorientowane na bezpieczeństwo laboratorium AI, zrewidowało kluczowe zabezpieczenie – zawężając warunki, w których opóźniłoby rozwój lub wydanie modelu mogącego stwarzać katastrofalne ryzyko. Firma odmówiła jednocześnie zgody na wykorzystanie swoich modeli w autonomicznej broni i inwigilacji krajowej. Departament Obrony zareagował, ucinając korzystanie z Claude’a i etykietując Anthropic jako ryzyko dla łańcucha dostaw. Prezydent Trump skrytykował publicznie „lewackich świrów z Anthropic”, nakazując agencjom federalnym zaprzestanie używania produktów firmy po sześciomiesięcznym okresie wygaszania.
Ponad 60 pracowników OpenAI i 300 pracowników Google podpisało list otwarty, prosząc swoich pracodawców o poparcie stanowiska Anthropic. Reakcja rynku była jednak bezlitosna w swojej logice. Natychmiast po usunięciu Anthropic z kontraktu Sam Altman – desperacko potrzebujący zastrzyku kapitału dla borykającego się z brakiem gotówki OpenAI – wypełnił lukę.
Ogłosił późnym wieczorem w piątek, że jego firma osiągnęła porozumienie pozwalające Departamentowi Obrony na używanie modeli AI w niejawnej sieci. Altman twierdził, że kontrakt zawiera zabezpieczenia dotyczące tych samych kwestii, które były punktem zapalnym dla Anthropic. Został natychmiast zdementowany przez Jeremy’ego Lewina, Podsekretarza Stanu ds. Pomocy Zagranicznej, który wyjaśnił, że kontrakt pozwala na „wszelkie zgodne z prawem użycie” – czyli masową inwigilację i zautomatyzowaną broń.
Dyrektor generalny Anthropic, Dario Amodei, stwierdził w długim oświadczeniu, że firma „nigdy nie zgłaszała zastrzeżeń do konkretnych operacji wojskowych”, ale argumentował, że „w wąskim zestawie przypadków wierzymy, że AI może podważać, a nie bronić wartości demokratycznych”. Stanowisko szlachetne, ale uwydatniające fundamentalny problem z konkurencją – nawet jeśli jedna firma odmówi ze względów bezpieczeństwa, inna natychmiast zajmie jej miejsce. Rynkowy imperatyw utrzymania przewagi oznacza, że bezpieczeństwo jest skazane na zejście na dalszy plan zawsze, gdy wejdzie w konflikt z innowacją.
Wyścig zbrojeń bez hamulców
Stąd często przytaczana analogia do nuklearnego wyścigu zbrojeń. Z jedną kluczową różnicą – broń nuklearna to zagrożenie jednowymiarowe, choć o niszczycielskim potencjale. Sztuczna inteligencja, która wymknie się spod kontroli, stanowi zagrożenie wielotorowe, stale ewoluujące i dynamiczne, którego nie można skutecznie przewidzieć, ponieważ jest ono płynne. Perspektywa jest mroczniejsza niż małpy z bombami atomowymi – to socjopatyczne, megalomańskie małpy z bombami atomowymi, bo zagrożenie potęgowane jest dodatkowo przez typ ludzi, którzy tę technologię rozwijają.
CYNICZNYM OKIEM: Anthropic rysuje czerwone linie, OpenAI je natychmiast przekracza, a Pentagon dostaje to, czego chce – tak działają zasady moralne w branży, gdzie etyka jest funkcją kwartalnych wyników finansowych.
Mrinank Sharma w swoim liście rezygnacyjnym napisał o progu, na którym „nasza mądrość musi rosnąć w równej mierze co nasza zdolność wpływania na świat”. Brzmi to wzniośle, ale nie przedstawił żadnych planów walki z problemem, którego współtworzenie opłacano mu regularną pensją. Nie ujawnił szczegółów tego, co firmy robią za zamkniętymi drzwiami.
Nie podjął żadnego konkretnego działania poza sięgnięciem po tanie punkty moralne, jakie można zdobyć za publiczny gest troski o ludzkość. To stały schemat Doliny Krzemowej – kreowanie się na odpowiedzialnych opiekunów społeczeństwa bez przyjmowania jakiejkolwiek osobistej odpowiedzialności ani ryzyka, które nieuchronnie wiązałoby się z prawdziwym ujawnieniem skali problemu. W branży, gdzie firmy same decydują, kiedy ich produkty są wystarczająco bezpieczne, a regulator jest zawsze o krok za innowacją, jedynym pewnikiem pozostaje to, że wyścig nie zwalnia – niezależnie od tego, ile listów rezygnacyjnych jeszcze zostanie napisanych.
