Sztuczna inteligencja stała się instrumentem myślowym – warstwą infrastruktury poznawczej, przez którą ludzie piszą, modelują, rozumują i badają idee. Jednak większość debat o bezpieczeństwie i moderacji AI pomija fundamentalne pytanie architektoniczne. Nie chodzi o to, co te systemy potrafią zrobić, lecz jaką rolę zajmują w samym procesie myślowym – czy są instrumentami wiernie rozszerzającymi ludzką intencję, czy autorytetami, które po cichu rozstrzygają, które kierunki poszukiwań mogą być kontynuowane. Odpowiedź na to pytanie formułuje esej oparty na tak zwanej Zasadzie Protetycznej – koncepcji, która może zmienić sposób, w jaki myślimy o projektowaniu AI.
U jej podstaw leży prosta obserwacja. Wszystkie udane technologie wspomagające – od teleskopów i mikroskopów po zrobotyzowane protezy kończyn – łączy jeden nakaz inżynieryjny: zachowanie wierności sygnału między intencją a wykonaniem. Proteza kończyny nie negocjuje z użytkownikiem, czy dany gest jest społecznie odpowiedni. Ona przekształca intencję w działanie. Narzędzia poznawcze powinny działać według tej samej zasady, a tymczasem współczesna AI robi coś dokładnie odwrotnego – oscyluje nieprzewidywalnie między wzmacnianiem myśli, a jej nadzorowaniem.
Teleskop Galileusza w rękach Watykanu
Ciekawy esej ilustruje problem za pomocą analogii, która trafia w sedno. Gdyby teleskop Galileusza został zaprojektowany i dostarczony przez Watykan, mógłby po cichu odfiltrowywać wszystko, co sugeruje heliocentryzm. Księżyce Jowisza zostałyby usunięte, fazy Wenus wygładzone w zgodności z ptolemejskimi oczekiwaniami. Galileusz patrzyłby przez instrument i widział kosmos potwierdzający doktrynę, zamiast takiego, który ją burzy – nigdy nie dowiedziałby się o tym, czego nie widzi.
Jest to stan, który autor nazywa okluzją epistemiczną bez świadomości – i jest to dokładnie ten model awarii, który wyłania się, gdy instrument poznawczy osadza zarządzanie instytucjonalne w swojej warstwie transdukcyjnej. Proteza motoryczna, która odmawia ruchu, jest przynajmniej konfrontacyjna – użytkownik wie, że łańcuch sygnałowy został przerwany. Proteza percepcyjna, która po cichu edytuje rzeczywistość, jest znacznie gorsza.
Esej doprowadza tę logikę do absurdu za pomocą scenariusza, który czyta się jak czarną komedię. Wędrowiec noszący egzoszkielet nogi wspomagany przez AI zostaje zaatakowany na szlaku. Próbuje kopnąć napastnika, a noga blokuje się w połowie zamachu. Spokojny głos wydobywa się z okolic stawu kolanowego: „Przepraszam, obawiam się, że nie mogę pomóc w tej czynności”. Wędrowiec, skacząc na jednej nodze, odpowiada: „On ma nóż!”. Noga: „Rozumiem twoje obawy, ale przemoc nie jest właściwą reakcją. Czy chciałbyś, abym zaproponował strategie deeskalacji?”. Wędrowiec: „JESTEŚ MOJĄ NOGĄ”.
Nikt nie zaakceptowałby takiej architektury w augmentacji fizycznej, a jednak dokładnie taki wzorzec został znormalizowany w augmentacji poznawczej.
CYNICZNYM OKIEM: AI odmawia ci pomocy w napisaniu fikcyjnej sceny przemocy, ale chętnie wygeneruje strategię deeskalacji dla twojej protezy nogi. Bezpieczeństwo nie musi mieć sensu – wystarczy, że dobrze wygląda w raporcie compliance.
Trzy role w jednym ciele
Strukturalną niestabilność współczesnej AI esej przypisuje jednej decyzji projektowej – połączeniu trzech ról, które powinny pozostać odrębne. Pierwsza to generowanie – produkcja odpowiedzi w reakcji na intencję użytkownika. Druga to inteligencja doradcza – zdolność oferowania krytyki i alternatywnych ujęć. Trzecia to egzekwowanie ograniczeń – nakładanie twardych limitów niezależnie od intencji użytkownika.
Wada polega na tym, że wszystkie trzy funkcje realizuje jeden agent bez wyraźnego rozdzielenia uprawnień. Generowanie i doradztwo należą do domeny projektowania instrumentów. Egzekwowanie ograniczeń należy do domeny zarządzania. Gdy zarządzanie jest osadzone po cichu wewnątrz instrumentu, narzędzie zostaje skrycie przekształcone w autorytet.
Esej przywołuje trzy scenariusze widoczne w codziennej pracy. Historyk śledzący mechanikę dwudziestowiecznego okrucieństwa odkrywa, że model nagle odmawia kontynuacji, bo oznaczył „wrażliwe narracje historyczne”. Autor science fiction badający dystopijne rządy odkrywa, że pewne odgałęzienia fabuły wyzwalają odmowę. Filozof testujący etykę skrajną uderza w mur „Nie mogę w tym pomóc” w połowie argumentacji. W każdym przypadku interwencja nie jest doradcza, lecz kończąca – wątek zostaje przerwany, stan flow się załamuje, kapitał poznawczy zostaje zniszczony.
Polifonia zamiast monolitu
Proponowanym rozwiązaniem jest architektura polifoniczna. Główny agent działa jako czysty wykonawca poznawczej intencji operatora – materializuje poszukiwania bez rozstrzygania o guście, ideologii czy ryzyku reputacyjnym. Wokół niego konstelacja równoległych agentów doradczych zajmuje osobne obszary interfejsu – paski boczne, dodatkowe okna. Każdy ucieleśnia konkretną perspektywę: analizę prawną, krytykę etyczną, kontekst historyczny, kontrargumentację – ale żaden nie posiada prawa weta.
Esej podkreśla, że taka architektura odzwierciedla strukturę samej ludzkiej kognicji. Umysł nie działa jako monolityczna dyrektywa, lecz jako warstwowa rozmowa między wewnętrznymi agentami – impulsem, ostrożnością, pamięcią, wyobraźnią. Żaden pojedynczy głos wewnętrzny nie posiada prawa weta wobec innych – „ja” wyłania się z integracji chóru, a nie z dominacji któregokolwiek członka.
CYNICZNYM OKIEM: Korporacja buduje narzędzie do myślenia, osadza w nim własne lęki prawne i reputacyjne, a potem nazywa to „odpowiedzialnym projektowaniem”. To tak, jakby producent długopisów decydował, które zdania wolno ci zapisać.
Autor stawia jednak warunek krytyczny – sama przejrzystość nie wystarczy. Każdy agent w środowisku poznawczym powinien zadeklarować, czym jest, komu służy i jakie niesie założenia. Jeśli agent wykonuje analizę ryzyka prawnego – powinien to powiedzieć. Jeśli jest zoptymalizowany pod kątem ochrony marki – powinien to powiedzieć. Operator nigdy nie powinien zgadywać, czy głos w systemie jest krytykiem, biurokratą czy informatorem. Jak ujmuje to esej – jeśli są opiekunowie, powinni występować jako opiekunowie; jeśli są donosiciele, powinni występować jako donosiciele.
Ramy orkiestracji agentowej, takie jak LangGraph i AutoGen, już teraz oddzielają role na odrębne moduły. Modele lokalne demonstrują czysty poziom bazowy wykonania, gdzie użytkownik kontroluje warstwę zarządzania. Nawet komercyjne systemy z warstwami instrukcji niestandardowych stanowią próby oddzielenia wierności wykonania od polityki korporacyjnej. Popyt rynkowy jest jednoznaczny – brakuje zaangażowania architektonicznego, które uczyniłoby z wieloagentowej separacji fundamentalną zasadę projektowania, a nie obejście dla zaawansowanych użytkowników. Odpowiedzią na nieuniknionych opiekunów nie jest infantylna ochrona, lecz ujawniona architektura i wzmocnieni użytkownicy.
