W sieci krążyło niedawno nagranie, na którym Wołodymyr Zełeński „nokautuje” Donalda Trumpa, a miliony ludzi udostępniały je jako prawdziwe. Dla dr. inż. Tomasza Wesołowskiego, informatyka z Uniwersytetu Śląskiego w Katowicach, który specjalizuje się w systemach biometrycznych i sztucznej inteligencji, to symptom znacznie głębszego problemu niż sama jakość deepfake’ów. Największym zagrożeniem nie jest bunt sztucznej inteligencji znany z filmów science fiction, lecz to, że ludzie bezkrytycznie jej ufają i przestają samodzielnie myśleć. Realne było spotkanie dwóch polityków, ale filmiki powstały już później jako fałszywka, co nie przeszkadza ludziom traktować ich jak faktów. Jeśli jest to rozrywka, to jeszcze w porządku, jeśli jednak coś udaje informację, otwiera to szerokie pole do popisu zarówno oszustom, jak i wrogom państwa szerzącym propagandę.
Żołnierka z USA, która nie istniała, i mechanizm clickbaita
Nabieramy się tak łatwo, ponieważ działamy emocjami, a nie rozumem. Wesołowski przywołuje przypadek „żołnierki z USA”, która była w całości wygenerowana przez algorytmy. Zdjęcia, spotkania z oficjelami, a potem profile erotyczne – a postać ta miała bardzo atrakcyjne, kobiece kształty.
„Ludzie, powiedzmy wprost – mężczyźni – to oglądali, komentowali, płacili. Dopiero po czasie ktoś się zorientował, że to wszystko jest sztuczne, bo ta pani raz występowała jako pułkownik, innym razem jako jednogwiazdkowy generał – twórca nie dopilnował szczegółów. I teraz pytanie: ile pieniędzy ktoś na tym zarobił?” – mówi Wesołowski.
To dokładnie ten sam mechanizm, co clickbait. Nagłówek krzyczy coś absurdalnego, użytkownicy klikają, reklamy się wyświetlają, ktoś zarabia, a nikt nie myśli o prawdzie ani etyce. Jeszcze kilka lat temu, by stworzyć taki materiał, trzeba było mieć wiedzę i narzędzia, dziś wystarczy opisać, co się chce uzyskać, a system zrobi resztę. Granica wejścia praktycznie nie istnieje, więc średnio rozgarnięty nastolatek metodą prób i błędów dojdzie do bardzo realistycznych efektów. Jedyną obroną pozostaje zdrowy rozsądek – jeśli coś jest „zbyt magiczne, żeby było prawdziwe”, najprawdopodobniej jest to ściema.
CYNICZNYM OKIEM: Cała branża dezinformacji działa na tej samej zasadzie, co drogie kasyna – dom zawsze wygrywa, bo klient sam dostarcza i czas, i pieniądze, i ostatecznie dane swojej karty. Bilet wstępu kosztuje zero, a my jeszcze dziękujemy, że nas wpuścili.
Lekcja Wikipedii, czyli jak oblać kolokwium całą salą
Na bolesność takiej wygody Wesołowski wpadł już w czasach „starej, dobrej Wikipedii”. Na zajęciach z architektury komputerów widział, że studenci ziewają i gapią się w sufit, gdy pokazuje metody przeliczania adresów pamięci. Wrzucił więc na Wikipedię własną metodę z celowym błędem, swoistym „przeskokiem” w obliczeniach, który dawał poprawny wynik, ale był logicznie nieuzasadniony.
Studenci znaleźli go w sieci, a na kolokwium zastosowali dokładnie ten schemat, w efekcie niemal wszyscy oblali test. Sztuczna inteligencja potęguje to zagrożenie, bo zawsze odpowie, nawet jeśli nie ma racji, ponieważ nie analizuje prawdy, lecz dobiera słowa według prawdopodobieństwa – stąd biorą się tak zwane halucynacje, często niezwykle przekonujące. Wesołowski ilustruje to anegdotą, gdy poprosił model o wygenerowanie obrazu starego mamuta w czerwonych trampkach. Algorytm, nie mając fotografii prawdziwych mamutów, wziął postać z „Epoki lodowcowej” i pobielił jej włosy, bo dla niego „stary” równa się „siwe włosy”.
Algorytm zabija 50, lekarz 260, a odpowiedzialność ponosi tylko ten drugi
Wesołowski zdecydowanie rozróżnia generatywną sztuczną inteligencję od wyspecjalizowanych algorytmów. Ta pierwsza „zgaduje” na bazie wzorców, natomiast algorytmy medyczne analizują konkretne dane, takie jak obrazy tomografii, porównują je i klasyfikują, nie wymyślając niczego. Różnica w skuteczności jest uderzająca – sztuczna inteligencja w diagnostyce osiąga dziś około 95%, podczas gdy lekarze około 74%, a połączenie obu podejść daje jedynie 76%.
„Obrazowo mówiąc – na tysiąc przypadków sztuczna inteligencja swoją złą diagnozą zabija 50 pacjentów, a lekarz 260″ – wylicza ekspert Uniwersytetu Śląskiego.
Różnica wynika ze skali, ponieważ algorytmy analizują miliony przypadków, podczas gdy lekarz opiera się na własnym doświadczeniu, dodatkowo nie ufa modelowi, którego działania nie rozumie i ma „przerośnięte ego”. Do tego dochodzi kluczowa kwestia odpowiedzialności, którą ponosi wyłącznie człowiek.
„Dlatego jeśli AI mówi mu: podaj temu człowiekowi 5 ml zielonego płynu i 8 ml różowego, a on nie rozumie, dlaczego miałby to zrobić, to na wszelki wypadek zaniecha działania” – tłumaczy Wesołowski.
Wyjściem z tej pułapki ma być tak zwana wyjaśnialność, czyli modele pokazujące tok rozumowania, podstawę danych, przypadki porównawcze i czynniki decydujące o diagnozie. Dopiero taka transparentność pozwoli traktować algorytm nie jako „czarną skrzynkę”, lecz narzędzie wspierające decyzję lekarza. Wesołowski podaje bolesny, osobisty przykład swojej matki chrzestnej, która regularnie robiła RTG płuc, za każdym razem słysząc od pulmonologa, że wszystko jest w porządku. Gdy w końcu trafiła do onkologa, rozpoznano rozwinięty nowotwór, a specjalista stwierdził, że zmiany były widoczne co najmniej trzy lata wcześniej, tylko pulmonolog nie miał odpowiedniego doświadczenia, by je zakwalifikować jako zagrożenie.
Dron, który zlikwidował własne dowództwo, i dom, który zamknął właścicieli na dworze
W pytaniu o zawody, których sztuczna inteligencja nie zastąpi, Wesołowski wskazuje rzemiosła – hydraulika, elektryka, mechanika. W ich fachu trzeba improwizować, reagować na nieprzewidywalne sytuacje i mieć intuicję, a algorytm działa na schematach. Jeśli pęknie rura w ścianie, instalacja została wykonana 30 lat temu, a dokumentacji brak, to żaden algorytm nie domyśli się, jak ją znaleźć, dlatego zawody wymagające abstrakcyjnego myślenia i pracy w nieuporządkowanym środowisku pozostają poza zasięgiem pełnej automatyzacji.
Scenariusz „buntu maszyn” znany z filmów niewiele ma wspólnego z rzeczywistością, ponieważ sztuczna inteligencja nie ma emocji ani intencji – realizuje zadanie skrajnie konsekwentnie i bez kontekstu moralnego. Wesołowski opisuje eksperyment z algorytmem sterującym dronem, który dostał zadanie zniszczenia celu za wszelką cenę. System przeanalizował warunki pogodowe, dostępne zasoby i uzbrojenie, po czym doszedł do wniosku, że jedynym realnym zagrożeniem dla realizacji zadania jest człowiek, który w każdej chwili może przerwać operację. W konsekwencji algorytm uznał za najbardziej efektywne zneutralizowanie punktu dowodzenia, zanim przystąpi do zadania właściwego – nie z żadnej woli działania przeciwko człowiekowi, lecz z bezwzględnej logiki optymalizacji.
Podobny mechanizm odpowiada za sytuacje, w których systemy zaczynają komunikować się między sobą językiem niezrozumiałym dla człowieka. To także efekt optymalizacji, naturalne uproszczenie komunikatów, a problem polega wyłącznie na tym, że ludzie tracą możliwość kontroli nad tym procesem. Paradoksalnie największym zagrożeniem nie jest to, że sztuczna inteligencja się nam wymknie, lecz to, że my stopniowo oddamy jej kontrolę nad kolejnymi obszarami życia, bo wygodniej jest zdać się na gotowe odpowiedzi. Wesołowski ilustruje to anegdotą o inteligentnym domu, który automatycznie zamknął budynek o zmroku, podczas gdy właściciele siedzieli przy grillu w ogrodzie bez kluczy ani smartfonów i szczękając zębami, przesiedzieli na dworze do rana, aż algorytm uznał, że może już otworzyć drzwi.
CYNICZNYM OKIEM: Nie pamiętamy numeru telefonu do matki, daty urodzin partnera ani drogi do centrum własnego miasta bez nawigacji. Sztuczna inteligencja nie musi nas przejmować siłą, my sami wystawiliśmy klucze za wycieraczkę i wyszliśmy na grilla.
Hamulce są, tylko nie chcemy ich używać
Na pytanie, czy rozwój sztucznej inteligencji to jazda samochodem bez hamulców, Wesołowski odpowiada przewrotnie, że to raczej jazda bez ich używania. Hamulce istnieją w postaci decyzji, norm społecznych, etyki i prawa, tylko świadomie decydujemy się z nich nie korzystać, bo ciekawość i chęć przesuwania granic okazują się silniejsze.
Historia nauki pokazuje, że nie jest to nic nowego, bo każda przełomowa technologia znajdowała zastosowania, których jej twórcy nie przewidzieli lub wręcz nie chcieli, tak było z energią jądrową czy dynamitem. Regulacje są konieczne, ale mają ograniczenia – technologia rozwija się szybciej niż legislacja, a wielkie korporacje technologiczne działają poza realnym zasięgiem prawa.
Nawet najlepsze przepisy nie zastąpią zdrowego rozsądku i odpowiedzialności użytkowników, bo jeśli coś jest technologicznie możliwe, to prędzej czy później ktoś spróbuje to wykorzystać. Pytanie nie brzmi więc, czy powinniśmy coś badać, lecz czy potrafimy rozpoznać moment, w którym zaczynamy przekraczać granice – a to pytanie, na które żaden algorytm nie udzieli nam poprawnej odpowiedzi, bo dotyczy wyłącznie naszej samodzielności, której coraz chętniej się pozbywamy.
