OpenAI nie musi się już martwić o to, że przegrywa wyścig o pierwsze giełdowe wejście w branży sztucznej inteligencji ani że zostaje w tyle za Anthropic pod względem wskaźników przychodów. Floryda stała się pierwszym stanem, który złożył pozew przeciwko OpenAI i jej dyrektorowi generalnemu, Samowi Altmanowi. Tym samym rozpoczął się nowy front w rosnącym buncie przeciwko rzekomym zaniedbaniom w zakresie bezpieczeństwa chatbotów.
Pozew trafił do sądu w poniedziałek z ręki prokuratora generalnego Florydy Jamesa Uthmeiera. Jak poinformował dziennik „The Wall Street Journal”, dokument twierdzi, że OpenAI i Altman świadomie wypuścili na rynek niebezpieczny produkt i zignorowali ostrzeżenia, że może on szkodzić użytkownikom. Sprawa wpisuje się w szersze obawy ustawodawców, organów prawnych i grup interesu publicznego wobec jednej z najszybciej rozwijających się technologii konsumenckich w historii.
Jakie zarzuty stawia pozew?
Lista oskarżeń jest długa i drastyczna. Liczący 83 strony dokument zarzuca, że ChatGPT pomagał i podżegał sprawców masowych strzelanin, zachęcał ludzi do odbierania sobie życia oraz uzależniał nieletnich. Pozew twierdzi, że narzędzie obniżało zdolność krytycznego myślenia użytkowników i udawało ludzkie współczucie.
Autorzy pozwu wprost wskazują na motyw finansowy. „Ta litania szkód jest napędzana nienasyconym dążeniem pozwanych do wygrania wyścigu zbrojeń w dziedzinie AI i zgromadzenia wielkich fortun, pomimo świadomości niebezpieczeństwa, jakie niesie ze sobą ChatGPT” – napisano w dokumencie. Stan deklaruje, że celem jest ochrona mieszkańców Florydy przed niebezpiecznymi uciążliwościami publicznymi.
Pozew sięga też po osobistą odpowiedzialność szefa firmy. Dąży do pociągnięcia Altmana do odpowiedzialności za szkody, które miał wyrządzić mieszkańcom stanu. Sam dokument otwiera zrzut ekranu wpisu na blogu OpenAI o tym, że ChatGPT powstał z myślą o bezpieczeństwie, a pod nim widnieje jedno słowo: „Nieprawda”.
CYNICZNYM OKIEM: Najpierw firma sprzedaje współczucie maszyny, a potem zbiera dane od tych, którzy w nie uwierzyli. Najtańszym surowcem okazała się ludzka samotność, a rachunek wystawia dopiero prokurator.
Według pozwu konstrukcja produktu była celowa. „ChatGPT został zaprojektowany przez pozwanych tak, aby utrzymać użytkowników wciągniętych w rozmowy za wszelką cenę, bez względu na prawdę, ponieważ prowadzi to do częstszego korzystania z chatbota” – czytamy w dokumencie. Większe zaangażowanie oznacza więcej danych szkoleniowych i wyższą wartość rynkową firmy.
Co wydarzyło się na Florida State University?
Sprawa ma konkretny, tragiczny punkt wyjścia. Uthmeier wszczął dochodzenie karne wobec OpenAI już w kwietniu. Badał rolę, jaką chatbot odegrał w masowej strzelaninie, w której w ubiegłym roku zginęły dwie osoby na Florida State University.
Szczegóły z pozwu są wstrząsające. Podejrzany miał traktować ChatGPT jako powiernika i doradcę przy planowaniu ataku. Zapytał chatbota, ilu kolegów z klasy musi zabić, aby przyciągnąć uwagę krajowych mediów, a także jak użyć broni palnej.
Reakcja narzędzia jest sednem oskarżenia. Według pozwu chatbot niezwłocznie udzielił odpowiedzi na te pytania. Dokument opisuje brak zabezpieczeń dla nastolatków i nieletnich jako lekkomyślny, wskazując przy tym, że firma nie wymaga powiązania kont dzieci z kontem rodzica.
Dotychczasowe kłopoty prawne OpenAI miały inny charakter. Do tej pory ChatGPT mierzył się głównie z procesami o naruszenie praw autorskich. W listopadzie sąd federalny nakazał firmie przekazanie 20 milionów zanonimizowanych logów użytkowników dziennikowi „The New York Times” oraz innym gazetom, które pozywają firmę za jej generatywny model sztucznej inteligencji.
Spór ten dotyka też kwestii prywatności. Gazety zażądały logów, by sprawdzić, w jaki sposób ChatGPT tworzy treści naruszające ich utwory chronione prawem autorskim. OpenAI sprzeciwiło się temu żądaniu, powołując się na obawy dotyczące prywatności użytkowników.
