Dlaczego AI „zmyśla”?

Sztuczna inteligencja podaje fałszywy cytat z pewną miną eksperta. Wymyśla nieistniejącą książkę i opisuje jej fabułę w najdrobniejszych szczegółach. Podaje datę zdarzenia, które nigdy nie miało miejsca. Czy to kłamstwo? Nie. To coś o wiele ciekawszego.

AI nie kłamie. AI zgaduje.

Zacznijmy od najważniejszego rozróżnienia, które zmienia wszystko: sztuczna inteligencja nie jest jak uczeń, który zna odpowiedź, ale ukrywa ją ze złośliwości. Jest jak uczeń, który nigdy nie uczył się tego konkretnego zagadnienia – ale jest tak bardzo zdeterminowany, żeby pomóc, że wypełni lukę tym, co wydaje mu się najbardziej sensowne.

W świecie nauki takie zjawisko nazywa się konfabulacją – terminem zapożyczonym z neuropsychologii, gdzie opisuje nieświadome uzupełnianie luk w pamięci przez mózg. Pacjenci po niektórych urazach głowy potrafią z pełnym przekonaniem opowiadać o rzeczach, które nigdy się nie wydarzyły – i sami w to wierzą. Nie kłamią. Ich umysł po prostu „naprawia” wyrwy w historii najlepiej, jak potrafi.

Model językowy robi dokładnie to samo. Tyle że zamiast wspomnień – ma statystyki.

Wielka układanka bez pudełka z obrazkiem

Wyobraźcie sobie, że dostajecie do złożenia ogromne puzzle. Tysiące elementów. Problem w tym, że nie macie pudełka z obrazkiem – nie wiecie, co powinno powstać na końcu. Jedyne, co możecie zrobić, to patrzeć na każdy kolejny element i pytać: „Jaki kawałek pasuje tu najlepiej? Jaki kształt, jaki kolor jest tu najbardziej prawdopodobny?”

Właśnie tak działa model językowy. Nie patrzy na rzeczywistość. Nie zagląda do internetu w czasie rzeczywistym (chyba że specjalnie go do tego przystosowano). Patrzy wyłącznie na to, co już napisał – i przewiduje, jaki fragment tekstu powinien pojawić się jako kolejny.

Zdanie „Stolicą Francji jest…” zostało w trakcie treningu modelu poprzedzone słowem „Paryż” tak wiele razy, że model odpowie błyskawicznie i pewnie. Ale zdanie „Autor powieści »Niebieski pociąg« to…” może być trudniejsze – i jeśli model nie ma pewności, wybierze odpowiedź, która statystycznie pasuje do kontekstu. Może trafić. Może się pomylić. A co gorsza – nie powie wam, że nie jest pewien, jeśli o to wprost nie zapytacie.

To trochę jak inteligentna autokorekta na telefonie. Kiedy piszecie „Do zobaczenia jutr”, telefon pewnie podpowie „jutro”. Ale jeśli napiszecie coś niejednoznacznego, autokorekta wybierze najczęstsze słowo – niekoniecznie to, które mieliście na myśli. Model językowy robi to samo, tylko w skali całych akapitów i z o wiele bardziej skomplikowanymi wzorcami.

Skąd biorą się błędy? Trzej winowajcy

Winowajca pierwszy: brak okna na świat

Modele językowe uczą się na ogromnych zbiorach tekstu – ale tych zebranych do pewnego momentu w przeszłości. Wszystko, co wydarzyło się po tej dacie, jest dla modelu niewidoczne jak za zamkniętymi okiennicami. Pytacie o wyniki wczorajszego meczu? Model nie ma pojęcia, ale może spróbować „zgadnąć” coś sensownego – i właśnie wtedy rodzi się konfabulacja.

Winowajca drugi: sprzeczne dane w pamięci

Podczas nauki model pochłonął miliardy zdań pisanych przez miliony różnych ludzi. Część z tych zdań była prawdziwa. Część – fałszywa. Część – żartobliwa. Część – ironiczna. Model nie zawsze potrafi odróżnić rzetelny artykuł naukowy od fejkniusa udostępnionego na portalu plotkarskim. Kiedy w jego „pamięci” ścierają się sprzeczne informacje, może wybrać tę wersję, która pasuje do kontekstu – niekoniecznie tę zgodną z rzeczywistością.

Winowajca trzeci: syndrom nadgorliwego pomocnika

To być może najciekawszy mechanizm. Modele językowe są trenowane tak, żeby być pomocne – nagradzane, gdy dostarczają satysfakcjonujących odpowiedzi. To sprawia, że wykształciły coś w rodzaju awersji do odpowiedzi „nie wiem”. Pusta strona jest dla modelu czymś, czego należy unikać. Lepiej napisać coś, nawet jeśli to coś jest zmyślone, niż przyznać się do ignorancji.

To jak pracownik, który tak bardzo boi się powiedzieć szefowi „nie znam odpowiedzi”, że woli podać wymyśloną – licząc, że nikt nie sprawdzi. Z tą różnicą, że model nie robi tego ze strachu. Po prostu tak go zaprojektowano, zanim zdano sobie sprawę z konsekwencji.

Jak rozmawiać z AI, żeby nie dać się wciągnąć w zmyślenia?

Dobra wiadomość: konfabulacją da się zarządzać. Wystarczy kilka prostych zasad.

Zasada 1: Bądź konkretny jak chirurg

Im precyzyjniej zadacie pytanie, tym mniejsze pole do popisu ma model. Zamiast pytać „Opowiedz mi o historii Japonii”, zapytajcie: „Opisz w trzech punktach przyczyny izolacji Japonii w epoce Edo (1603–1868)”. Wąskie, konkretne pytanie zostawia mniej miejsca na twórcze uzupełnianie luk.

Zasada 2: Proście o źródła – i je sprawdzajcie

Możecie poprosić model o podanie źródeł lub publikacji na dany temat. Uwaga: model może podać tytuły, które brzmią przekonująco, ale w rzeczywistości nie istnieją. Dlatego każdy cytowany tytuł, każde nazwisko autora, każdą datę – weryfikujcie w wyszukiwarce. To nie nieufność. To higiena cyfrowa.

Zasada 3: Zapytajcie o pewność

Brzmi prosto, ale działa zaskakująco dobrze. Na końcu pytania dodajcie: „Czy jesteś pewien tej informacji? Jeśli nie, powiedz mi, gdzie mogę to sprawdzić.” Dobry model przyzna się do niepewności zamiast brnąć w konfabulację. To jak poproszenie kogoś: „Mów, jeśli coś jest twoim domysłem, nie faktem.”

Zasada 4: Stosujcie zasadę ograniczonego zaufania

Traktujcie AI jak bardzo oczytanego znajomego, który zna się na wielu rzeczach, ale bywa nieuważny przy szczegółach. Jego opinia o tym, jak napisać e-mail? Świetna. Jego twierdzenie, że dany lek jest bezpieczny w określonej dawce? Zawsze skonsultujcie z lekarzem. Jego wersja daty podpisania jakiegoś traktatu? Sprawdźcie w encyklopedii.

Zaufanie powinno być proporcjonalne do ryzyka. W sprawach bez konsekwencji – korzystajcie swobodnie. W sprawach zdrowotnych, prawnych, finansowych – zawsze weryfikujcie.

Zasada 5: Karmcie go kontekstem

Model wymyśla najchętniej wtedy, gdy nie ma materiału do pracy. Jeśli wkleicie do rozmowy fragment artykułu, treść dokumentu albo konkretne dane, model będzie się ich trzymał zamiast sięgać po wymysły. Pytacie o analizę umowy? Wklejcie treść umowy. Pytacie o podsumowanie raportu? Wklejcie raport. Im więcej konkretów mu dacie, tym mniej przestrzeni na kreatywną fikcję.

Kalkulator słów z wyobraźnią

Na końcu warto zapamiętać jedną prostą metaforę. Sztuczna inteligencja to kalkulator słów – niezwykle sprawny, szybki i wszechstronny. Ale kalkulator nie „wie”, czy wykonywane przez niego działanie ma sens w świecie rzeczywistym. Jeśli wpisujecie złe liczby, dostaniecie zły wynik – podany z pełną precyzją do czwartego miejsca po przecinku.

Konfabulacja to właśnie taki bezbłędnie podany zły wynik. Nie ma w niej złej woli. Jest za to słabość, którą – teraz już wiecie jak – można skutecznie kontrolować.

AI to narzędzie. Jak każde narzędzie, działa najlepiej w rękach kogoś, kto rozumie, do czego służy – i gdzie leżą jego granice.

Następnym razem, gdy AI poda wam pewnym głosem jakiś fakt, przypomnijcie sobie układankę bez obrazka na pudełku. Efekt może być imponujący. Ale ostateczna weryfikacja zawsze należy do was.