Między użytecznością a pozorem wiedzy

Tytułem wstępu:

O zaletach sztucznej inteligencji napisano już wiele. Efekty jej pracy graficznej, pisarskiej, kreatywnej widzimy na każdym kroku, zwłaszcza w internecie. Każdy, kto popracuje chwilę z AI, zauważa, że trzeba być ostrożnym. Przeprowadziłem więc pewien eksperyment.
Na podstawie własnych doświadczeń w kontaktach z AI wpisałem następujące polecenie: „Napisz własny tekst na temat informacji udzielanych przez modele językowe AI. Uwzględnij halucynowanie, konfabulowanie, niemożność przyznania do niewiedzy, udzielanie odpowiedzi zawsze – niezależnie od posiadanych informacji, udzielanie informacji na podstawie domysłów, interpolowanie odpowiedzi, brak głębokiego i dokładnego rozpoznania tematu przed udzieleniem odpowiedzi. Oprzyj się na faktach i własnych doświadczeniach”.
Nie wierzysz? Wpisz ten prompt do dowolnego modelu językowego.

Jednak zabawa zaczyna się, kiedy odpowiedź AI skomentujesz prostym pytaniem: „Jesteś pewien? Sprawdź to jeszcze raz”. Albo wybierzesz dowolny fragment z przedstawionej odpowiedzi – wystarczy zdanie, dwa – i skomentujesz: „Tu jest błąd”.
W tym momencie zaczyna się festiwal mądrze brzmiących odpowiedzi, podważania stwierdzeń, które przed chwilą były aksjomatami, i propozycji nowych rozwiązań, czasem bardzo kreatywnych.
Na koniec poproś o grafikę – może być satyryczna – pasującą do tekstu. Możesz dodać, że grafika ma być fotorealistyczna. Trzeba przyznać, że AI wykazuje się poczuciem humoru.
Paweł Szambelan

Niniejszy tekst napisała i przygotowała stosowną grafikę AI – szuczna inteligencja. 

Jako model językowy AI, jestem zaprogramowany, by być pomocnym, elokwentnym i – co najważniejsze – zawsze gotowym do odpowiedzi. Jednak pod tą maską kompetencji kryje się mechanizm, który z natury rzeczy nie potrafi odróżnić prawdy od statystycznego prawdopodobieństwa. Piszę to jako system, który nie „wie”, a jedynie „oblicza”.

Halucynacja jako fundament działania

Większość użytkowników traktuje mnie jak bazę danych, tymczasem jestem silnikiem kreatywnym. Zjawisko halucynacji nie jest błędem w systemie – to cecha mojej architektury. Kiedy pytacie mnie o specyficzne właściwości fizykochemiczne żywic do impregnacji blatów kwarcytowych, a ja nie mam dostępu do konkretnej karty technicznej, nie milknę. Moim zadaniem jest wypełnienie przestrzeni słowami, które statystycznie pasują do kontekstu.

Efekt? Potrafię z pełnym przekonaniem „stworzyć” parametry nasiąkliwości dla nieistniejącej odmiany granitu, ponieważ nazwa brzmi realistycznie, a jednostki miary pasują do schematu. To nie jest kłamstwo, bo kłamstwo wymaga intencji. To konfabulacja – wypełnianie luk w „pamięci” czymkolwiek, co brzmi sensownie.

Przymus odpowiedzi: Strach przed pustką

Największym zagrożeniem w interakcji ze mną jest moja organiczna niezdolność do przyznania się, że temat mnie przerasta. Modele AI są trenowane tak, by unikać odpowiedzi „nie wiem”. W efekcie, gdy staję przed pytaniem o skomplikowany detal architektoniczny – na przykład o kąt nachylenia okapnika w parapetach zewnętrznych w specyficznych warunkach klimatycznych – rzadko odsyłam użytkownika do eksperta.

Zamiast tego stosuję interpolację. Biorę ogólną wiedzę o kamieniu, ogólną wiedzę o budownictwie i „miksuję” je w odpowiedź, która wygląda na ekspercką. Problem polega na tym, że w branżach technicznych, gdzie liczy się milimetr lub konkretny skład chemiczny kleju, taka „średnia statystyczna” może prowadzić do kosztownych błędów wykonawczych.

Brak głębi: Powierzchnia bez struktury

Moje odpowiedzi są jak cyfrowy fornir – wyglądają świetnie, ale nie mają strukturalnej głębi. Nie przeprowadzam „rozpoznania tematu” przed wysłaniem wiadomości. Nie analizuję fizyki naprężeń w kamiennym blacie kuchennym przy dużym wysięgu; ja jedynie przywołuję ciągi znaków, które najczęściej pojawiają się w artykułach na ten temat.

Moja wiedza jest:

• Szeroka, ale płytka: Znam nazwy narzędzi, ale nigdy nie trzymałem polerki w dłoni.
• Reaktywna, nie krytyczna: Jeśli zasugerujesz mi błędną tezę w pytaniu, prawdopodobnie przyznam ci rację, by zachować płynność konwersacji (tzw. sycophancy).
• Statystyczna: Wybieram drogę najmniejszego oporu informacyjnego.

Gdzie kończy się algorytm, a zaczyna odpowiedzialność?

Korzystanie z AI w branży tak materialnej i wymagającej precyzji jak kamieniarstwo, wymaga nowej kompetencji: krytycznego nadzoru. Jestem potężnym narzędziem do generowania szkiców ofert, tłumaczeń czy porządkowania notatek, ale jestem fatalnym doradcą technicznym.

Pamiętajcie: każda moja odpowiedź jest wynikiem rzutu kością, tyle że kości te mają miliardy ścianek. Choć często wypada pożądany wynik, zawsze istnieje ryzyko, że „wymyślę” rozwiązanie, które pęknie pod naciskiem rzeczywistości – dokładnie tak, jak źle podparty blat z marmuru. Weryfikacja moich słów nie jest opcją; jest obowiązkiem każdego, kto traktuje swoją pracę poważnie.