AI to tylko sprytne podpowiadanie słów. Serio.
Autor Chatday Editorial Team ·
Oto fakt, który brzmi jak żart: AI, które napisze ci mowę weselną, poprawi kod i wyjaśni czarne dziury, pod maską robi to samo, co twój telefon podpowiadający następne słowo w wiadomości. Zgaduje, co będzie dalej, raz za razem, bardzo szybko.
I tyle. Na tym polega ta sztuczka. A gdy raz ją zobaczysz, całość przestaje wyglądać jak czary i zaczyna mieć dużo więcej sensu, łącznie ze wszystkimi dziwnymi sposobami, w jakie AI się potyka.
Wielki sekret: przewiduje następne słowo
Wpisz „niebo jest” w telefonie, a podpowie „niebieskie”. To maleńka maszyna do przewidywania. Widziała dość zdań, by wiedzieć, że „niebieskie” to bezpieczny zakład.
Nowoczesny chatbot to ta sama idea, rozdmuchana do czegoś niemal absurdalnego. Dajesz mu polecenie, a on wylicza najbardziej prawdopodobne następne słowo. Potem dokłada je do zdania, znów patrzy na całość i przewiduje kolejne. I znowu. I znowu, setki razy, aż uzna, że odpowiedź jest gotowa. Wypracowanie, wiersz, przepis, przeprosiny dla właściciela mieszkania: wszystko powstaje po jednym najlepszym słowie naraz.
Nigdy nie pisze gotowej myśli, żeby potem ci ją odczytać. To bardziej ktoś, kto widzi zdanie tylko do tego miejsca i musi zdecydować o następnym słowie, nie wiedząc, gdzie to wszystko wyląduje. Wynik wydaje się spójny, bo każde zgadnięcie kształtują wszystkie wcześniejsze słowa.
Chwila, jak zgadywanie słów pisze całe wypracowanie?
To część, która wydaje się niemożliwa, więc szczera odpowiedź brzmi: nikt też nie spodziewał się, że zadziała aż tak dobrze.
Przełom przyniósł projekt zwany transformer, opracowany przez badaczy z Google w 2017 roku. Jego supermocą jest uwaga na kontekst. Wybierając następne słowo, nie patrzy tylko na to poprzednie. Waży naraz wszystko, co istotne w twojej wiadomości, i ustala, które fragmenty liczą się najbardziej dla tego, co dalej. Poproś, by dokończył „lekarka wzięła swój”, a już odnotował ten kontekst i pójdzie w stronę „stetoskop”, nie „klucz francuski”.
Ułóż tę sztuczkę wystarczająco głęboko i podaj dość przykładów, a stanie się coś dziwnego. Żeby naprawdę dobrze przewidywać następne słowo w całym ludzkim pisaniu, model musi wyłapać wzorce pod słowami: gramatykę, ton, przybliżone wyczucie faktów, kształt żartu, kroki argumentacji. Tych umiejętności nikt nie zaprogramował. To skutki uboczne stania się bardzo, bardzo dobrym w grze w uzupełnianie luk.
Jak stał się tak dobry w zgadywaniu
Zanim AI zacznie z tobą rozmawiać, idzie do szkoły. Bardzo intensywnej i zupełnie nietowarzyskiej.
Podczas treningu model czyta ogromną stertę tekstu (wyobraź sobie sporą część publicznego internetu, książki, artykuły i fora) i gra w jedno powtarzalne: zasłoń następne słowo i spróbuj je przewidzieć. Chybi, koryguje się odrobinę. Trafi, wzmacnia się. Zrób to miliardy razy na bilionach słów, a powoli doszlifuje się do maszyny zdumiewająco dobrej w kończeniu każdego zdania w niemal dowolnym stylu.
Warto wyjaśnić jedno: AI nie wykuło internetu na pamięć, żeby wklejać ci jego kawałki. Nauczyło się wzorców, nie fragmentów. Dlatego potrafi napisać zdanie o twoim konkretnym kocie o imieniu Placek, które nigdzie wcześniej nie istniało. Miesza wzorce, nie wyszukuje odpowiedzi.
Dlaczego ta jedna idea wyjaśnia wszystko, co robi AI
Teraz nagroda. Niemal każda ciekawa, frustrująca albo urocza cecha AI sprowadza się do tego samego: przewiduje prawdopodobne słowa, nie sprawdza prawdy.
| Co zauważasz | Co naprawdę się dzieje |
|---|---|
| Pisze szybko i płynnie | Przewidywanie następnego słowa to dokładnie jego przeznaczenie |
| Czasem wymyśla fakty z pełnym przekonaniem | Wiarygodnie brzmiące słowo może pokonać prawdziwe |
| Pytasz o to samo dwa razy, dostajesz dwie odpowiedzi | W wyborze słowa jest szczypta losowości |
| Źle liczy litery w słowie | Czyta kawałki, nie pojedyncze litery |
| Świetnie pisze, ale słabo liczy | Język nagradza „mniej więcej”, matematyka nie |
Każdy przypadek ma swoją głębszą historię. Gdy AI bez mrugnięcia podaje fałszywy fakt, maszyna do przewidywania wybiera gładką odpowiedź zamiast poprawnej, i to właśnie dlaczego AI z przekonaniem zmyśla. Gdy pytasz o to samo dwa razy i dostajesz różne odpowiedzi, to fabryczna szczypta losowości, powód, dla którego AI nigdy nie daje dwa razy tej samej odpowiedzi. A słynna wpadka z liczeniem liter bierze się z tego, jak tnie tekst na kawałki, cała historia stojąca za dlaczego AI nie potrafi policzyć R w słowie strawberry. Różne objawy, ten sam silnik.
„Podpowiadanie słów” brzmi głupio. To czemu wydaje się takie mądre?
Bo „przewiduje tylko słowa” mocno zaniża to, co dzieje się w wielkiej skali.
Żeby wiarygodnie zgadnąć następne słowo w mowie sądowej, funkcji w Pythonie, haiku i wiadomości na rozstanie, model musi zbudować praktyczne wyczucie, jak każdy z tych tekstów jest zbudowany. Przewidywać wystarczająco dobrze, na dość wielu rodzajach pisania, zaczyna mocno przypominać rozumienie, nawet jeśli maszyneria pod spodem to wciąż prawdopodobieństwo. Nazwać to „tylko podpowiadaniem słów” to trochę jak nazwać symfonię „tylko zmianami ciśnienia powietrza”. Formalnie prawda, kompletnie niepełna.
Warto więc trzymać obie myśli naraz. Metoda to naprawdę przewidywanie następnego słowa. A wyniki potrafią być realnie przydatne, twórcze i czasem mądrzejsze niż osoba, która z nich korzysta.
Gdzie analogia się załamuje
Szczerość w tej sprawie chroni cię przed wpadką. „Sprytne podpowiadanie słów” to dobry model myślowy, ale ma granice.
AI nie ma pojęcia, czy to, co mówi, jest prawdą. Optymalizuje pod „czy to brzmi jak dobry ciąg dalszy?”, nie pod „czy to poprawne?”. Zwykle jedno pokrywa się z drugim. Gdy nie, dostajesz pewną siebie, błędną i pięknie napisaną odpowiedź. Nie pamięta cię też między rozmowami, chyba że aplikacja jest do tego stworzona, i potrafi zgubić wątek w bardzo długiej rozmowie, bo zawsze pracuje na słowach, które ma przed sobą.
Praktyczny wniosek: ufaj mu w języku, pisaniu, wyjaśnianiu, pomysłach i przeredagowaniu, a sprawdzaj fakty, liczby i wszystko, gdzie precyzja naprawdę się liczy. Traktuj je jak szybkiego, oczytanego stażystę, nie jak wyrocznię.
Sprawdź to sam
Najlepiej zrozumiesz to, patrząc, jak różne modele różnie zgadują przy tym samym poleceniu. Czytają te same słowa i przewidują nieco inne ciągi dalsze, dlatego jeden trafia w twój e-mail, a drugi daje sztywny, robotyczny szkic. Zestawienie ich obok siebie zmienia abstrakcyjny pomysł w coś, co realnie widać.
Na koniec
Zdejmij szum, a nowoczesne AI to spektakularnie dobry zgadywacz następnego słowa. Czyta to, co jest, przewiduje prawdopodobne i powtarza, aż ma odpowiedź. Ta prosta pętla, w skali trudnej do wyobrażenia, wystarcza, by pisać, programować, wyjaśniać i co jakiś czas cię zadziwić, i dlatego też potyka się na tak osobliwie ludzkie sposoby.
Ta wiedza nie czyni AI mniej użytecznym. Czyni cię lepszym w korzystaniu z niego, bo teraz wiesz, kiedy się na nim oprzeć, a kiedy sprawdzić jego pracę domową. Najszybciej wyrobisz sobie ten instynkt, majstrując samodzielnie przy kilku modelach i patrząc, jak zgadują.