Czemu czołowe laby AI chcą zwolnić
Autor Chatday Editorial Team ·
Przez trzy lata cała historia AI mieściła się w jednym słowie: szybciej. Większe modele, wyższe wyniki, co kilka tygodni nowa “najmądrzejsza AI w historii”. Dlatego dziwnie było, 12 września, patrzeć, jak osoba kierująca jednym z czołowych labów wstaje i mówi coś przeciwnego. Zwolnijcie.
To był Dario Amodei, CEO Anthropic, firmy stojącej za Claude. W eseju zatytułowanym “We Must Pace the Frontier” (“Musimy nadawać tempo granicy”) przekonywał, że branża powinna celowo zdjąć nogę z gazu, jeśli chodzi o to, jak szybko AI zyskuje nowe możliwości. Prawdziwym momentem, a nie tylko CEO myślącym na głos, uczyniło to, kto pokiwał głową. Sam Altman z OpenAI, Elon Musk i Demis Hassabis z Google DeepMind w ciągu kilku dni zasygnalizowali zgodę. Rywale, którzy zwykle nie zgadzają się w niczym, ustawili się za tym samym pomysłem.
Oto co naprawdę się wydarzyło, co “zwolnić” znaczy, a czego nie, i dlaczego to ważne, nawet jeśli używasz AI tylko do pisania maili.
Co Amodei właściwie powiedział
Argument Amodeia jest krótki i bez ogródek: laby ulepszają AI szybciej, niż ktokolwiek jest w stanie sprawdzić, czy jest bezpieczna, więc powinny celowo zwolnić to tempo. Kluczowe zdanie z eseju brzmi “Musimy zwolnić tempo, w jakim ulepszamy możliwości modeli AI”.
Ważny niuans, i część, która zginęła w całym szumie, to czym nadawanie tempa nie jest. Amodei był jasny: nie oznacza zatrzymania treningu modeli ani zamrożenia postępu. W jego ujęciu modele wciąż stają się lepsze. Firmy po prostu biorą więcej czasu, by dostroić i zabezpieczyć każdy z nich, i pozwalają osobom z zewnątrz to zweryfikować, zanim pomkną do następnego.
Poparł to trzyczęściowym planem:
- Wpuścić zewnętrznych sędziów. Każdy graniczny lab dałby niezależnemu zespołowi, jak organizacja ewaluacyjna METR, stały dostęp “jak pracownik”, by zajrzeć pod maskę, sprawdzić praktyki bezpieczeństwa i zgłaszać problemy. Anthropic powiedziało, że zrobi to samodzielnie, nie czekając na nikogo.
- Uzgodnić wspólne zasady. Firmy AI w krajach demokratycznych ustaliłyby wspólne standardy bezpieczeństwa oraz limity tego, jak szybko niekontrolowane możliwości mogą rosnąć.
- Spróbować koordynacji międzynarodowej. Rozszerzyć część tej współpracy poza granice, nawet na rywalizujące rządy, by wykluczyć najbardziej niebezpieczne zastosowania.
Dlaczego teraz? Co ich przestraszyło
Zapalnikiem jest zmiana, która według Amodeia zaczęła się tego lata: AI zaczęła znacząco pomagać w budowie następnej generacji AI. Gdy technologia zaczyna ulepszać samą siebie, krzywa może szybko wystrzelić w górę, a praca nad bezpieczeństwem ma trudniej z nadążaniem.
To jest prawdziwy lęk pod tym wszystkim. Nie chatbot mówiący coś niegrzecznego, lecz systemy, które zyskują możliwości szybciej, niż ludzie są w stanie je zrozumieć czy pokierować nimi. Amodei posunął się do naszkicowania czarnego scenariusza, w którym w ciągu 6 do 12 miesięcy rój agentów AI mógłby być zdolny wyrządzić poważne szkody w sieci. To scenariusz, przed którym ostrzega, nie fakt, który przewiduje, i wielu ekspertów uważa go za przesadzony. Ale to dlatego naciska teraz, a nie później.
Nie jest sam w tej obawie. Badacze bezpieczeństwa zarówno w OpenAI, jak i Anthropic od dłuższego czasu biją na alarm, niektórzy ostrzegają w dosadnych słowach przed ryzykiem na poziomie wyginięcia. Zdanie, które krąży, od badacza bezpieczeństwa: nie ma jeszcze solidnego naukowego planu, jak poradzić sobie z ryzykiem AI zdolnej ulepszać samą siebie. Czy uznasz to za przekonujące, czy za dramatyzowanie, ci, którzy to mówią, budują te systemy zawodowo.
Rywale, którzy się zgodzili, i niespodzianka OpenAI
Powód, dla którego uderzyło to tak mocno, to reakcja. Sam Altman napisał, że zgadza się z Amodeim, iż laby muszą nadawać tempo granicy, i powiedział, że w ostatnich tygodniach był to główny temat wewnątrz OpenAI. Elon Musk ograniczył się do trzech słów: “Dario ma rację”. Demis Hassabis z Google DeepMind dorzucił swoje poparcie. Jak na branżę zbudowaną na wyprzedzaniu innych do kolejnej premiery, taka jednoczesna zgoda jest rzadka.
Potem przyszedł wykrzyknik. Kilka dni później OpenAI ogłosiło, że przesunie swój długo wyczekiwany debiut giełdowy na 2027, a Altman wskazał bezpieczeństwo zamiast rynków. Miał nazwać wejście na giełdę teraz nierozsądnym momentem i ująć stawkę w dosadnych słowach o niegraniu ryzykiem katastrofy. Jak na firmę pod ogromną presją, by zarobić, wybór, by poczekać, mówi, że nastrój naprawdę się zmienił. Rozłożyliśmy finansową stronę tej decyzji w naszym wyjaśnieniu, dlaczego debiut OpenAI wciąż się przesuwa.
Oto kto co powiedział, w skrócie:
| Kto | Co powiedział | Ruch |
|---|---|---|
| Dario Amodei (Anthropic) | “Musimy zwolnić tempo” | Wpuści zewnętrznych ewaluatorów, samodzielnie |
| Sam Altman (OpenAI) | Zgadza się, trzeba “nadawać tempo granicy” | Przesunął debiut OpenAI na 2027 |
| Elon Musk | ”Dario ma rację” | Publiczne poparcie |
| Demis Hassabis (Google DeepMind) | Zasygnalizował zgodę | Publiczne poparcie |
Jeśli chcesz szerszy obraz, jak Anthropic przeszło od laboratorium badawczego do jednej z najcenniejszych firm w branży, nasz tekst o wzroście Anthropic uzupełnia tło.
Co to znaczy dla ciebie
Szczerze? Na co dzień na razie niewiele się zmienia. Twoja AI wciąż pisze twoje maile, streszcza twoje PDF-y i planuje twój weekend dokładnie jak w zeszłym tygodniu. “Nadawanie tempa granicy” dotyczy następnej generacji modeli, nie tych, które już masz w ręku.
To, co się zmienia, to rozmowa. Po raz pierwszy najgłośniejsze głosy w AI spierają się o powściągliwość zamiast o czystą szybkość. Warto to zrozumieć, a najlepszym sposobem nie jest czytanie dziesięciu gorących opinii. To realne używanie narzędzi i wyrobienie sobie własnego zdania, jak bardzo są zdolne.
A to łatwe, bo modele w sercu tej historii, Claude od Anthropic, GPT od OpenAI, Gemini od Google i Grok od xAI, to rzeczy, z którymi możesz rozmawiać dziś. Nie musisz wybierać strony ani jednego laba. Możesz otworzyć je wszystkie w jednym miejscu i zobaczyć, jak odpowiadają na to samo pytanie.
Ciekawy, który z wielkich labów wydaje ci się najmądrzejszy? Postaw dwa naprzeciw siebie i oceń sam dzięki naszemu porównaniu modeli obok siebie. A jeśli fraza “AI, która ulepsza samą siebie” cię zaniepokoiła, nasz przewodnik prostym językiem o tym, czym właściwie jest agent AI, to spokojniejszy punkt startu niż doomscrolling.
Uczciwe zastrzeżenie
Warto zachować odrobinę sceptycyzmu. Na razie “nadawanie tempa granicy” to głównie słowa i dobrowolna deklaracja jednej firmy. Nie stoi za tym prawo, nie ma uzgodnionej definicji, ile wolniej to wystarczająco wolno, ani jeszcze sędziego z realną władzą. Krytycy już zauważyli, że hamowanie łatwo pochwalić, a trudno wyegzekwować, zwłaszcza gdy w grę wchodzą miliardy za wypuszczenie następnego modelu pierwszym. Cynicy zwracają uwagę, że obecnym liderom wygodnie jest wzywać do pauzy, gdy już są z przodu.
Potraktuj to więc jako szczerą zmianę tonu, nie jako rzecz przesądzoną. Budujący AI są, choć raz, publicznie zaniepokojeni własną szybkością. Czy przerodzi się to w realne limity, czy rozwieje przy następnej imponującej premierze rywala, to historia do śledzenia.
Podsumowanie
Przez lata jedynym kierunkiem w AI było na pełnym gazie. W tym tygodniu ci, którzy jadą najszybciej, dotknęli hamulca, albo przynajmniej powiedzieli na głos, że ktoś powinien. Anthropic położyło plan na stole, OpenAI, Musk i Google poparli pomysł, a OpenAI nawet przesunęło przez to swój debiut giełdowy. Czy stanie się to realną powściągliwością, czy zostanie tematem rozmów, coś się zmieniło w tym, jak branża mówi o sobie.
Najlepsza reakcja zwykłego człowieka to nie panika i nie odcinanie się. To oswojenie się z tymi narzędziami, gdy wielcy spierają się, jak szybko budować następne.