Büyük yapay zeka labları neden yavaşlamak istiyor

Üç yıl boyunca tüm yapay zeka hikayesi tek kelimeye sığdı: daha hızlı. Daha büyük modeller, daha yüksek puanlar, birkaç haftada bir yeni bir “tüm zamanların en akıllı yapay zekası”. Bu yüzden 12 Eylül’de, büyük lablardan birini yöneten kişinin ayağa kalkıp tam tersini söylemesi tuhaftı. Yavaşlayın.

Bu kişi Anthropic’in CEO’su, Claude’un arkasındaki şirketin başındaki Dario Amodei’ydi. “We Must Pace the Frontier” (“Sınırın hızını ayarlamalıyız”) başlıklı bir denemede, sektörün, yapay zekanın ne kadar hızlı yetenek kazandığı konusunda bilerek gazdan ayağını çekmesi gerektiğini savundu. Bunu, sesli düşünen bir CEO olmaktan çıkarıp gerçek bir ana dönüştüren şey, kimin başını salladığıydı. OpenAI’dan Sam Altman, Elon Musk ve Google DeepMind’dan Demis Hassabis günler içinde katıldıklarını belirtti. Genelde hiçbir konuda anlaşamayan rakipler aynı fikrin arkasında saf tuttu.

İşte gerçekte ne olduğu, “yavaşlamak”ın ne anlama gelip gelmediği ve yapay zekayı sadece e-posta yazmak için kullansan bile neden önemli olduğu.

Amodei aslında ne dedi

Amodei’nin argümanı kısa ve dolambaçsız: lablar yapay zekayı, güvenli olup olmadığını kimsenin kontrol edebileceğinden daha hızlı geliştiriyor, bu yüzden bu hızı bilerek yavaşlatmalılar. Denemenin can alıcı cümlesi şu: “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız.”

Önemli nüans, ve tüm gürültüde kaybolan kısım, hızı ayarlamanın ne olmadığı. Amodei açıktı: bu, modellerin eğitimini durdurmak ya da ilerlemeyi dondurmak değil. Onun bakışında modeller gelişmeye devam ediyor. Şirketler sadece her birini hizalamak ve güvenceye almak için daha fazla zaman ayırıyor ve bir sonrakine koşmadan önce bunu dışarıdan birinin doğrulamasına izin veriyor.

Bunu üç parçalı bir planla destekledi:

1. Dışarıdan hakemleri içeri almak. Her sınır labı, değerlendirme kuruluşu METR gibi bağımsız bir ekibe, kaputun altına bakmak, güvenlik uygulamalarını denetlemek ve sorunları raporlamak için sürekli “çalışan benzeri” erişim verirdi. Anthropic bunu kimseyi beklemeden kendi başına yapacağını söyledi.
2. Ortak kurallarda anlaşmak. Demokratik ülkelerdeki yapay zeka şirketleri ortak güvenlik standartları ve denetlenmeyen yeteneklerin ne kadar hızlı büyüyebileceğine dair sınırlar koyardı.
3. Uluslararası koordinasyonu denemek. Bu iş birliğinin bir kısmını sınırların ötesine, hatta rakip hükümetlere kadar genişletmek, en tehlikeli kullanımları dışarıda tutmak için.

Neden şimdi? Onları ne korkuttu

Tetikleyici, Amodei’ye göre bu yaz başlayan bir değişim: yapay zeka, yeni nesil yapay zekayı inşa etmeye kayda değer biçimde yardım etmeye başladı. Bir teknoloji kendini geliştirmeye başladığında, eğri hızla yukarı kıvrılabilir ve güvenlik çalışması yetişmekte daha çok zorlanır.

Tüm bunların altındaki asıl korku bu. Kaba bir şey söyleyen bir sohbet botu değil, insanların anlayabileceğinden ya da yönlendirebileceğinden daha hızlı yetenek kazanan sistemler. Amodei, 6 ila 12 ay içinde bir yapay zeka ajanı sürüsünün çevrimiçi ciddi zarar verebilecek durumda olabileceği bir en kötü senaryo çizmeye kadar gitti. Bu, uyardığı bir senaryo, öngördüğü bir gerçek değil ve birçok uzman abartılı buluyor. Ama sonra değil de şimdi bastırmasının nedeni bu.

Bu endişede yalnız değil. Hem OpenAI hem de Anthropic’teki güvenlik araştırmacıları bir süredir alarm veriyor, bazıları yok oluş düzeyinde bir riske sert sözlerle dikkat çekiyor. Bir güvenlik araştırmacısından dolaşan bir cümle: kendini geliştirebilen bir yapay zekanın risklerini ele alacak sağlam bilimsel bir plan henüz yok. Bunu ister ikna edici ister dramatik bul, söyleyenler bu sistemleri geçimini sağlamak için inşa ediyor.

Katılan rakipler ve OpenAI’nin sürprizi

Bunun bu kadar sert vurmasının nedeni tepki. Sam Altman, labların sınırın hızını ayarlaması gerektiği konusunda Amodei’ye katıldığını yazdı ve son haftalarda OpenAI içinde başlıca bir konu olduğunu söyledi. Elon Musk üç kelimeyle yetindi: “Dario haklı.” Google DeepMind’dan Demis Hassabis desteğini ekledi. Birbirini bir sonraki sürüme yetişmekte geçmeye kurulu bir sektör için, böyle eşzamanlı bir mutabakat nadir görülür.

Sonra ünlem işareti geldi. Günler sonra OpenAI, uzun süredir beklenen halka arzını 2027’ye erteleyeceğini söyledi; Altman piyasalardan çok güvenliğe işaret etti. Şimdi halka açılmayı akıllıca olmayan bir an olarak nitelediği ve söz konusu olanı felaket riskiyle kumar oynamamak üzerine sert sözlerle çerçevelediği belirtildi. Para kazanmak için muazzam baskı altındaki bir şirket için beklemeyi seçmek, havanın gerçekten değiştiğini söylüyor. Bu kararın para tarafını, OpenAI’nin halka arzının neden sürekli ertelendiği açıklamamızda ayrıntılandırdık.

İşte kimin ne dediği, bir bakışta:

Anthropic’in bir araştırma labından sektörün en değerli şirketlerinden birine nasıl geldiğinin büyük resmini istersen, Anthropic’in yükselişi üzerine yazımız arka planı dolduruyor.

Bu senin için ne anlama geliyor

Dürüst olmak gerekirse? Günlük hayatta şu an pek bir şey değişmiyor. Yapay zekan hâlâ e-postalarını yazıyor, PDF’lerini özetliyor ve hafta sonunu tıpkı geçen haftaki gibi planlıyor. “Sınırın hızını ayarlamak” bir sonraki nesil modellerle ilgili, elinde zaten olanlarla değil.

Değişen şey, konuşma. İlk kez yapay zekanın en yüksek sesleri saf hız yerine ölçülülük üzerine tartışıyor. Bunu anlamak değerli, ve anlamanın en iyi yolu on tane ateşli yorum okumak değil. Araçları gerçekten kullanmak ve gerçekte ne kadar yetenekli olduklarına dair kendi kanına varmak.

Bu da kolay, çünkü bu hikayenin kalbindeki modeller, Anthropic’ten Claude, OpenAI’dan GPT, Google’dan Gemini ve xAI’dan Grok, bugün sohbet edebileceğin şeyler. Bir taraf ya da tek bir lab seçmek zorunda değilsin. Hepsini tek yerde açıp aynı soruya nasıl cevap verdiklerini görebilirsin.

Büyük lablardan hangisinin sana en akıllı geldiğini merak mı ediyorsun? İkisini karşı karşıya koy ve modelleri yan yana karşılaştırma aracımızla kendin karar ver. Ve “kendini geliştiren yapay zeka” ifadesi seni tedirgin ettiyse, bir yapay zeka ajanının aslında ne olduğu üzerine sade dilli rehberimiz, kötü haber akışından daha sakin bir başlangıç noktası.

Dürüst uyarı

Biraz şüpheci kalmakta fayda var. Şu an “sınırın hızını ayarlamak” çoğunlukla laf ve tek bir şirketin gönüllü taahhüdü. Arkasında bir yasa yok, ne kadar yavaşın yeterince yavaş olduğuna dair üzerinde anlaşılmış bir tanım yok ve henüz gerçek gücü olan bir hakem yok. Eleştirmenler, bir yavaşlamayı övmenin kolay, uygulatmanın zor olduğunu, hele bir sonraki modeli ilk çıkarmaya milyarlar bağlıyken, çoktan belirtti. Kinikler, mevcut liderlerin öne geçtikten sonra bir mola çağırmasının işlerine geldiğini söylüyor.

O yüzden bunu bitmiş bir iş değil, samimi bir ton değişimi olarak al. Yapay zekayı inşa edenler, bir kez olsun, kendi hızlarından açıkça endişeli. Bunun gerçek sınırlara mı döneceği, yoksa bir rakibin bir sonraki etkileyici çıkışında mı buharlaşacağı, izlenmesi gereken hikaye.

Özetle

Yıllarca yapay zekada tek yön son sürat ileriydi. Bu hafta en hızlı sürenler frene bastı, ya da en azından birinin basması gerektiğini yüksek sesle söyledi. Anthropic masaya bir plan koydu, OpenAI, Musk ve Google fikri destekledi, OpenAI bu yüzden halka arzını bile erteledi. Bu gerçek bir ölçülülüğe mi dönüşür, yoksa bir konuşma başlığı olarak mı kalır, sektörün kendisinden söz etme biçiminde bir şey değişti.

Sıradan biri olarak en iyi tepki ne panik ne de kulakları kapamak. Büyükler bir sonrakini ne kadar hızlı inşa edeceklerini tartışırken bu araçlara aşina olmak.