Yapay zeka strawberry'deki R'leri neden sayamıyor
Yazar Chatday Editorial Team ·
Bir sohbet botundan düğününü planlamasını iste, işi tıkır tıkır halleder. „strawberry“ kelimesinde R harfinin kaç kez geçtiğini sor, büyük ihtimalle iki der. Doğru cevap üç. Bu, modern yapay zekanın en tuhaf yanlarından biri: sana kuantum fiziğini anlatan aynı araç, altı yaşındaki bir çocuğun kalemle çözdüğü bir işte tökezliyor.
Bu bir hata değil ve yapay zeka aptal değil. Bu, bu sistemlerin en baştan nasıl okuduğunun bir yan etkisi. Ve bunu bir kez kavradığında, yapay zekanın küçük tuhaf hatalarının çoğu birden yerine oturuyor.
Meşhur „strawberry“ hatası, açıklaması
İnternetin yapay zekayı rezil etmenin en sevdiği yolu basit bir soruydu: strawberry kelimesinde kaç R var? Bir süre neredeyse bütün sohbet botları yanılıp iki dedi, hayatında hiç yanılmamış birinin neşeli özgüveniyle.
Kendin hecele: s-t-r-a-w-b-e-r-r-y. Başa yakın bir R ve sona yakın çift R var. Toplam üç. Bir insan için kolay, çünkü gerçek harflere bakıyoruz. Yapay zekanın buna izni yok ve nedenini görmek için nasıl okuduğuna bakmak gerekiyor.
Yapay zeka harflerle değil, parçalarla okur
Neredeyse kimsenin bilmediği kısım şu. Bir yapay zeka modeli mesajını okumadan önce, metin token denen parçalara bölünür. Bir token genellikle sık kullanılan bir kelime ya da onun bir parçasıdır. „strawberry“ kelimesi çoğu zaman „st“, „raw“ ve „berry“ gibi bir şeye bölünür.
Şimdi R’leri modelin saydığı gibi say. „st“ parçasında hiç yok. „raw“da bir tane var. „berry“de iki tane var ama model bunu b-e-r-r-y olarak değil, tek bir yığın olarak görür. Böylece harfler parçaların içine gömülür ve model her parçanın nasıl yazıldığını okuyup çıkarmak yerine aşağı yukarı hatırlamak zorunda kalır.
Bir araştırmacı bunu çok güzel ifade etti: bir ipin tellerini önce açmadan saymaya çalışmak gibi. Model örülü ipi (token) görür, tek tek telleri (harfleri) değil.
Aynı özellik basit matematiği neden bozar
Yapay zekanın bir felsefe denemesinin içinden süzülüp geçmesinin ama dört basamaklı bir çarpmada tökezlemesinin nedeni de bu. Sayılar da parçalara bölünür, üstelik tutarlı bile değil. 12345 sayısı „123“ ve „45“ olabilir, böylece model rakamları senin kâğıtta yapacağın gibi düzgünce hiç hizalayamaz.
Üstelik yapay zeka hesaplamıyor. Okuduğu her şeye dayanarak söylenecek en olası şeyi tahmin ediyor. Bu, „yaklaşık doğru“nun yettiği dilde harika işler, cevabın ya tam ya yanlış olduğu aritmetikte ise kötü. Model olasılık için kurulmuş, matematikse kesinlik istiyor. Bu ikisi her zaman anlaşamaz. Bu, yapay zekanın tam bir özgüvenle uydurmasının nedeniyle akraba: akıcı ve makul bir cevap, doğru bir cevapla aynı şey değildir.
Peki neden bazı modeller artık doğru buluyor?
İşte sürpriz. Bugün çoğu sohbet botuna strawberry’yi sor, üç derler. Soru öyle meşhur oldu ki doğru cevap artık öğrendikleri şeyin içine kazınmış durumda. Modeller birden harf görüşü kazanmadı. Esprinin sonunu ezberlediler.
Kelimeyi değiştir, maske düşer. 2025’te yapılan özenli bir testte araştırmacılar „blueberry“de kaç B olduğunu sordu. Popüler bir sohbet botu yaklaşık on kezden dört kez yanıldı, iki tane varken üç olduğunu özgüvenle iddia etti, üstelik işleminin yanına küçük onay işaretleri de koyarak. Başka bir model sabırla harf harf ilerleyerek her seferinde doğru buldu. Aynı görev, bambaşka sonuçlar, ki bu sana bunun demir gibi bir yapay zeka yasasından çok, belirli bir modelin yavaşlayıp kontrol etme zahmetine girip girmediği meselesi olduğunu söyler.
Bu, hikayenin dürüst hali. Parça sorunu gerçek ama hepsi bu değil. Akıl yürütmesini gösteren bir yapay zeka bile yanlış sayabilir, çünkü her harfi gerçekten algılamak yerine adımlar boyunca örüntü eşleştirir. Yeni „düşünen“ modeller bu konuda hızlılardan çok daha iyi, hızlı yapay zekaya karşı akıllı yapay zeka meselesinin iyi bir örneği. Ama daha iyi, garanti ile aynı şey değil.
Yapay zeka nelerde harika ve neyi iki kez kontrol etmeli
İçindeki tesisatı ezbere bilmene gerek yok. Sadece yapay zekanın nerede sapasağlam olduğuna, nerede ona işini göstertmenin iyi olacağına dair bir sezgi yeterli.
| Görev | Yapay zeka nasıl | Ne yapmalı |
|---|---|---|
| Yazma, özetleme, fikir üretme | Mükemmel | Güven, sonra göz gezdir |
| Bir kavramı sade sözcüklerle anlatma | Mükemmel | Güven |
| Harf ya da karakter sayma | Sallantılı | Hecelemesini iste |
| Uzun ya da kesin hesaplar | Sallantılı | Adım adım iste ya da hesap makinesi kullan |
| Uzun bir belgedeki kesin ayrıntılar | Değişken | Kaynak satırını alıntılamasını iste |
Örüntü basit. Görev dilse, bırak aksın. Görev kesinlik istiyorsa, onu yavaşlat ya da dikkatli bir modele geç.
Doğru cevabı gerçekten nasıl alırsın
Üç hamle, neredeyse her sayma ya da hesap hatasını düzeltir:
- İşini göstermesini sağla. „Harf harf git“ ya da „adım adım çöz“ modeli, bir cevabı ağzından kaçırmak yerine her şeyi görebileceği yere dökmeye iter.
- İki kez sor ya da iki modele sor. Kesinlik önemliyse ilk hızlı cevaba güvenme. Farklı bir modelden gelen ikinci bir görüş, bu hataların şaşırtıcı kadar çoğunu yakalar.
- İş için doğru modeli kullan. Hızlı, konuşkan modeller tempo için kurulmuştur. İnce ve kesin olan her şey için, daha yavaş, düşünen bir modelin fazladan birkaç saniyesi buna değer.
Bu son madde, tek bir yapay zekaya bağlı olmadığında daha kolay. En iyi modellerden birkaçını aynı sorunun karşısına koyup gerçekten kimin doğru bulduğunu görebilirsin.
Özetle
Yapay zekanın harf sayma hatası, gizliden gizliye aptal olduğunun bir işareti değil. Bu araçların gerçekte nasıl çalıştığına açılan bir pencere: parçalar halinde okurlar, hesaplamak yerine tahmin ederler, dilde parlak, düz anlamda beceriksizler. Bunu bildiğinde şaşırmayı bırakır, dümene geçersin. Ondan yavaşlamasını iste, işini gösterttir ve cevabın gerçekten doğru olması gerektiğinde ikinci bir modeli devreye sok.
Bu sezgiyi geliştirmenin en iyi yolu kendin kurcalamak. Bir modelden R’leri saymasını iste, sonra önce kelimeyi hecelemesini iste ve cevabın nasıl değiştiğini izle.