Yapay Zeka Neden Aynı Cevabı İki Kez Vermez

Küçük bir deney yap. En sevdiğin yapay zekayı aç, annen için bir doğum günü mesajı yazmasını iste ve cevabı oku. Şimdi sohbeti temizle ve tam olarak aynı şeyi kelime kelime tekrar iste. Neredeyse kesin olarak farklı bir mesaj alacaksın. Belki daha sıcak, belki daha kısa, belki ilki pastadan söz ederken bu bir bahçeden söz eden bir mesaj.

Bir şey bozulmadı. Farklı ifade etmedin. Yapay zeka sadece kendini tekrar etmiyor, ve bu bilerek böyle.

Nedenini bir kez anlayınca, o küçük huy rahatsız etmeyi bırakıp yapay zekayla sohbet etmenin en faydalı yanlarından biri oluyor.

Kelime kelime yazan makine

Yapay zeka sohbet botları hakkında sana neredeyse hiç söylenmeyen bir şey var. Bütün bir cevabı yazıp eline tutuşturmuyorlar. Cevabı kelime kelime kuruyorlar, bitene kadar bir sonraki kelimeyi tekrar tekrar tahmin ederek.

Dünyanın en iyi otomatik tamamlamasını düşün. “teşekkürler” yazıyorsun ve telefonun “mesaj”, “hediye” ya da “yardım” öneriyor. Bir yapay zeka aynısını yapar, sadece çok daha iyi ve bütün bir metin boyunca. Her adımda o ana kadarki her şeye bakar ve kendine sorar: şimdi en olası hangi kelime geliyor?

İşin püf noktası, her seferinde en olası kelimeyi kapmamasıdır. Kısa bir iyi seçenekler listesi vardır, her birinin yaklaşık bir olasılığı vardır ve birini seçmek için küçük bir zar atar. O zar, çeşitliliğin geldiği yerdir. Başta biraz farklı bir kelime seç, bütün cevap başka bir yöne gider.

”Sıcaklık” düğmesiyle tanış

O zarın bir kontrol düğmesi var ve her yerde görmeye başlayacağın bir adı var: sıcaklık.

Sıcaklık, yapay zekanın daha az bariz kelimelere ne kadar bahse girebileceğine karar verir. Genelde 0 ile 2 civarı arasında bir sayıdır ve şöyle düşünebilirsin.

Çoğu sohbet uygulaması sana sessizce orta bir sıcaklık ayarlar, çünkü yapay zekanın kalıp bir mektup gibi değil bir insan gibi duyulduğu nokta orasıdır. Yükselt, cesur ve şaşırtıcı olur. Düşür, garantiye oynar ve her seferinde neredeyse aynı şeyi söyler.

Normal bir sohbette bu düğmeye neredeyse hiç dokunmazsın. Ama her cevabın altında döner ve doğum günü mesajının ikinci sefer farklı çıkmasının asıl nedeni odur.

Peki neden rastgeleliği tümden kapatmıyoruz?

Yerinde soru. Sıcaklığı sıfıra ayarlarsan, yapay zeka her seferinde en olası kelimeyi seçip sana iki kez aynı cevabı vermeli, değil mi?

Çoğunlukla evet. Ama her zaman değil ve nedeni şaşırtıcı derecede sıradan.

Bu modeller devasadır ve aynı anda binlerce kişiye hizmet veren dev özel çip sıralarında çalışır. Yetişmek için sistem istekleri gruplar, hesapları birçok çipe böler ve düzenini sürekli değiştirir. Bu hesapların nasıl ve nerede yapıldığındaki minik farklar, bir kelime seçimini neredeyse eşit olasılıktaki iki kelime arasındaki o ince çizgide devirebilir. Bir kelime değişir ve yine cevabın geri kalanı onu izleyebilir.

Yani bir sohbet botu, içinde tek bir doğru cevabı bekleyen bir hesap makinesi değildir. Daha çok, çok okumuş bir arkadaşa aynı soruyu iki farklı gün sormak gibidir. Ana fikir aynı kalır. Kelimelerin tam hâli değişir.

Bu, farklı iki yapay zekanın aynı soruya neden farklı bakış açıları verdiğinden ayrı bir şey. GPT, Gemini ve Claude’un birbiriyle aynı fikirde olmadığını fark ettiysen, bunun nedeni her birinin nasıl kurulup eğitildiğidir. Bunu yapay zeka modelleri neden sana farklı cevaplar veriyor yazısında adım adım açtık. Bugünkü bilmece daha küçük ve daha tuhaf: aynı modelin kendisiyle aynı fikirde olmaması.

Çeşitlilik aleyhine çalıştığında

Taze olması bir doğum günü mesajı için harika. Bir olguya ihtiyacın olduğunda daha az harika.

Yapay zeka olası kelimelere uzandığından, yeniden sormak arada bir doğru bir ayrıntıyı, aynı derecede inandırıcı duyulan yanlış biriyle değiştirebilir: uydurma bir tarih, var olmayan bir kitap, arkasında hiçbir şey olmayan kendinden emin bir sayı. Bu, yapay zekayı tam bir özgüvenle bir şeyler uydurmaya iten aynı huydur ve rastgelelik bunu ortaya çıkarabilir.

O yüzden iki durumu farklı ele al:

• Yaratıcı ya da açık uçlu (mesajlar, fikir fırtınası, isimler, ilk taslaklar): çeşitlilik dostundur. Birkaç tane üret ve en iyisini al.
• Olgular ve ayrıntılar (tarihler, alıntılar, tıbbi ya da hukuki noktalar, üzerine harekete geçeceğin her şey): tek bir kendinden emin cevaba güvenme. Yeniden sor, kendini kontrol etmesini iste ve önemli olanı gerçek bir kaynaktan doğrula.

Bu huyu bir süper güce çevir

Tek bir “resmi” cevap beklemeyi bıraktığın an, daha iyi bir alışkanlık devreye girer. İlk cevap bir taslaktır, nihai bir hüküm değil.

İki hamle çok işe yarar:

Sadece yeniden sor. Bir cevap yakınsa ama tam oturmuyorsa, onu tekrar iste. Yukarıdaki her şey yüzünden, aynı kelimelerin yeniden dizilmişini değil, gerçekten farklı bir denemeyi alırsın. Bunu iki üç kez yap ve en iyisini al ya da iyi parçaları birleştir.

Başka bir modele sor. Asıl büyük hamle bu. Her modelin kendi tarzı vardır ve aynı komut her birinde çok farklı çıkabilir. Biri daha kısa yazar, biri daha sıcaktır, biri daha iyi yapılandırır. Harika bir cevaba giden en hızlı yol çoğu zaman aynı soruyu birkaç modele verip kazananı seçmektir ve hepsi üç ayrı girişin arkasında değil de tek bir yerde yaşadığında bu çok daha kolaydır.

Aynı soruda ne kadar açıldıklarını merak mı ettin? İkisini karşılaştırıcıda yan yana koy ve aynı komutu farklı yönlere nasıl götürdüklerini izle.

Özetle

Yapay zekanın kendini tekrar etmemesi düzeltilecek bir kusur değil. Her seferinde senin için gerçekten bir şey kuran, kelime kelime, bir tutam rastgelelikle onu bir senaryo okuyan robot gibi duyulmaktan alıkoyan bir sistemin işaretidir.

O yüzden bunu kullan. İlk cevabı son söz sayma. Taze bir sürüm için yeniden sor ve iş gerçekten önemliyse aynı soruyu birkaç farklı modele ver ve en iyisini al.