Yapay Zeka Neden Uyduruyor? Halüsinasyon ve Korunma Yolları

Yapay zekaya bir kanun maddesi sorarsın, sana numarasıyla birlikte gayet ikna edici bir cevap verir — sonra bakarsın ki öyle bir madde yok. Buna halüsinasyon deniyor ve bir arıza değil, teknolojinin çalışma biçiminin doğal bir sonucu. Nedenini anlarsan ne zaman güveneceğini de bilirsin.

Neden oluyor?

Yapay zeka bir arama motoru değildir. Bir yerden bilgi bulup getirmiyor; öğrendiği devasa metinlerden yola çıkarak bir sonraki kelimenin ne olması gerektiğini tahmin ediyor. Bu yüzden ürettiği metin, doğru olduğu için değil, doğru cümlelere benzediği için öyle görünür.

Bu ayrım her şeyi açıklar: gerçek bir kanun maddesi de, uydurma bir kanun maddesi de aynı derecede "kanun maddesi gibi" durur. Model ikisini birbirinden ayırmaya değil, inandırıcı metin üretmeye ayarlıdır. Bilmediğini söylemek yerine boşluğu doldurma eğilimi buradan gelir.

En çok nerede uydurur?

• Kaynak, makale adı, sayfa numarası. Akademik referanslar halüsinasyonun en klasik alanı — biçim çok kalıplı olduğu için model kolayca "gerçekçi" uydurur.
• Kanun maddesi, yönetmelik, mahkeme kararı. Aynı sebep, ama sonuçları çok daha ciddi.
• Güncel olaylar ve fiyatlar. Modelin bilgisi belli bir tarihte donmuştur; sonrasını bilmez ama bunu her zaman söylemez.
• Çok spesifik sayılar. "2023'te bu sektör %14,7 büyüdü" gibi cümlelerdeki ondalık, güven vermek için orada olabilir.
• Az bilinen kişiler ve yerel bilgiler. Veri azaldıkça uydurma ihtimali artar.
• Senin verdiğin yanlış varsayım. "X kanunundaki şu maddeyi açıkla" dersen, madde olmasa bile açıklamaya çalışabilir.

Korunmanın pratik yolları

1. Kaynağı sen ver

En etkili yöntem bu. Modelin hafızasından cevap vermesi yerine, metni önüne koy: sözleşmeyi yapıştır, yönetmeliği ekle, sonra "sadece bu metne dayanarak cevapla" de. Böylece iş "hatırlama"dan "okuma"ya döner ve hata oranı ciddi biçimde düşer.

2. "Bilmiyorsan bilmiyorum de" iznini ver

Basit ama işe yarar: "Emin değilsen tahmin etme, bilmiyorum de." Modeller boşluk doldurmaya meyillidir; ona açıkça başka bir seçenek sunduğunda o seçeneği kullanır.

3. Doğrulanabilir her şeyi doğrula

Kaynak, kanun maddesi, istatistik, fiyat, tarih — bunların hepsi kontrol edilebilir şeylerdir, o yüzden kontrol et. Kütüphane veritabanında bulamadığın makale muhtemelen yoktur. Mevzuat sitesinde çıkmayan madde muhtemelen yoktur.

4. Aynı soruyu farklı modele sor

İki farklı model aynı cevabı veriyorsa güven artar; farklı cevaplar veriyorsa orada bir sorun var demektir. Tek panelde birden fazla modelin olmasının en somut faydası budur — kritik bir bilgiyi ikinci bir modele doğrulatmak birkaç saniye sürer.

5. "Nereden biliyorsun?" diye sor

Cevabın ardından gerekçesini iste. Model sağlam bir gerekçe kuramıyor ya da her seferinde farklı bir şey söylüyorsa, o bilgi zayıf demektir.

Ne zaman rahat olabilirsin?

Halüsinasyon her işte aynı risk değil. Rahat kullanabileceğin yerler: metin yazma ve düzeltme, çeviri, özetleme, beyin fırtınası, kod yazma (çünkü kodu çalıştırıp test edebilirsin), verdiğin belge üzerinde çalışma.

Mutlaka doğrulaman gerekenler: hukuki ve tıbbi bilgiler, akademik kaynaklar, finansal rakamlar, güncel olaylar ve karar vereceğin her somut veri.