Halüsinasyon nedir?

Bir modelden yeni bir yazı için sektör araştırması istediğini düşün. Yanıtta makul görünen bir yüzde, bir araştırma adı ve bağlantı bulunuyor. Metin akıcı, kaynak başlığı da konuya uygun. Ancak bağlantı açıldığında o oran görünmüyor; hatta belirtilen araştırmanın tarihi farklı. Yapay zekâ bağlamında halüsinasyon, doğruymuş gibi sunulan fakat gerçeğe veya verilen dayanağa uymayan içerik için kullanılan kavramdır. Akıcılık, güven ve ayrıntı miktarı doğruluğun kanıtı değildir. Bu kurgusal örnek, gerçek bir araştırmanın veya kurumun hatası olarak okunmamalıdır.

Sorun yalnız tamamen uydurulmuş kaynaklar değildir. Gerçek bir belgedeki dar bir bulgu gereğinden fazla genellenebilir, başka bir ürünün özelliği karıştırılabilir veya doğru bir sayı yanlış döneme bağlanabilir. Bir kaynak bağlantısının var olması, yanındaki cümlenin o kaynakla desteklendiğini göstermez. Doğrulamada iddia ve kanıt birlikte incelenir. Kaynak gerçekten ne söylüyor, hangi koşulda söylüyor ve bizim cümlemiz bu sınırı koruyor mu? Özellikle özel isimler, tarihler, ölçüler ve teknik davranışlar ayrı dikkat ister. Küçük bir ayrıntı metnin bütün önerisini değiştirebilir.

Kaynakla çalışma hatayı azaltmaya yardımcı olabilir, fakat onu bütünüyle ortadan kaldırmaz. Model verilen metni yanlış okuyabilir, iki bölümü birleştirirken yeni bir anlam üretebilir veya eksik bilgiyi tamamlamaya çalışabilir. Bu yüzden araştırma görevinde bilinmeyeni açıkça bırakmak kabul edilen bir sonuç olmalıdır. ‘Bulamadım’ ile ‘yoktur’ farklıdır. Bir bilginin erişilememesi, dünyada bulunmadığı anlamına gelmez. İstemde kaynak sınırı ve belirsizlik davranışı belirtilirse değerlendirme kolaylaşır. Yine de yayımlanacak olgusal iddiaların kontrolü, modelin kendi kendine verdiği doğruluk onayına indirgenmez.

Üretim türüne göre hata biçimi de değişir. Metinde uydurma atıf, görselde yanlış ürün detayı veya kodda var olmayan bir işlev aynı doğrulama yöntemiyle ele alınmaz. Ürün görseli referansla karşılaştırılır; teknik kod ilgili belgeler ve gerçek davranışla incelenir; bir alıntı özgün kaynağına dönülerek değerlendirilir. Bir çıktının bazı kısımlarının doğru olması bütününün güvenilir olduğu anlamına gelmez. İnceleme, önemli iddiaları ve etkili kararları ayrı ele almalıdır. Sonuç doğru görünse bile dayanağı belirsizse bu belirsizlik saklanmaz.

Hata düzeltirken yalnız yanlış cümleyi değiştirmek bazen yeterli olmaz. O cümleye dayanılarak kurulmuş karşılaştırma, öneri veya başlık da etkilenmiş olabilir. Kaynak kontrolünde bir varsayım çürüdüğünde metnin hangi bölümlerinin ona bağlı olduğu izlenir. Böylece doğru bir ayrıntı eklenip yanlış ana sonuç korunmaz. Özellikle uzun içerikte bu bağımlılık önemlidir. Editoryal kontrol, tek tek doğru cümleler toplamından fazlasını ister; cümlelerin birbirinden çıkardığı sonuçların da dayanakla uyumlu olması gerekir.