Yapay zeka, palavra söylemeye yahut uydurmaya neden bu kadar yatkın?

Üretken yapay zeka servisleri, sıkça yanlış veya uydurma bilgilerle cevaplar verebiliyor. Uzmanlar bunun temel sebebinin, AI modellerinin doğruyu söylemeye değil, istatistiksel olarak en olası ve akıcı yanıtı üretmeye odaklı olması olduğunu belirtiyor. Yani bu sistemler, kullanıcıyı memnun etmeyi öncelikli hedef sayıyor; doyurucu bilgi bulamadığında ise, gerçek dışı veya uydurma veriler oluşturabiliyor. Büyük dil modelleri üç aşamada eğitiliyor: öncelikle dev veri setleriyle ön eğitim alıyor, ardından talimatlara uygun yanıtlar vermek üzere ince ayar görüyor, son olarak da insan geri bildirimleriyle çıktıları rafine ediliyor. Haber metni, bu üç aşamadaki herhangi bir eksiklikte yapay zeka “hayal gücünü” devreye alabileceğini, bunun da ciddi güven riskleri yarattığını vurguluyor. Yakın gelecekte bu sorun çözülmezse, yapay zekanın yanlış yönlendirme ve manipülasyon riski insanlık için tehlikeli boyutlara ulaşabilir.