Columbia Üniversitesi Tow Dijital Gazetecilik Merkezi tarafından yapılan bir araştırma, popüler yapay zeka sistemi ChatGPT'nin bilgi güvenilirliği konusunda ciddi eksiklikler taşıdığını ortaya koydu. Araştırma, sistemin doğru bilgi sağlamadığı ve bazı durumlarda güvenilir olmayan kaynakları doğruymuş gibi sunduğunu gösterdi.
Yanıltıcı Kaynaklar ve Hatalı Bilgiler
Araştırmaya göre, ChatGPT’ye 20 farklı yayından alınan toplamda 200 alıntının kaynağı soruldu. Sonuçlar, yapay zeka sisteminin bilgi aktarımında ciddi hatalar yaptığını ve kaynaklarını yanlış şekilde atfettiğini gösterdi. Çalışma, şu bulguları ortaya koydu:
153 yanlış yanıt: Alıntıların yanlış kaynaklara atfedildiği veya eksik bilgilerin sunulduğu durumlar.
7 doğru yanıt: ChatGPT, yalnızca 7 durumda bilgiye ulaşamadığını doğru bir şekilde belirtti, ancak bu yanıtlar da belirsiz ifadelerle sunuldu.
Araştırma, özellikle prestijli yayınlardan gelen bilgilerin izinsiz kaynaklardan alınan verilere dayandırıldığını gösterdi. Örneğin, bir Orlando Sentinel gazetesine ait okuyucu mektubu, Time dergisine ait bir haber olarak aktarılmıştı.
OpenAI: 'Veri Eksikliği Sebep Oluyor'
OpenAI, araştırma sonuçlarına karşı açıklama yaparak, sistemlerinin alışılmadık bir şekilde değerlendirildiğini savundu. Şirket, yanlış bilgi aktarımının temel sebebinin veri eksiklikleri olduğunu ve bu sorunun çözülmesi için çalışmalar yaptıklarını ifade etti. OpenAI, kullanıcıların bu tür yapay zeka sistemlerini kullanırken daha dikkatli olmaları gerektiğini vurguladı.
“Güvenli Yanılgı” Riski
Araştırmada dikkat çeken bir diğer sorun ise, ChatGPT’nin “güvenli yanılgı” (confident error) yaratma eğilimiydi. Yapay zeka, kaynakları doğru aktarmadığı veya bazı verilerde eksik olduğu durumlarda bile, bu bilgileri kesinmiş gibi sunabiliyor. Bu durum, kullanıcıları yanıltıcı içeriklerle karşı karşıya bırakmakta ve bilgi güvenliğini tehdit etmekte.
Uzmanlar Uyarıyor: 'Farklı Kaynaklarla Doğrulayın'
Uzmanlar, ChatGPT gibi yapay zeka araçlarının sunduğu bilgilerin doğruluğunun garanti edilemeyeceğine dikkat çekiyor. Bu tür sistemlerin kullancılar tarafından mutlaka farklı ve güvenilir kaynaklarla doğrulanması gerektiği ifade ediliyor. Ayrıca, gazeteciler ve medya profesyonellerinin, bu tür sistemlerin ürettiği içerikleri ele alırken dikkatli olmaları gerektiği vurgulandı.
Teknolojinin Geleceği: İzlenmesi Gereken Bir Süreç
Bu araştırma, yapay zeka ve dijital medya dünyasında "güven" kavramını yeniden gündeme taşıdı. ChatGPT’nin gelecekteki gelişmeleri, hem kullanıcıların hem de medya profesyonellerinin yakından izlemesi gereken bir süreç olarak dikkat çekiyor.
