ChatGPT’nin Grokipedia verileriyle üretilen içeriklerinde yapay zekanın kopyalama riskini ve özgünlük sorunlarını keşfedin.
Yapay zeka alanında “yılanın kendi kuyruğunu yutması” benzetmesini hak eden bir durum ortaya çıktı. ChatGPT’nin en yeni modeli GPT-5.2, bazı sorularda insan üretimi veriler yerine başka bir yapay zeka tarafından oluşturulan içerikleri temel aldığı fark edildi. Kaynağın Elon Musk’ın şirketi xAI tarafından geliştirilen, içerikleri tamamen yapay zeka tarafından yazılan Grokipedia olduğu anlaşıldı. Başka bir deyişle, yapay zeka bilgi aktarırken başka bir yapay zekadan “alıntı” yapıyor.
The Guardian’ın haberine göre ChatGPT, özellikle İran siyaseti gibi özel konular ya da İngiliz tarihçi Sir Richard Evans gibi daha az tanınan figürlerle ilgili sorgularda Grokipedia verilerini referans alıyor. Bu da ChatGPT’nin bir başka yapay zeka tarafından oluşturulmuş veriyi, kullanıcıya gerçek bilgi gibi sunduğu anlamına geliyor.
Bu durum dışarıdan bakıldığında zararsız gibi görünse de, yapay zeka araştırmalarında uzun süredir model çöküşü (model collapse) olarak bilinen büyük bir tehlike gündemde. Uzmanlar, yapay zekaların insan yerine yine yapay zekalardan alınan verilerle beslendiğinde bilginin kalitesinin gitgide düştüğünü, hataların arttığını ve içe kapanık bir dijital yankı odasının oluştuğunu belirtiyor.
Aslında ChatGPT bu içerikleri doğrudan eğitim verisi olarak değil, referans kaynağı olarak kullanıyor. Ancak kullanıcı açısından fark ortadan kalkıyor çünkü çoğu kişi yanıtın gerçek, insan tarafından yazılmış bir kaynağa mı yoksa bir yapay zekaya mı dayandığını sorgulamıyor.
Bu durumu kritik hale getiren unsur, günümüz yapay zekalarının hâlâ “halüsinasyon” üretmeye yatkın olması, yani gerçekte olmayan bilgileri oluşturabilmesi. Anthropic’in “Claudius” adlı yapay zekasıyla yapılan bir deney, bu durumu açıkça göstermişti. Şirketi yönetmekle görevlendirilen model, birçok hatalı karar vermiş ve bir ara içecekleri bizzat götüreceğini iddia etmişti. NVIDIA CEO’su Jensen Huang da 2024 yılında yaptığı açıklamada, bu sorunun çözümünün hala yıllar uzaklıkta olduğunu ve çok daha fazla işlem gücü gerektirdiğini dile getirmişti.
Wikipedia’dan farklı olarak Grokipedia’da içerikler insanlar tarafından değil, tamamen yapay zekayla hazırlanıyor. Kullanıcılar yalnızca düzenleme isteği gönderebiliyor, ancak doğrudan müdahale edemiyor. Bu da klasik anlamda bir editör denetimi olmadığı anlamına geliyor. Dolayısıyla ChatGPT, insanların kontrolünden geçmemiş bilgileri alıp başka kullanıcılara aktarabiliyor. Sonuçta doğruluğu belirsiz içerikler zincirleme biçimde yayılabiliyor.
Bir yapay zekanın diğerini kaynak göstermesi, insan dünyasındaki “biri öyle demiş” tarzı dedikodulara benziyor. Bu olgu psikolojide “yanıltıcı doğruluk etkisi” olarak tanımlanıyor; yanlış bilgi yeterince tekrar edilirse doğruymuş gibi algılanıyor. İnsan tarihi efsaneler ve mitlerle dolu, ancak fark şu ki yapay zekalar bu süreci insanlardan milyonlarca kez daha hızlı yürütüyor. Her sorgu, yeni bir “dijital efsane” yaratma potansiyeline sahip.
The Guardian, bazı grupların bu durumu kasıtlı biçimde kullandığını ve yapay zeka sistemlerini sahte bilgilerle yönlendirmeye çalıştığını aktardı. Hedef, bu yanlışların zaman içinde yapay zeka modelleri tarafından gerçek bilgi gibi tekrarlanması. 2024’te Google Gemini’nin Çin Komünist Partisi’nin resmi anlatılarını yinelediği iddiaları da bu kaygıyı güçlendirmişti. Bu tür sorunların bir kısmı düzeltilmiş olsa da, bir yapay zekanın başka bir yapay zeka kaynağına dayanması yeni bir risk alanı oluşturuyor.
Genel tablo oldukça açık: Yapay zekalar artık yalnızca insanlardan değil, birbirlerinden de öğreniyor. Ancak bu öğrenme süreçleri denetlenmediğinde, bilgi üretimi giderek kopyanın kopyası haline dönüşebilir. O durumda şu sorunun yanıtı daha da önem kazanıyor:
Eğer yapay zeka başka bir yapay zekadan bilgi alıyorsa, gerçek bilgi nerede başlıyor, nerede bitiyor?
Yorum Yap