Deloitte, Yapay Zekâ ile Hazırladığı Raporun Bedelini Ödüyor
Avustralya’da Deloitte’un hazırladığı 237 sayfalık bir kamu raporu, yapay zekâ kullanımında insan denetiminin neden hâlâ vazgeçilmez olduğunu gösteren somut bir örnek haline geldi.
İstihdam ve İş İlişkileri Bakanlığı için hazırlanan rapor, Temmuz ayında yayımlandıktan kısa süre sonra akademik çevrelerin radarına girdi. Sidney Üniversitesi’nden Dr. Chris Rudge, belgede yer alan bazı atıfların tamamen uydurma olduğunu fark etti.
Bir yargıca aitmiş gibi gösterilen sahte bir alıntı ve gerçekte var olmayan bir akademisyene atfedilen kitap, incelemenin en çarpıcı bulguları arasındaydı. Rudge’ın tespitleri, yaklaşık 20 yanlış referansın bulunduğunu ortaya koydu. Bu hatalar, bir danışmanlık raporundan çok, kaynak doğrulaması yapılmamış bir otomatik metin çıktısını andırıyordu.
Hukuk ve kamu yönetimi uzmanları, olayın yalnızca bir “teknik hata” değil, kamu politikasını etkileyebilecek düzeyde bir yanlış beyan olduğunu vurguladı. Çünkü söz konusu belge, hükümetin istihdam politikalarına yön verebilecek bir resmi çalışma niteliği taşıyordu.
Bakanlık gelen eleştiriler üzerine süreci yeniden değerlendirdi.
Sonuçta Deloitte, hatalı referansların varlığını kabul ederek sözleşmedeki ödemenin bir kısmını iade etmeyi kabul etti. Güncellenmiş sürümde, sahte kaynaklara yapılan atıflar kaldırıldı, dipnotlar düzeltildi ve en önemlisi, raporun hazırlanış sürecine dair yeni bir detay eklendi: Microsoft Azure OpenAI GPT-4o teknolojisinin kullanıldığı bilgisi.
Bu ifade, danışmanlık sektöründe yapay zekâ destekli üretim süreçlerinin nerede destek, nerede risk haline geldiği sorusunu yeniden gündeme taşıdı.
Avustralya Parlamentosu’nda konuyu gündeme getiren Yeşiller Partisi Senatörü Barbara Pocock, Deloitte’un yalnızca bir kısmı değil, tüm 440 bin Avustralya Doları iade etmesi gerektiğini savundu. Pocock’a göre “bir yargıcı yanlış alıntılamak ya da var olmayan kaynaklar üretmek, en temel akademik etik kurallarının dahi ihlaliydi.”
Deloitte ise yaptığı kısa açıklamada, “konunun müşteriyle çözüme kavuşturulduğunu” belirtti ancak hataların doğrudan yapay zekâ kaynaklı olup olmadığına dair net bir açıklama yapmadı.
Yapay Zekâ Halüsinasyonları
Bu olay, gerçek dışı içerik üretimi probleminin, artık yalnızca sosyal medya ya da içerik üretimi değil, kurumsal danışmanlık ve kamu yönetimi gibi kritik alanları da etkilediğini gösteriyor.
Uzmanlar, benzer durumların önüne geçmek için özellikle hukuk, denetim ve kamu politikası gibi alanlarda AI destekli çalışmaların insan gözetimi olmadan yayımlanmamasını, her yapay zekâ kullanımının da etik beyan zorunluluğuna tabi tutulmasını öneriyor.
Bu vakayla birlikte Avustralya kamuoyunda, gelecekte yapılacak danışmanlık sözleşmelerinde “yapay zekâ kullanım şartları, doğrulama protokolleri ve sorumluluk sınırları” konularının daha sıkı şekilde düzenlenmesi bekleniyor.