İnternetin doğuşu ile birlikte ödevlerini internet üzerinden buldukları insanlara yaptıranları duymaya başlamıştık. Ama bugünlerde ona da gerek kalmadı, Yapay Zeka ile ödev yapmak mümkün. Hatta anlaşılan 290 bin $’lık Profesyonel Rapor bile yapay zekaya yaptırılabiliyor.
Aralık 2024’te, Avustralya İstihdam ve İşyeri İlişkileri Bakanlığı (DEWR), Deloitte Avustralya’yı Hedefli Uyumluluk Çerçevesi (TCF) ve altta yatan BT sistemi için bir güvence incelemesi yapması için görevlendirdi. Raporun amacı, sistemin iş arayanları nasıl cevaplamadığı ve refah kurallarına ve yasal düzenlemelere uyumu denetlemekti. Sözleşme bedeli 440.000 Avustralya Doları (≈ 290.000 ABD Doları) idi ve rapor Temmuz 2025’te yayınlandı.
Yayınlanmasından kısa bir süre sonra eleştirmenler ve akademisyenler ciddi endişelerini dile getirdiler. Çünkü raporda olmayan, uydurma alıntılar, referanslar, yanlış atıflar, dipnot ve kaynak hataları vardı. Raporda atıfta bulunulan bazı akademik makaleler mevcut değildi. Raporda, uydurulmuş gibi görünen bir Federal Mahkeme kararından olduğu iddia edilen bir alıntı yer alıyordu. Birden fazla dipnot yanlıştı, atıf satırları tutarsızdı veya izlenemiyordu.
Bu tutarsızlıklar, Sidney Üniversitesi’nde refah hukuku alanında akademisyen olan Chris Rudge‘ın incelemesine yol açtı ve hataları ve tutarsızlıkları kamuoyuna duyurdu.
Deloitte daha sonra raporun hazırlanması sırasında üretken yapay zeka araçlarını (Azure OpenAI GPT-4o) kullandığını kabul etti. Araç, DEWR tarafından lisanslanmış ve müşterinin Azure kira sözleşmesinde barındırılıyordu. Raporun hemen düzeltilmiş bir sürümünü yayınladılar. Bir düzineden fazla hayali referans kaldırıldı veya değiştirildi. Tipografik ve referans listesi sorunları düzeltildi. Ek olarak üretken yapay zeka kullanımına dair açık bir açıklama eklendi.
Deloitte, ücretinin son taksitini iade etmeyi (yani sözleşme kapsamında ödenen kısmın bir kısmını geri ödemeyi) kabul etti. Avustralya hükümeti (DEWR), referanslarda vb. düzeltmeler yapılmasına rağmen raporun esaslı bulgularının ve önerilerinin değişmediğini belirtti. Bazı temsilciler de, hükümet için hazırlanan bir raporda olmayan mahkeme kararının bile aktarılmasının ciddiyeti ve güven üzerindeki etkileri nedeniyle kısmi bir iadenin yeterli olmayacağı düşüncesinde.
Dava, danışmanlık, kamu hizmeti ve yönetişim çevrelerinde, sıkı bir insan denetimi olmadan yapay zekaya aşırı güvenmenin hatalara, halüsinasyonlara ve kötüye kullanıma davetiye çıkardığı yönündeki daha geniş endişeleri tetikledi.
Üretken yapay zeka modelleri olasılıkçıdır; gerçekçi görünen ancak olgusal temeli olmayan referanslar veya alıntılar da dahil olmak üzere makul metinler üretirler. Yüksek riskli durumlarda halüsinasyonlar ciddi hatalara yol açabilir. Danışmanlıklar ve profesyonel hizmetler, sorumluluk yükünü yapay zekaya devredemez. İnsan uzmanları, her türlü olgusal iddiayı, atıfı ve hukuki çıkarımı kontrol etmeli, doğrulamalı ve incelemeliydi.
Deloitte üstelik raporun ilk sunumunda, üretken yapay zekanın kullanıldığını da yazmamıştı. Bu şeffaflık eksikliği güveni zedelemiş durumda. Daha iyi uygulama, iş tanımlarında, sözleşmelerde ve kamuya açık teslimatlarda önceden açıklama yapılmasını gerektirir.
Bu tür hatalar mesleki sorumluluk risklerine yol açabilir. Sözleşme ihlali (teslimatın standartları karşılamaması) ve görevinde ihmal söz konusu.
Bu olay bütün dünyaya önemli bir ders oldu. Aynı zamanda Deloitte’in bu tür raporlarda saygınlığına da zarar geldi. Gelecekteki hükümet/kurumsal danışmanlık sözleşmeleri muhtemelen, işin hangi bölümlerinde yapay zeka kullanılabileceği, gerekli insan doğrulama standardı ve halüsinasyon sorumluluğu gibi maddeler içerecek.
Kaynak : 