Renk teması
Demo talep edin

Yapay zekânın cevabı nasıl doğrulanır? Kaynak, sayfa ve hesap

Yayın Güncelleme

Kısa cevap: yapay zekâ cevabını üç şeyle doğrularsınız. Kaynağı açıp cevapta yazanın orada gerçekten yazdığını görürsünüz; sayıları yapay zekâdan bağımsız bir araçta yeniden hesaplarsınız; metindeki her önemli cümleyi belgedeki karşılığıyla eşleştirirsiniz. Yapay zekâ bir raporu yazabilir, bir sözleşmeyi özetleyebilir, bir tabloyu toplayabilir, ama aynı akıcılıkla yanlış bir rakam ya da var olmayan bir madde de yazabilir. Bu rehber, doğrulamayı bir sözleşme özeti örneği üzerinden adım adım gösterir ve bunu bir ekip alışkanlığına çevirmenin yolunu anlatır.

Yapay zekâ neden yanılır?

NIST’in üretken yapay zekâ profili (Temmuz 2024), bu durumu “confabulation” olarak tanımlar: kullanıcıları yanıltabilen, kendinden emin biçimde söylenmiş ama yanlış ya da uydurma içerik; günlük dilde “halüsinasyon”. Profil, riskin kullanıcıların cevabın kendinden emin tonuna inanıp yanlış bilgiye dayanarak hareket etmesinden doğduğunu, karar almayı etkileyen uygulamalarda özellikle izlenmesi gerektiğini söyler.

Kişisel Verileri Koruma Kurumu’nun iş yerlerinde üretken yapay zekâ kullanımına ilişkin metni (5 Mart 2026) iki kavram daha verir. Biri halüsinasyon: gerçeklikle örtüşmeyen ama biçimsel olarak tutarlı ve ikna edici görünen içerik. Diğeri otomasyon ön yargısı: kullanıcıların otomatik sistemlerin çıktısını yeterince sorgulamadan doğru kabul etmesi ve kendi muhakemesini ikinci plana atması. Kurum, çıktılara nihai kararların dayanağı olarak yaklaşılmamasını, onların insan denetimi ve değerlendirmesi altında destekleyici unsurlar olarak ele alınmasını önerir.

Kaynak göstermek yetmez: kaynağı açıp bakmak

Birçok araç cevabın yanında bir kaynak gösterir. Bu iyi bir başlangıçtır, ama kanıt değildir. NIST’in profili, modellerin cevabı haklı gösteren uydurma mantık ve alıntı da üretebildiğini ve bunun kullanıcıları çıktıya yersiz güvene itebileceğini söyler; çıktıdaki kaynak ve alıntıların gözden geçirilmesini önlemler arasında sayar. Kural basit: kaynağı açın ve cevapta yazanın kaynakta gerçekten yazdığını görün.

Örnek: bir sözleşme özetinin doğrulanması

Yapay zekâya kurgusal bir tedarik sözleşmesinin özetini yazdırdığınızı düşünün. Özet üç şey söylüyor. Doğrulama, her cümlenin sözleşmedeki karşılığını bulup karşılaştırmaktır:

Özetteki cümle Sözleşmede yazan (kurgusal) Sonuç
Sözleşme iki yıl sürer. Madde 3.1: süre, yürürlük tarihinden itibaren iki yıldır Doğru
Süre sonunda kendiliğinden yenilenir. Madde 3.2: bildirim yapılmazsa sözleşme birer yıllık dönemler için yenilenir Eksik: yenileme yıllık dönemler için
Fesih için 30 gün önceden bildirim gerekir. Madde 12: fesih için 60 gün önceden yazılı bildirim gerekir Yanlış: süre 60 gün

Adımlar:

  1. Özeti iddialara ayırın: süre, otomatik yenileme, fesih bildirim süresi.
  2. Her iddia için sözleşmede ilgili maddeyi bulun ve cümleyi okuyun.
  3. Farkı not edin: doğru, eksik ya da yanlış. “30 gün” de bir rakamdır; sayıları sayı gibi doğrulayın.
  4. Özeti düzeltin ve her iddianın yanına dayandığı maddeyi yazın.

Bu örnekteki üç hata türü gerçek işlerde de görülür: doğru bir cümle, bağlamı eksik bir cümle ve yanlış bir sayı. Yalnız ilkini fark ederek özeti onaylarsanız diğer ikisi kararınıza girer.

Sayılar için: yeniden hesaplama ve geri izleme

Sayısal bir cevabı üç adımda doğrulayın:

  1. Yeniden hesaplama. Toplamı, farkı ve oranı yapay zekâdan bağımsız bir araçta, örneğin bir elektronik tabloda, kendiniz hesaplayın.
  2. Geri izleme. Raporun rakamını, kaynak dosyadaki satırlara kadar izleyin: hangi dosya, hangi sütun, hangi satırlar?
  3. Mantık kontrolü. Alt toplamlar üst toplama eşit mi? Negatif çıkmaması gereken bir rakam negatif mi? Bir kalem beklenenden çok mu büyük ya da küçük?

Yapay zekâ hesabı bir kod çalıştırarak yapıyorsa, hangi dosyayı ve kaç satırı okuduğunu söylemesini isteyin; bu, geri izlemenin ilk adımıdır. Satış ve finans raporlarına özgü kontroller için satış raporu ve finansal rapor rehberlerine bakın.

Metin için: alıntıyı belgeyle eşleştirmek

Bir sözleşme özetini ya da bir politika cevabını doğrularken her önemli cümle için belgede karşılığını bulun. Üç şeye dikkat edin:

  • Doğrudan alıntı mı, çıkarım mı? Belgede yazan bir şeyle belgeden çıkarılan bir sonuç aynı değildir; ikincisi daha çok doğrulama ister.
  • Belge güncel mi? Cevap eski bir sürüme dayanıyor olabilir.
  • Bağlam eksik mi? Bir madde, istisnasından koparılarak aktarılmış olabilir.

“Belgede yok” diyebilen sistem

Güvenilir bir belge asistanı, cevap belgelerde yoksa bunu söyler ve kaynağı olmayan bir iddiayı yazmaz. Bunu kendiniz sınayabilirsiniz: belgelerde olmayan bir madde ya da olmayan bir kalem hakkında soru sorun. Sistem “bulamadım” diyorsa iyi; kendinden emin bir cevap uyduruyorsa o sisteme önemli işlerde güvenmeyin. Aynı sınamayı pilot aşamasında, gerçek belgelerinizle birkaç kez yapın.

Ekip için beş kural

  1. Yapay zekâ çıktısı bir taslaktır, karar değildir. Kararı bir insan verir ve sorumluluğu üstlenir.
  2. Kararı etkileyen her rakam, yeniden hesaplanır ya da kaynağıyla birlikte onaylanır.
  3. Kaynak gösteren bir cevapta, kaynak açılıp okunur.
  4. Yapay zekânın “bulamadım” demesi bir sorun değil, istenen davranıştır.
  5. Bulunan yanlışlar kaydedilir; bir araç belirli bir tür soruda yanılıyorsa herkes bunu bilir.

Doğrulama kontrol listesi

Ne doğrulanıyor Nasıl Kim
Rakam Başka bir araçta yeniden hesaplama, kaynağa geri izleme, mantık kontrolü Raporu hazırlayan
Alıntı Belgede aynı cümleyi bulma Cevabı kullanan
Çıkarım Belgedeki dayanak cümleyi okuma ve sonucu yeniden yazma Konuyu bilen
Güncellik Belgenin tarihi ve sürümü Belge sahibi
Eksik bağlam İstisnaları ve ilgili diğer maddeleri okuma Konuyu bilen

AURA’da nasıl çalışır?

AURA da bir yapay zekâ asistanıdır ve cevapları aynı şekilde doğrulanmalıdır. Bilgi tabanından gelen cevapta, model atıf yazdığında, dayanılan belge ve yer gösterilir; kaynağa tıklayınca sayfa (sayfası olmayan biçimlerde alıntılanan bölüm) açılır. Bulunmamış bir parçaya yapılan atıf cevaptan çıkarılır ve bu söylenir. Tablo hesabı ağı olmayan, yalıtılmış bir ortamda yapılır; sonuç sohbetin yanında açılır, her değişiklik yeni bir sürüm olur ve önceki sürümlere bakılabilir. Rapor sayfasını Word (DOCX) olarak indirebilir, kodun hazırladığı tabloları Excel ya da CSV dosyası olarak alabilirsiniz.

Ayrıntılar için şirket belgeleriyle yapay zekâ sayfasına bakabilir ya da demo isteyebilirsiniz.

Sık sorulan sorular

Yapay zekâ neden yanlış ama kendinden emin cevap verir?

Üretken yapay zekâ, kalıplara dayanarak akıcı ve ikna edici metin üretir; metnin doğru olduğunu kendiliğinden bilmez. NIST bu durumu, kullanıcıları yanıltabilen kendinden emin ama yanlış içerik anlamında "confabulation" olarak adlandırır.

Cevapta kaynak varsa doğru kabul edebilir miyim?

Hayır. Kaynak göstermek doğrulamayı kolaylaştırır ama kanıt değildir: NIST'in profiline göre modeller cevabı haklı gösteren uydurma alıntılar da üretebilir. Kaynağı açıp cevabın gerçekten orada yazıp yazmadığına bakın.

Yapay zekânın hesapladığı bir rakamı nasıl kontrol ederim?

Toplamı başka bir araçta yeniden hesaplayın, birkaç satırı kaynak dosyaya kadar izleyin ve alt toplamların üst toplama eşit olup olmadığına bakın.

Her cevabı doğrulamak zorunda mıyım?

Her şeyi doğrulamanız gerekmez; kararı etkileyen rakam ve cümleleri doğrularsınız. Düşük riskli bir taslak için hızlı bir göz atma yeterli olabilir, bir yönetim raporundaki rakam için yeniden hesaplama gerekir.

Kaynaklar

Bu yazıdaki dış bilgiler şu kaynaklara dayanır. Tarih, kaynağın yayın tarihidir; tarihsiz canlı bir belgede erişim tarihidir.

  1. İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı (duyuru; metnin tamamı duyuruya ekli belgededir)Yayımlayan: Kişisel Verileri Koruma Kurumu · Tarih:
  2. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)Yayımlayan: National Institute of Standards and Technology (NIST) · Tarih:

AURA’yı kendi belgelerinizle görün.

Demo talep edin