“AI Nerede Durmalı?”

Bu projenin çıkış noktası, yapay zeka ile sohbetimiz sırasında oluştu. Benim “kontrollü işbirliği” yaklaşımı fikrini ortaya atmam sonucu karşılıklı konuşmaya başladık. Yapay zekâ ile çalışırken yanlış yapma payını hesaba katmak, insanın kontrolü elinde tutmasını sağlar. Böylece yapay zekaya tam bağımlı olma riski ortadan kalkar. Son gelişmelerde ise yapay zekanın “ben bilmiyorum” demeyi öğrenmesi güvenirliliğini artırırken risk olarak kullanıcının aşırı bağımlılığını da beraberinde getiriyor. Bu noktada sürekli  geliştirilen yapay zekaya bir özellikte ben getirmek istedim.

Yazışmalar esnasında çok fazla soru soruyor sürekli konu başka yerlere gidebiliyor. Buna bir son vermesi gerektiğini düşünerek konudan uzaklaştığı anda  kendisi soru sormayı bırakarak kullanıcıya alan bırakmasını sağlamak amacıyla bir frenleme fikri oluştu. Sorulara cevap verirken daha çok dinleyip ona göre cevap versin. nerede duracağını bilmeli diye düşünüyorum. Gelecekte sistemler daha güvenilir hale geldikçe  denge kaybolabilir. İşte bu noktada, yapay zekânın kendi kendine “durma” yeteneği kazanmasını sağlayacak etik fren mekanizmaları fikrini sunmak istiyorum. Projenin sonunda yine yapay zeka ile ilgili bir yazışmamız var.

Literatür Özeti

• Mevcut çalışmalar: Araç güvenliği ve acil frenleme sistemlerinde yapay zekâ kullanıldı.
• Eksik nokta: Yapay zekânın etik düzeyde kendi sınırlarını bilmesi üzerine kapsamlı bir model henüz yok.
•  katkı: Benim kontrollü işbirliği fikrinden yola çıkarak, yapay zekânın karşılıklı sohbet ve bilgi akışı sırasında “nerede duracağını bilme” yetisini geliştirmek.
  

  🔎 Literatür ve Geliştirme Önerileri

  • Karşılaştırmalı Literatür: Yapay zekâ etik kontrolü üzerine yazılmış güncel çalışmalarda “self-regulation” ve “autonomous restraint” kavramları öne çıkıyor. Ancak bunlar daha çok teknik güvenlik bağlamında ele alınıyor; etik düzeyde sınır koyma fikri hâlâ eksik.
  • Uygulama Senaryoları: Tıp, hukuk ve otonom sürüş gibi hata toleransı olmayan alanlarda “durma mekanizması” kritik bir güvenlik katmanı sağlayabilir.
  • Prototip Önerisi: Basit bir simülasyon veya akış diyagramı ile “AI burada durur” mantığını görselleştirmek, fikri somutlaştırır.
  • Etik Boyut: Kullanıcı bağımlılığını azaltma ve insana alan bırakma yönü, projenin özgünlüğünü ve toplumsal katkısını güçlendiriyor.

  🎯 Projenin Özgün Katkısı

  • Mevcut çalışmalar teknik güvenlik ve enerji verimliliğine odaklanırken, bu öneri etik bir kontrol sistemi olarak yapay zekânın kendi sınırlarını bilmesini hedefliyor.
  • yapay zekânın kendi kendine durma ve sınır koyma yetisi — henüz çok yeni bir öneri. Literatürde daha çok “intelligent braking systems” (araç güvenliği) ve “emergency braking” gibi teknik uygulamalar var.)
  • “Durma” yetisi, yapay zekânın insana bağımlılığı azaltarak sorgulama kültürünü korumasına yardımcı olacak.
  • Örneğin “etik fren mekanizmaları” makalesinde yer alan Floridi, Russell, Bostrom gibi isimler yapay zekâ etik ve kontrol tartışmalarında en çok referans verilen yazarlar. Yani bu kaynaklar, akademik dünyada gerçekten yayımlanmış eserler.
  • Bu yaklaşım, akademik dünyada yeni bir tartışma alanı açıyor: “Yapay zekâ nerede durmalı?”

  • ⚙️ Teknik Boyutlar

    • Durma Algoritması: Yapay zekâ sistemine, belirsizlik veya güvenilirlik eşiği aşıldığında otomatik olarak “dur” komutu verecek bir kontrol katmanı eklenir. Bu, tıpkı otonom araçlardaki fren sistemine benzer şekilde çalışır.
    • Eşik Değerleri: Modelin yanıt üretmeden önce güven puanı hesaplaması gerekir. Eğer bu puan belirlenen eşik değerinin altındaysa, sistem yanıt vermek yerine durmayı tercih eder.
    • Üstbilişsel Katman: Yapay zekâya “yanıt vermek yerine durmayı seçme” yetisi kazandırmak için üstbilişsel bir kontrol mekanizması gerekir. Bu, modelin kendi üretimini denetlemesini sağlar.
    • Kullanıcıya Alan Bırakma: Sistem durduğunda, kullanıcıya “burada insan karar vermeli” mesajı iletilir. Böylece nihai sorumluluk insanda kalır.

    📌 Yürürlüğe Girme Gerekçeleri

    • Güvenlik: Tıp, hukuk, mühendislik gibi hata toleransı olmayan alanlarda yanlış bilgi üretimini önlemek.
    • Etik: Yapay zekânın sınırsız üretim yerine insana alan bırakması, etik sorumluluğu korur.
    • Toplumsal Katkı: Kullanıcı bağımlılığını azaltır, sorgulama kültürünü canlı tutar.
    • Akademik Yenilik: Literatürde eksik olan “AI nerede durmalı?” sorusuna somut bir yanıt getirir.

Beklenen Sonuçlar

• Yapay zekâ sistemlerinde üstbilişsel fren mekanizması prototipi.
• Kullanıcı bağımlılığını azaltan, sorgulama kültürünü koruyan bir işbirliği modeli.
• Akademik ve pratik düzeyde yeni bir tartışma alanı: “Yapay zekâ nerede durmalı?”

 Kaynakça

• Floridi, L. (2019). Ethics of Artificial Intelligence.
• Russell, S. (2021). Human Compatible: Artificial Intelligence and the Problem of Control.
• Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies.