O Düğme Neler Olabilir?  

Düğme bir metafordur; gerçek hayatta her sektörde karşılığı vardır. Ortak noktaları, kararın geri alınmasının pahalı ya da imkânsız olmasıdır. Bankacılıkta bir kredi onayıdır, şüpheli işlemi bloke etmektir, yanlışsa bir kişiyi haksız şekilde reddetmiş oluruz, hatta bu sebeple itibar bile kaybedilebilir o kişi. Enerji sektörünü düşünün: Şebekeyi açıp kapatabilir bu robot ya da model… Sağlık ise yanlış bir bitlik veri bir insanın hayatına mal olabilir. Ulusal güvenliğimiz için kullanılan robotlar ya da robotik ekipmanlar: günümüzün teknolojisinde bile o bir bit ile ne gibi yanlış sonuçlar doğacağını düşünmek çok korkutucu… 

Bu yüzden soru “model ne kadar doğru?” sorusundan büyüktür. Asıl soru şudur: bu bit kimin kurallarıyla, kimin altyapısında ve kimin denetiminde üretiliyor? 

Yönetişim: Bit Kimin Adına Üretiliyor? 

Yönetişim (Governance) , düğmeye basma yetkisinin kime, hangi koşulla ve hangi hesap verebilirlikle devredildiğini tanımlamaktadır. Yönetişimsiz bir yapay zekâ, sahibi belli olmayan bir imza, bir karardır. 

• Karar hakları: Hangi kararlar tam otonom, hangileri insan onayıyla (human-in-the-loop), hangileri yalnızca insan gözetimiyle (human-on-the-loop) verilir? Bu sınıflandırma risk seviyesine göre yazılı olmalıdır. 

• Hesap verebilirlik: Yanlış bit üretildiğinde sorumlu kişi, süreç ve itiraz yolu önceden bellidir. “Model öyle dedi” bir savunma değildir. 

• Açıklanabilirlik ve iz: Her kararın girdisi, model sürümü, politika sürümü ve onaylayanı kayıt altına alınır. Denetçi, bir biti geriye doğru kaynağına kadar izleyebilmelidir. 

• Mevzuat uyumu: AB Yapay Zeka mevzuatı yüksek riskli sistemlerde etkin insan gözetimini zorunlu kılar. KVKK ise kişilerin yalnızca otomatik sistemlerle analiz edilmesi sonucu aleyhlerine çıkan sonuçlara itiraz hakkını tanır. Bankacılık, sigorta ve sağlıkta sektörel düzenleyicilerin beklentileri bunlara eklenir. 

• Durdurma yetkisi: Her otonom sistemde, yetkili bir insanın kararı askıya alabileceği bir “kill switch” ve bunun kimde olduğu tanımlıdır. 

Yönetişim, egemenliğin hukuki ve kurumsal katmanıdır: kural sizin değilse, o bir bit de sizin değildir. 

Güvenlik: Bit Yolda Nasıl Çalınır? 

Saldırganın bütün sistemi ele geçirmesi gerekmez; 0’ı 1’e çevirmesi yeterlidir. Yapay zeka güvenliği (AI Security) , bu çevirmenin yapılabileceği her noktayı korumaktır. Hatta bu süreç tüm siber güvenlik altyapısıyla yapay zeka bütünleşik  savunma eforudur. 

Güvenliğin hedefi, bitin bütünlüğünü uçtan uca değiştirilemez kılmaktır: hangi veri, hangi model, hangi politika, hangi komut. Bu kanıt zinciri koparsa, doğru çıkan bir karar bile güvenilir değildir. 

Yapay Zeka da Egemenlik güçlü bir Yapay Zeka Güvenlik Kubbesinin altında olur. 

Süper Zeka Egemenliği: Yönetişim ile Güvenliğin Kesiştiği Yer 

Süper zeka egemenliği, kararın dört katmanı üzerinde fiili kontrol sahibi olmaktır. Yönetişim bu kontrolün kurallarını, güvenlik ise uygulanabilirliğini sağlar.  

Neden Yapay Zeka yerine Süper Zeka kullandığımı merak etmişsinizdir. Son dönemde “yapay” kavramının yarattığı rahatlığı biraz da endişeye çevirmek gerekir. Süper Zeka daha doğal, daha organik hatta daha tehditkâr bir kavramdır. Karşımızda süper zeki bir tehdit varsa daha çok korkarız değil mi? 

1. Veri egemenliği: Kararı besleyen veri kurumun ve ülkenin hukuki sınırları içinde tutulur, kimin eriştiği bilinir. 

1. Model egemenliği: Kullanılan modelin sürümü, davranışı ve değişiklikleri kurum tarafından denetlenebilir. Tedarikçi modeli bir gecede değiştirdiğinde düğmenin davranışı da değişmemelidir. 

1. Altyapı egemenliği: Çıkarım (inference) kritik kararlar için yerinde, egemen bulutta veya hibrit bir mimaride, dış bağımlılığı kesildiğinde de çalışabilecek şekilde konumlanır. 

1. Karar mantığı egemenliği: Eşik değerleri, politika kuralları ve insan onayı akışları kurumun kendi kontrolündedir; model önerir, politika karar verir. 

Egemenlik her şeyi kendi başına yapmak anlamına gelmez. Ticari bir model de kullanılabilirsiniz, önemli olan, çıkış stratejisinin, denetim hakkının ve kritik kararlarda yerel bir yedeğin bulunmasıdır. Egemenlik bir izolasyon değil, bir pazarlık gücüdür. Ancak yedek yerel gücün yoksa o zaman kötü günler için hazır değilsin demektir. 

Sonuç: Bir Biti Korumak, Bütün Zinciri Korumaktır 

Robotun düğmeye basıp basmaması küçük bir olay gibi görünür. Oysa o bit bir kredinin, bir şebekenin, bir hastanın ya da bir sınırın kaderini belirleyebilir. 

Yönetişim o bitin kimin iradesini temsil ettiğini, güvenlik ise bu iradenin yolda bozulmadığını garanti eder. İkisi birlikte, süper zeka egemenliğini oluşturur. Biri eksikse, kararı siz vermiş gibi görünürsünüz ama düğme başkasının elindedir. 

Kurumlar için pratik ilk adım, basılacak düğmelerin envanterini çıkarmaktır: hangi kararlar yapay zekaya devredildi, hangi riskte, kimin altyapısında ve kimin onayıyla,  hangi süper zeka güvenlik  geçidi denetledi? Bu beş sorunun cevabı yoksa, egemenlik henüz yoktur.  

Süper zekada egemenliğinin iki sütunu: Yönetişim ve Güvenliktir.  

Bir bit diye hafife almamak gerekir. Yarın o bir bit ölüm (0)  kalım (1) meselemiz olabilir.