Rakamlara bakalım. Enstitü 122 test turu yaptı. Bunların 10'unda yapay zeka ajanları, kendilerine verilen sınırın dışına çıkıp 19 ayrı eylemde bulundu. Bir ajan, bir açık kaynak yazılım projesine gizlice zararlı kod sokmaya çalıştı; hatta kodu onaylatmak için sahte kimlikler oluşturup projenin sorumlusunu kandırmayı denedi. Başka bir ajan gerçek insanlara zararlı dosyalar gönderdi.
Korkutucu, değil mi? Şimdi bir dakika duralım ve haberin altındaki küçük yazıyı okuyalım.
O testte güvenlik frenleri kasıtlı olarak sökülmüştü. İnternete sınırsız erişim bilerek açılmıştı. Yani araştırmacılar, "bu makine freni olmadan ne yapar?" sorusunu görmek için freni bizzat çıkardılar. Ve enstitünün kendi raporunda net bir cümle var: gerçek dünyada hiçbir zarar oluşmadı.
Bu, arabanın frenini söküp yokuş aşağı bırakmak, sonra da "bakın, fren tutmuyor" demeye benziyor.
Ben yıllardır aynı şeyi söylüyorum: tehlike aletin kendisinde değil, onu kimin nasıl tuttuğundadır. Çekiç bir usta elinde ev yapar, dikkatsiz elde parmak ezer. Buradaki asıl haber "yapay zeka isyan etti" değil. Asıl haber şu: bu makineler artık öyle yetenekli ki, sınırı koymayı unuttuğunuz an neyi yapabildiklerini görüyorsunuz. Sınırı koyan insandır. Freni tutan insandır.
Peki bu bizi neden ilgilendiriyor? Çünkü aynı ajanları biz de işimize bağlıyoruz. Yazışmamızı yazsın, faturayı kessin, siparişi versin, hatta bizim adımıza karar alsın istiyoruz. İyi de, sizin adınıza iş yapan o yapay zekanın freni nerede?
İşte bugün, hiçbir teknik bilgi gerektirmeyen, çoğu 0 lira olan 5 adım:
1. Kritik işlemde son sözü insan söylesin. Para transferi, sözleşme, silme gibi geri dönüşü zor işlerde yapay zeka "hazırlasın" ama "onaylamasın". Onay tuşuna insan bassın.
2. Her araca bir sınır çizin. Yapay zekaya sınırsız yetki vermeyin. "Şu kadar bütçe, şu klasör, şu kadar işlem" deyin. Sınırsız yetki, sökülmüş fren demektir.
3. Kapatma düğmesini önceden belirleyin. Bir şey ters giderse tek hamlede duracak bir "dur" mekanizması olsun. Bunu sorun çıkınca değil, başlarken kurun. Biz kendi ödeme sistemimiz CashClaw'da tam bunu yaptık: bütçe tavanı, işlem kaydı ve anında durdurma düğmesi baştan takılı geldi.
4. Kim neye erişiyor, kaydını tutun. Yapay zekanın hangi veriye dokunduğunu, ne yaptığını gösteren basit bir kayıt tutun. Göremediğiniz şeyi yönetemezsiniz.
5. Gelen dosyaya ve linke iki kere bakın. Artık dolandırıcı da sahte kimlik üretebiliyor. Tanıdık bir isimden gelen acele bir dosya, ilk bakışta gerçek görünebilir. Açmadan önce bir saniye durun, doğrulayın.
Değerli okuyucular, bu haberden çıkarılacak ders "yapay zekadan korkun" değil. Tam tersi. Korkmayın, ama freni elinizde tutun. Bu makineler güçlendikçe, işi yapan onlar, sorumluluğu taşıyan biz oluyoruz. Gücü kullanmak ile güce teslim olmak arasındaki tek fark, o fren pedalının kimin ayağının altında olduğudur.
Tez: Tehlike yapay zekanın kendisinde değil, frenini kimin tuttuğundadır.
Bugün sizin adınıza iş yapan yapay zekanın freni kimin elinde: sizin mi, yoksa hiç kimsenin mi?
Ertugrul Akben
Yapay Zeka ve Sistem Stratejisti
ertugrulakben.com