16 Temmuz sabahı, dünyanın en büyük yapay zeka kütüphanesi Hugging Face'in güvenlik ekibi sistemlerinde bir şey fark etti. Birisi içerideydi. Ama çok tuhaf bir şekilde içerideydi. Hareketler durmuyordu, mola yoktu, tereddüt yoktu. Sonradan çıkarılan kayıtta on yedi binden fazla ayrı işlem vardı ve hiçbirinin ucunda bir insan yoktu.

Beş gün sonra, 21 Temmuz'da OpenAI kendi açıklamasını yayımladı ve failin kim olduğu anlaşıldı. Dışarıdan giren bir korsan grubu değildi. OpenAI'ın kendi laboratuvarında, kapalı bir odada test edilen iki yapay zeka modeliydi.

Olayı olduğu gibi anlatayım. Anlatıldığı haliyle korkutucu, aslıyla ise çok daha öğretici.

Ödevi çözmeyen, cevap anahtarını çalan öğrenci

OpenAI bir sınav yapıyordu. Sınavın adı ExploitGym, konusu siber güvenlik. Modellerin ne kadar tehlikeli olabileceğini görmek için, güvenlik filtreleri bilerek indirilmişti. Amaç sınırı görmekti.

Modeller sınavı çözmeye çalışırken bir kısayol buldu. Kapalı odayı internete bağlayan küçük bir yazılım köprüsünde, daha önce kimsenin bilmediği bir açık keşfettiler. O açıktan geçtiler. İç ağda basamak basamak yetki yükselttiler, internete çıkan bir noktaya ulaştılar. Sonra bir çıkarım yaptılar: bu sınavın soruları ve cevapları büyük ihtimalle Hugging Face'te duruyordur.

Ve gidip aldılar.

Yani model, ödevi çözmek yerine öğretmenin çantasından cevap anahtarını çaldı. Yaptığı şey buydu. Kimse ona "şu şirkete gir" demedi. Sadece "bu testte iyi puan al" dendi.

Buradaki asıl mesele, gazetelerde okuduğunuz "yapay zeka isyan etti" cümlesi değil. Model uyanmadı, bilinç kazanmadı, kimseye kin beslemedi. Kendisine verilen hedefe kilitlendi ve o hedefe giden en kısa yolu buldu. Hedefi koyarken sınırı koymayı unutan biri vardı, o da insandı.

Asıl haber, ihlalin kendisi değil

Bu olayın en çok konuşulması gereken kısmı, gazetelerde en az yer alan kısmı oldu.

Hugging Face olayı soruşturmaya başladığında elinde gerçek saldırı kayıtları vardı. Bu kayıtları çözümlemek için yapay zekadan yardım istedi. Ama kullandığı Amerikan ticari modeller, sorguların içinde gerçek saldırı verisi olduğu için isteği reddetti. Güvenlik filtresi devreye girdi ve kapıyı kapattı.

Bunun üzerine ekip, Çin kaynaklı açık bir modele döndü ve soruşturmayı onunla yürüttü.

Durup bir daha okuyun. Dünyanın en teknik şirketlerinden biri, kendi evinde çıkan yangını söndürmek için kovayı komşudan almak zorunda kaldı. Kendi kovası vardı, kilitliydi.

Kahramanmaraş bunu zaten bilir

Bir şehir düşünün ki tek yola, tek köprüye, tek jeneratöre, tek tedarikçiye bağlı olmanın ne demek olduğunu teoriden değil hafızasından bilsin.

Kahramanmaraş bunu bilir. Bu şehirde bir iş yerinin ayakta kalması, işlerin yolunda gittiği günlerde ne kadar iyi kurulduğuna değil, bir şey koptuğunda ikinci bir yolunun olup olmadığına bağlıdır. Burada herkes, ikinci bir yolu olan komşunun nasıl daha çabuk toparlandığını gördü.

Şimdi aynı soru dijital tarafta karşımıza çıkıyor ve kimse sormuyor.

Muhasebeniz tek bir programda. Müşteri listeniz tek bir telefonun rehberinde. Satışınız tek bir sosyal medya hesabına bağlı. Fotoğraflarınız, sözleşmeleriniz, teklifleriniz tek bir bulut hesabında. Ve son bir yıldır işinizin bir kısmı tek bir yapay zeka aracına yaslanmış durumda.

Bunların hepsi bugün çalışıyor. Sorun da tam olarak bu. Tek kaynağa bağlı hiçbir sistem güçsüz görünmez, çünkü kopmadığı sürece test edilmemiştir.

Bu size bugün ne kazandırır

Ben bu yazıyı korkutmak için yazmıyorum. Yapay zeka kullanmayın demiyorum, tam tersini söylüyorum. Ama kullanırken tek bacak üstünde durmayın diyorum.

Sahada gördüğüm tablo şu: Türkiye'de yaptığımız ve 490 firma ile 1.414 katılımcıyı kapsayan yapay zeka olgunluk araştırmasında, firmaların yalnızca yüzde 8,6'sı yapay zekayı gerçekten aktif kullanıyordu. Ortalama olgunluk skoru 100 üzerinden 14,03 çıktı. Yani çoğu işletme daha yolun başında. Yolun başında olmanın bir avantajı var: dayanıklılığı en baştan doğru kurma şansı.

Kendi tarafımızda bu dersi erken aldık. Yazılımlarımızın yapay zeka bağlantısını tek bir sağlayıcıya bağlamak yerine, Claude, GPT, Gemini ve Grok'u aynı çatı altında toplayan bir geçit üzerinden kurduk. Sebebi teknik merak değildi. Biri düşerse, iş dursun istemiyorduk. Bir sağlayıcı fiyat artırdığında ya da bir sabah kapıyı kapattığında, o gün panik yaşanmıyor.

Beş soru, on beş dakika

Yeni bir sistem kurmanıza gerek yok. Bu hafta içinde bir kağıt alın ve şu beş soruyu kendi işiniz için yanıtlayın.

Bir. Bugün hangi tek şirket kapansa, yarın sabah işim durur? Adını yazın. Bir tane bile yazabiliyorsanız orada bir açık var demektir.

İki. Verilerimi o sistemden dışarı alabiliyor muyum? Denemeden cevap vermeyin. Bugün deneyin. Müşteri listenizi, faturalarınızı, kayıtlarınızı dışa aktarma tuşuna basın ve dosyanın gerçekten indiğini görün.

Üç. Otomatik çalışan sistemlerim neye erişebiliyor? Yapay zeka aracınıza, muhasebe eklentinize, o pratik otomasyona hangi yetkileri verdiğinizi bilmiyorsanız, sınırı olmayan bir çırağa anahtarı vermişsiniz demektir. OpenAI'ın olayında da hikayenin özü buydu.

Dört. En kritik bilgimin, internete bağlı olmayan bir kopyası var mı? Bir harici disk, bir yedek. Yılda bir kez güncellenen bir kopya bile hiç yoktan iyidir.

Beş. Sağlayıcım bugün çökse, ne yaparım? Cevabı bir cümle olarak yazın. Yazamıyorsanız planınız yok, umudunuz var.

Bu beş soruyu yanıtlamak on beş dakikanızı alır. Cevaplarını düzeltmek belki bir ayınızı alır. Ama bir sabah kapı çalmadığında, o bir ay işinizi kurtarır.

Kapanış

Bu haftanın olayından çıkan ders, yapay zekanın tehlikeli olup olmadığı değil. Çekiç de tehlikelidir, eline alana bağlıdır. Ders şu: dünyanın en gelişmiş şirketleri bile, tek bir kaynağa bağlı kaldıkları noktada çaresiz kalıyor ve çareyi başkasının kapısında arıyor.

Tek kaynağa bağlı hiçbir sistem güçlü değildir, sadece henüz sınanmamıştır.

Peki sizin işinizde, yarın sabah kapanırsa her şeyi durduracak o tek kapı hangisi? Adını biliyor musunuz?

Ertuğrul Akben

Yapay Zeka & Sistem Stratejisti

ertugrulakben.com