Teknolojinin hayatımızın her alanını ele geçirdiği bir dönemdeyiz. Ancak bu kez bedeli oldukça ağır oldu. Çin'in Anhui eyaletine bağlı Chuzhou şehrinde yaşanan olay, yapay zekanın her zaman doğru sonuç vermediğini acı bir tecrübeyle gözler önüne serdi.
Yapay Zeka Desteği Kabusa Döndü
67 yaşındaki deneyimli bir çiftçi, yaklaşık bir yıldır tarlasındaki işleri yönetmek için yapay zeka yazılımlarından faydalanıyordu. Gübrelemeden ekim takvimine kadar pek çok konuda yapay zekaya güvenen çiftçi, son olarak susam tarlasındaki yabani otlar ve zararlılarla mücadele etmek için yapay zekanın kapısını çaldı.
Yazılımın sunduğu reçeteyi hiçbir uzman kaynağa doğrulatmadan direkt uygulayan çiftçi, kısa süre içinde hayatının şokunu yaşadı. İlacın tarlaya püskürtülmesinin ardından, 25 dönümlük arazideki tüm filizler tamamen kuruyarak yok oldu.
Ziraat Uzmanlarından "Flufenaset" Uyarısı
Yaşanan felaketin ardından inceleme başlatan ziraat uzmanları, sorunun kökenini hızlıca tespit etti. Felakete sebep olan etken maddenin "flufenaset" adlı güçlü bir ot ilacı olduğu açıklandı. Uzmanlar, söz konusu kimyasalın bitki türüne göre son derece hassas oranlarda ve hedefli kullanılması gerektiğini, aksi takdirde bu tarz felaketlerin kaçınılmaz olduğunu vurguladı.
İşin en ilginç ve düşündürücü yanı ise yapay zeka uygulamasının arayüzünde zaten bir uyarının bulunmasıydı. Yazılım ekranında açıkça "Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın" ibaresinin yer aldığı, ancak kullanıcıların bu tür uyarılara genellikle dikkat etmediği bir kez daha kanıtlandı.
Sadece Tarım Değil, Sağlık Da Tehlikede
Yapay zeka modellerinin yanıltıcı ve hatalı yönlendirmeleri yalnızca tarım sektörünü değil, insan sağlığını da doğrudan tehdit ediyor.
Geçtiğimiz yıl yaşanan benzer bir olayda, bir kullanıcı yapay zekanın "sofra tuzunu kesin" tavsiyesini yanlış yorumlayarak gıdalarına sodyum bromür eklemeye başlamıştı. Üç ay boyunca bu tehlikeli kimyasalı tüketen talihsiz vatandaş, brom zehirlenmesi teşhisiyle hastaneye kaldırılmış ve uzun süre psikoz tedavisi görmek zorunda kalmıştı.
Annals of Internal Medicine dergisinde yayımlanan kapsamlı bir incelemede de bu duruma dikkat çekildi. Araştırmacılar, yapay zeka uygulamalarının bilimsel açıdan tamamen yanlış ve uydurma bilgiler üretebileceğini, kontrolsüz bilgi kirliliğinin ölümcül sonuçlar doğurabileceğini belirtti.
