Toby Walsh- The Guardian I Otonom silahlar, kitle imha silahları ile birlikte insanları tamamen ortadan kaldıracaktır. Ama bu savaşta üçüncü bir devrimi önleyebiliriz.
Sarah Connor gibi, ben de 1965 yılında doğdum. Ama Sarah Connor’ın aksine, dünyayı katil robotlardan kurtarmayı planlamıyorum. Çünkü bu hepimizin yapması gereken bir görev.
Bunu nasıl yapacağımızı bilmek için, zaman yolculuğu yapmamız gerekmiyor ya da herhangi bir roket bilimini öğrenmemiz. Bunu yapmak için, sadece kimin yaşadığına veya öldüğüne karar veren makinelerin ahlaki açıdan kabul edilemez olduğunu kabul etmek zorundayız.
Sözünü ettiğim katil robotlar, T101 Terminator robotları değil. En çok endişelendiğim şey aptal yapay zeka robotları. Onlar sadece birkaç yıl uzakta ve çok daha basit teknolojiye sahipler. Afganistan ya da Irak’ın göklerinde gördüğümüz dronları düşünün. Bunlar sadece yarı özerk silahlardır. Böyle bir dron, çoğu zaman kendini uçurabilir; ancak bir asker hâlâ Hellfire füzesini ateşlemek için son bir kez düşünür ve ölümüne karar vermeye çalışır.
Bununla birlikte, bu askerin bir bilgisayar sistemi ile değiştirilmesi için küçük bir teknik değişiklik yeterli olacaktır. İngiltere Savunma Bakanlığı, bugün, bunun mümkün olduğunu iddia ediyor. Katılıyorum. Ve bana göre; BAE Sistem Taranis drone, birkaç yıl boyunca uçmakta olan bu geleceğin bir prototipidir.
O zaman katil robotlarla dolu bir geleceği nasıl önleriz?
Tam otonom bir drone’a dönüşen teknolojiler icat edilecek. Özerk otomobillere giden, hemen hemen aynı teknolojilerdir. Yayaları tanımlayan, izleyen ve önleyen bir algoritma; savaşçıları tanımlamak, izlemek ve hedeflemek için kolaylıkla değiştirilebilir.
Ve nükleer silahlardan farklı olarak, özerk silahlar, ucuz ve nihayetinde çok etkili silahlar olacak. Dünyanın silah şirketleri; yeni çatışmalar yaratıp, çatışan iki tarafa da özerk silahlar satarak ölüm pazarını yönetecektir.
Ucuz, etkili ve kolay ulaşılabilir.
Bunu yasaklamak en iyi çözüm gibi geliyor. Ancak, umutlu olabileceğimizi gösteren tarihsel emsaller var.
Kimyasal silahlar, kendi kendini idare eden silahlar gibi kolay üretilir. Özerk silahlar gibi, kimyasal silahlar da yaygın olarak mevcut ve yasaklanması imkânsız olan teknolojileri kullanır.
Şimdi, kimyayı yasaklamamamıza rağmen kimyasal silahları yasakladık. Ve bazen kimyasal silahlar kullanılsa dahi, silah şirketleri kimyasal silah satabilseler dahi, kimyasal silahlarla birlikte dünyanın daha iyi bir yer olacağı iddiasında bulunulmuyor. Ya da despot yöneticiler, cezalandırılacaklarını bilmeseler ya da Lahey’de bu yaptıklarının muhakkak bir gün cezalandırılacağını düşünmeseler, halklarına karşı kimyasal saldırılar gerçekleştirebilirler.
Tam olarak, katil robotlarla dolu bir geleceği nasıl önleyeceğiz. Makinelerin hayat veya ölüm kararları vermesine izin vermenin ahlaki açıdan kabul edilemez olduğunu kabul ediyoruz. Döngüde her zaman bir insan olması gerektiği konusunda ısrar ediyoruz. Tıpkı kimyasal silah kullanmanın ahlaki açıdan kabul edilemez olduğuna karar verdiğimiz gibi.
Silah şirketleri özerk silah üretemez olmalıdırlar. Bu şirketler, BM kara listesine girmelerini önleyen farklı ve kârlı faaliyetler içerisinde yer almayı tercih edeceklerdir. Sonuç olarak, otonom silahları ele geçirip kullanmak kolay değil. Ve insanlar onları kullanmadan önce tereddüt ederler.
İnsanları tamamen ortadan kaldıracak olan özerk silahlar, kitle imha silahlarına dönüşecektir. Bir programcı, öncelikle, bir tarafın insan ordusuna silahlarını satmayı başarabilecektir. Savaş sanayileşecektir. Bu yüzden, silahlar için barutun icadı ve nükleer silahların icadından sonra, bu durum savaşın üçüncü devrimi olarak adlandırılmıştır.
Üçüncü devrim savaşlarının silahları otonom robotlardır ya da otonom robotlar terör silahı olacaktır. Uluslararası insani hukuku takip edebilecek robotların nasıl yapıldığını henüz bilmiyoruz. Ve elimizden gelen en iyi insani hukuk programlarını yapsak bile, robotların yazılımlarındaki herhangi bir etik korumayı kaldıracak birçok kötü aktör, teröristler ve tekelci devlet var.
Otonom silahlar da mevcuttaki huzursuz dünya düzenini daha da istikrarsızlaştıracak. Artık güçlü bir orduyu sürdürmek için bir süper güç olmanız gerekmeyecek. Birkaç tane 3 boyutlu yazıcı ve mütevazı bir banka bakiyesi yeterli olacaktır.
Birisi sana saldırdığında, kim olduğunu bilmek çok zor olacak. Bir katil robot yakala. Onu aç. Tüm söyleyeceği şey “Intel Inside”. Bu sadece kötü niyetli olan insanları teşvik edecektir.
Bu hafta başlarında, katil robotların yasaklandığı bir dünyaya doğru küçük bir adım attık. Dünya çapında 30 ülkeden gelen AI ve robotik araştırmacılardan oluşan 50’den fazla meslektaşım ile birlikte, Güney Kore’de bulunan KAIST üniversitesine karşı boykot başlattık.
Boykot, KAIST’in, Birleşmiş Milletler Antlaşması’na imza atmayarak misket bombaları üretmeye devam ederek önemli ölçüde olumsuz bir imaja sahip olan Hanwha Systems ile yapılan işbirliğine önemli ölçüde bir cevap oldu. On yıl önce, Norveç’in gelecekteki fonu Hanwha’yı etik kara listeye aldı.
The Korea Times gazetesi, işbirliğinin amacının “insan kontrolünde olmadan hedeflerini yok edebilecek askeri silah teknolojisi geliştirmek” olduğunu duyurdu. Ayrıca, yapay zekanın kontrolünde insansız bir denizaltı gibi yeni projelerin bazılarını da haberinde duyurdu.
Bu, bir gecede sağlanan başarıydı. Bu boykot geleceğe yönelik açık bir emsal oldu. Umarım KAIST, önümüzdeki hafta BM’nin katil robotlar konusundaki toplantısında, Koreli yetkililerin de insani kontrol çağrısını duymasını sağlar. Böylesi küçük adımlar sonunda, otonom silahlar tamamen yasaklanacaktır.
Çeviri:@iznews
