Bilişim Hukuku

Yapay Zeka, Otonom Silah Sistemleri ve Hukuk

Av. Burçak Ünsal

Robotların robotlarla savaşacağı günler belki gelecek mi? Belki değil, kesinlikle gelecek.

2017 senesinde yapay zekâ ve robotik teknolojileri ve endüstrileri üzerine çalışan, içlerinde hiç Türk olmayan, yüz şirketin genel müdürü Birleşmiş Milletler’e ortaklaşa imzaladıkları bir mektup sunarak, üzerinde çalıştıkları teknolojilerin yıkım getirecek silahlar haline döndürülerek savaşları da ebediyen değiştirebileceğine ilişkin dünyayı uyardı[1]. Altmıştan fazla sivil toplum örgütü otonom silah sistemlerinin yasaklanması için çağrıda bulundu.

Ancak bunların tamamen yasaklanması bence mümkün değildir. Mümkün olmadığı gibi aşağıda belirteceğim sebeplerle bunların yasaklanması için sunulan gerekçelerin oluşmaması için uluslararası düzenlemeler yapılarak bunun takipçisi olunması halinde silahlı çatışmaları toptan engellemek yönünde ve silahlı çatışma oluşması halinde sivil kayıplarını asgariye indirebilecek etkileri olacaktır. Son altı yıldır savunduğum bu görüş 2018 senesinde Cenevre’de Ölümcül Otonom Silah Sistemleri Hükümetler Uzman Grupları toplantısında, Ölümcül Otonom Silah Sistemleri Alanındaki Teknolojik Gelişmelerin İnsancıl Faydaları başlıklı bir tebliğ[2] ile Charles Trumbull tarafından Amerika Birleşik Devletleri adına da sunulmuştur.

Silah ve savaş teknolojileri sadece doğrudan öldürmek amacıyla değil bilgi toplama, casusluk, direnç kırma, lojistik düzeni bozma, haber ve propaganda ile algı ve motivasyon yönetme gibi birçok savaş ve üstünlük kurma stratejisi içinde kullanılır.

İnsan, tarih boyunca tamamen mekanik silah sistemleri üzerinde yoğunlaştığı kadar, organik veya inorganik yöntemlerle savaşta kullanılan insan ve hayvan kaynaklarının performanslarının, güçlerinin, algılarının, hızlarının, dayanıklılıklarının, kısaca savaşta “ölümcüllüklerinin” artırılmasını sağlamaya da çalışmışlardır. Bu itibarla makine öğrenmesi teknolojilerinin kullanılmasıyla geliştirilen ölümcül olan veya olmayan mekanik silah ve savaş sistemleri olduğu kadar, organik canlılar üzerinde uygulanmak suretiyle savaşta canlının silah olarak kullanılabilme fonksiyonlarını artıran sistemler de vardır.

Makalenin asıl konusu ve kavramın da temeli “otonom silahlar” olduğundan, burada geçen her sistem “süper yapay zekâlı” silah sistemi olmaktan ziyade, ki zaten öyle bir sistem de yoktur, önemli ölçüde otonomlaşmış sistem olacaktır ve makine öğrenmesi kavramına girdiği ölçüde makalede bunlara da değinilecektir.

Son olarak belirtmek gerekir ki dünyadaki her bir ülkenin hukuk sistemini, idari yaklaşımını kapsamak mümkün ve gerekli olmadığından, başta ülkemiz Türkiye, Amerika Birleşik Devletleri (“ABD”), Avrupa Birliği (“AB”) ve Japonya gibi hem en ileri teknolojik gelişmelere, hem de en detaylı hukuki düzenlemelere sahip olan ülkelerin durumu ele alınacaktır.

Neden ve Nasıl Otonom Silahlar?

Ölümcül otonom silahlar dendiğinde ilk akla gelen şey insan hakları, savaş hukuku ihlalleri ve kitlesel katliama sebebiyet verecek vicdansızlıklardır.

Oysa, bence otonom silahlar, ihtilafların silahlı çatışma ile çözülme ihtimallerini düşüren, üstünlük çabalarını siber alana ve ekonomiye kaydıran ve illa ki silahlı çatışma olacaksa insan hatasını ve insanların ideolojik ve fanatik zafiyetleriyle oluşan takdir haklarını ortadan kaldırma potansiyeli bakımından doğru kullanılması durumunda, savaş ve silahlı çatışma hallerinde sivillerin ve masumların zarar görmesini sınırlandırabilecek bir yöntemdir.

Diğer taraftan otonom silah sistemlerini sadece ölümcül saldırgan olarak değerlendirmek büyük hatadır. Bu sistemlerin ezici çoğunluğu insan hedeflere yönelik değil altyapı, silah ve sistem hedeflere yönelik geliştirilmektedir. Aynı şekilde özellikle bu tür silahlara ve saldırılara karşı savunma sistemleri olarak quantum bilgisayımından[3] ve quantum navigasyondan[4] faydalanmak üzere teknolojik araştırmalar ve hazırlıklar yapılmaktadır. Nitekim, bu tür silah sistemlerinin, lazer teknolojileri kullanılarak ışık hızında[5] yapılabilecek saldırılarla çok uzaktan ve sessizce füzeleri ve çoklu silah sistemlerini yok etmek, geleneksel ateş gücünün çok üzerinde elektromanyetik güç ile nükleer bombaların yan etkileri olmaksızın elektrik, su, finans hizmetleri, sağlık hizmetleri, uydu ve iletişim sistemlerini devre dışı bırakmak gibi öncelikleri bulunmaktadır.

Makine öğrenmesi teknolojileri uzun zamandır savaş teknolojisi olarak kullanılmakta hatta Internet gibi birçok çığır açan teknolojik devrimin çıkışı silahlı kuvvetlerdir.

Savaş olgusunda sadece silahlarla donanmış bir düşman askeri birliğini öldürmeye çalışmak yoktur. Savaş bundan çok daha fazlasıdır. Savaş olgusunda öncelikle bilgiye sahip olmak, bilgiye sahip olmak için casusluk, hırsızlık, tehdit, şantaj, rüşvet dahil her türlü yöntemi kullanmak, düşman kaynaklarını ve lojistiğini savaş gücünü ve dayanıklılığını kıracak şekilde yıpratmak, kurutmak, iletişimine sızmak, yeri geldiğinde iletişim kabiliyetini ortadan kaldırmak, rejimini gayrimeşru hale getirerek halk ve ordu desteğini yok etmek, ordusunu ve halkını elzem kaynaklardan mahrum etmek, hastalık yaymak, isyan çıkarmak, emir komuta zincirini bozmak ve bütün bunları en iyi şekilde yaptıktan sonra, kendi halkına ve sistemine asgari zarar gelecek şekilde düşmanı bertaraf etmek, ve mümkünse düşman kaynaklarını kendi menfaatine kullanabilmek vardır.

Bunu yapabilmek için insanlık her zaman teknolojiden, teknikten yararlanma gayreti içinde olmuştur.

Yapay zekâ diye atıfta bulunduğumuz makine öğrenme teknolojilerinin de ilk denemeleri silahlı kuvvetler ve savaş amaçlıdır. Bugün insanlığın faydasına yaptığı çalışmalarıyla, elektrik, radyo dalgaları ve uzaktan kumanda alanlarında yaptığı çalışmalarıyla global kablosuz ağı öngörüp[6] bu alanlara yoğunlaşan, ünlü dahi Nikola Tesla, yoğun olarak savaş teknolojileri üzerinde de çalışmış, kablosuz uzaktan kumandalı denizaltı geliştirmiş ve bu denizaltıyı yine uzaktan kumandalı torpidolarla teçhiz etmek istemiştir[7]. O dönem Amerikan silahlı kuvvetleri bu projeyi kabul etmemiştir ve Tesla sadece telautomatonu geliştirmekle kalmıştır[8].

Birinci Dünya Savaşı otonom ve uzaktan kumandalı ilk silah sistemlerinin sahneye, veya cepheye diyelim, ilk çıktığı global çatışmadır. Günümüzün insansız hava araçlarının atası, insansız olarak havalanıp belli mesafeye kadar gittikten sonra kanatları düşen ve taşıdığı bombayla birlikte hedefe düşen “kettering bug”ı ilk kez Birinci Dünya Savaşı’nda ABD kullandı.

İlk Yapay Zekâ Araştırmaları ve Savaş

Ancak, kablolu veya kablosuz uzaktan kumandalı mekanik ve robotik teknolojiler bir tarafa bırakılırsa, literatürde yapay zekâ makineye verilen ilk ve hatta en önemli örnek İkinci Dünya Savaşı’nda ortaya çıktı.

Kendisini “makinelerin düşünme kabiliyetine” adamış olan İngiliz matematikçi Alan Turing, Nazi Almanya’sının şifreli askeri iletişimini kırmak üzere görevlendirildi ve bir makine tasarlayarak bu makine sayesinde şifreleri kırarak savaş kahramanı oldu.

Savaş sırasında elde ettiği bu deneyim ve başarıyı savaş sonrasına da taşıyarak makine öğrenmesinin, yapay zekânın teorik ve uygulamalı olarak gelişmesinde büyük katkı sağladı.

O dönemde henüz “yapay zekâ” terimi dahi ortada yoktu ve Alan Turing bu terimi hayatı boyunca duyamayacaktı. Turing geriye Imitation Game, yani Taklit Oyunu ile Turing Test’ini bıraktı. Turing’e göre makineler, insan gibi düşünebilecek olmasa da, insanı taklit edebileceğini ve eğer bir insan karşısında bir makine olduğunu anlamadan makineyle iletişim kurabiliyorsa, interaksiyonda bulunuyorsa makinenin “düşünebildiği” kabul edilebilir tezini ortaya attı[9].

Tarih bize gösteriyor ki yapay zekâ alanındaki en temel aşama kabul edilen Alan Turing’in çalışmaları da askeri bir teknoloji olarak savaş sırasında devlet eliyle desteklendi ve başarıya ulaştı. Ancak hayalimizde canlandırıldığı gibi kendi kendine düşünüp, karar alıp, düşmanın veya şehirlerin üzerine füzeler yağdıran bir robot değil, şifreli iletişimi kıran ölümcül olmayan bir makineydi.

Turing öldükten iki yıl sonra 1955’te John McCarthy, Darthmouth Konferansı’nda “Yapay Zekâ Araştırma Projesi” makalesi ile yapay zekâ kavramını ortaya attı[10].

Turing’in düşündüğü taklit özelliklerine yakın olduğu kadar insan biçiminde de olan ilk otonom sistem 1973’te Japonya’da üretildi. Wabot 1 (Waseda Robot ilk versiyon) bir insanla Japonca iletişim kurabiliyor, alıcıları ile yön tayin edebiliyor ve mesafe ölçebiliyordu. 1984’te tuşlu enstrüman çalabilen, nota okuyabilen Wabot 2 geldi. Bugün Waseda Üniversitesi Humanoid Robot Projesi, insan ve makine arasında hisse dayalı interaksiyonu görme, işitme ve haptik (hareket ve dokunma duyuları) fonksiyonlarla mümkün kılacak çalışmalarını sürdürmektedir[11].

Türkiye’de Otonom Silahlar, Yapay Zekâ ve Düzenlemeler

Türkiye’de otonom silahlar veya yapay zekâyı doğrudan düzenleyen bir mevzuat olmasa da, otonom silah ve savaş teknolojisi üretimi ve kullanımı ileri boyuttadır.

Özellikle dijital ve teknolojik dönüşüm projeleri çerçevesinde yüksek teknoloji üretimi ve teşviklerle ilgili mevzuatlar ve uygulamalar hayata geçirilmektedir.

26 Haziran 2001 tarih ve 4691 sayılı Teknoloji Bölgeleri Kanunu[12] ile üniversiteler ve araştırma kurum/kuruluşları ile teknoloji üretenler arasında işbirliği sağlanarak teknolojik bilginin ticarileştirilmesi hedeflenmiştir. Bu kapsamda küçük ve orta ölçekli şirketlerin Teknoloji Geliştirme Bölgelerinden yararlanması hedeflenerek AR-GE ve üretim süreçlerinde söz konusu olacak maliyetlerinin minimize edilmesi hedeflenmiştir. Damga vergisi ve harç muafiyetleri de getirilerek sözleşme ve işlem ücretlerinde rahatlık sağlanmıştır.

Türkiye Bilimsel ve Teknolojik Araştırma Kurumu Teknoloji ve Yenilik Destek Programlarına İlişkin Yönetmelikle TÜBİTAK tarafından teknoloji firmalarına hibe ve/veya geri ödemeli destek sağlanmış ve firmaların başvuru yöntemlerine ilişkin esas ve usulleri düzenlenmiştir[13].

Milli Savunma Bakanlığı, Savunma Sanayi Müsteşarlığı tarafından 2011 – 2016 yılları arasından geçerli olmak üzere tasarlanıp yayınlanan Teknoloji Yönetim Stratejisi[14] çerçevesinde insansız otonom ve robotik silah, savaş ve savunma sistemleri Türk Silahlı Kuvvetler bakımından sadece olması arzu edilen ve genel askeri güce destek olabilecek bir unsur olmaktan ziyade, Türkiye’nin jeopolitik ve stratejik gerçekleri çerçevesinde ortaya koyduğu büyük güç iddiasıyla uygun şekilde yerli ve milli olarak üretilebilmesi istenmiş ve bu bir ölçüde de başarılmıştır.

07 Ekim 2012 tarih ve 2012/3738 sayılı Bakanlar Kurulu Kararı[15] ile Milli Savunma Bakanlığı Ar-Ge projelerinin dinamik bir yapıda başlatılabilmesi için gerekli olan mekanizma ve Ar – Ge Paneli kurulmuş ve Ar-Ge Paneli tarafından uygun bulunan konuların projelendirme çalışmalarına başlanarak Savunma Sanayii Başkanı onayı ile projelendirilmekte, sözleşmeleri imzalanmakta ve uygulamaya konmaktadır.

Ar-Ge Paneline sunulacak konuların belirlenmesinde, Ar-Ge Daire Başkanlığı tarafından oluşturulan ve periyodik olarak güncellenen Ar-Ge Projeleri Yol Haritasından faydalanılmaktadır.

2015 senesinde ilk yerli yapım insansız hava araçlarının silahlı kuvvetlere katılmasından bu yana silahlı kuvvetlerin envanterindeki insansız hava aracı sayısı yüzü geçmiştir.

Bu projeler arasında Bayraktar, Anka, Aksungur, Göksungur insansız hava araçları ön plana çıkmakta ve bunlara ek olarak 2020 yılında devreye alınacak silahlı ve silahsız askeri dronelar üzerinde elektro-optik, sınır güvenliği, yapay zekâ gibi alanlarda sistem, alt sistem, donanım ve yazılımlar geliştiren AsisGuard tarafından yapılan çalışmalar sona yaklaşmıştır. ASİSGUARD, vurucu mikro drone Salgur ve silahlı drone sistemi Songar’ı ilk kez Uluslararası Savunma Sanayii Fuarı’nda Mayıs 2019’da sergiledi.

20 Ağustos 2016 tarih ve 6745 sayılı Yatırımların Proje Bazında Desteklenmesi ile Bazı Kanun ve Kanun Hükmünde Kararnamelerde Değişiklik Yapılmasına Dair Kanun ile teknolojik dönüşümü sağlama, yenilikçi, Ar-Ge yoğun ve katma değeri yüksek olma niteliklerine ayrı ayrı ya da birlikte sahip olan ve proje bazında Ekonomi Bakanlığı tarafından desteklenmesi, Kurumlar Vergisi Kanunu, Gelir Vergisi Kanunu, gümrük muafiyetleri, hazine arazilerinde bedelsiz irtifak, ürünün devlet tarafından satın alınmasına ilişkin garanti, alt yapı yatırımının devlet tarafından karşılanması gibi çok ciddi destekler sağlanmıştır[16].

2016 – 2018 tarihleri arasında Bilim, Sanayi ve Teknoloji Bakanlığı, İmalat Sanayiinin Dijital Dönüşümü Raporu ve Yol Haritası’nı[17] ve Türkiye Yazılım Sektörü Strateji ve Eylem Planı 2017 – 2019[18] ve Ulaştırma ve İletişim Bakanlığı Türkiye Ulaşım ve İletişim Stratejisi[19] açıklanmıştır.

TÜBİTAK, aşağıda daha detaylı inceleyeceğimiz AB Horizon 2020 Programı ve SPARC’ın UFUK2020 adı ile üyesi olmuş ve bu çerçevede robot teknolojileri üzerinde yapılan araştırmalara ve inovasyonlara destek sağlamaktadır[20].

Bu çerçevede ulusal endüstriyel bulut platformu kuruluşu, dijital dönüşüm merkezleri, TÜBİTAK bünyesinde yapay zekâ enstitüsü kurulma çalışmaları başlamış, Türkiye Uzay Ajansı[21] kurulmuş ve Milli Uzay Programı çalışmaları ve uygulamaları başlamıştır. Birçok devlet ve vakıf üniversitesi nezdinde yapay zekâ araştırma merkezleri kurulmuştur.

Bu makalede atıfta bulunulan bu mevzuat çalışmaları, bakanlık ve düzenleyici kurum çalışmaları ve düzenlemelerinde yapay zekâ merkezi ve ağırlıklı bir yer işgal etmektedir.

Bazı Ülkelerde Otonom Silahlar, Yapay Zekâ ve Düzenlemeler
OECD

Uluslararası alanda meydana gelen en önemli gelişmelerden biri Mayıs 2019’da OECD’nin Yapay Zekâ Konseyi Tavsiye Kararı idi. Bu karar içinde bazı tanımlar, hedefler ve bunların nasıl gerçekleştirileceğine ilişkin önemli tavsiyeler bulunmaktadır ve çok yeni olmasına rağmen hem ABD hem de AB tarafından referans olarak kullanılmaya ve kendi çalışmalarında atıf belge olarak literatüre girmeye başlamıştır[22].

Avrupa Birliği

1 Mart 2012’de Avrupa Parlamento’sunun da sağladığı katkı dahil toplam 1,497, 966 Avro finansman ile 27 ay süren RoboLaw Project, Mayıs 2014’te tamamlandı ve “Robotik Alanın Hukuki Düzenlenmesi Rehberi” yayınlandı[23].

Bu projeyle gelişmekte olan robotik, bionik, neural beyin – bilgisayar arayüzler ve nanoteknolojilerin

hukuki ve ahlaki etkilerini incelemek, mevcut hukuki düzenlemelerin yeterli olup olmadığını araştırmak, geliştirme ihtiyacı varsa bu değişikliklerin neler olduğunu ve bunun insanlar için önemli olan sosyal değerlere ve süreçlere etkilerinin neler olduğu araştırıldı.

Bu çalışmada Avrupa ülkelerinin konuya kendi yaklaşımlarının ve Avrupa Değerleri çerçevesindeki yaklaşım olduğu kadar, Kuzey Amerika, başta Japonya ve Çin olmak üzere Doğu yaklaşımları da incelendi ve mukayeseli hukuk anlamında fayda sağlandı.

Avrupa Komisyonu, 2013 yılında Avrupa Komisyonu’nun 700 milyon Avro, 180 şirket ve

araştırma kuruluşundan oluşan EURobotics’in ise 2,8 milyar Avro ile katıldığı SPARC ismindeki dünyanın en büyük sivil robotik programını bir kamu özel işbirliği modeli olarak hayata geçirdi. 2014’te Avrupa Birliği’nin en büyük Araştırma ve Yenilik Programı olan ve 2020’ye kadar olan 7 yıllık süre için 80 milyar Avro ayrılan Horizon 2020 projesi robotik çalışmalarına özel bir önem veriyor[24].

Bu gibi çalışmaların sonunda özellikle takip edilmesi gereken Robotik Üzerine Medeni Haklar (EPLO 2015/2103[25], yapay zekâ ve robotik üzerine bir çok EPRS, STOA brifingleri ve araştırmaları[26], Robot Hukuku Üzerine Bir Avrupa Perspektifi, Avrupa Birliği Avrupa Parlamentosu 16 Şubat 2017, Robotikte Haklar Kararı[27].

Avrupa’da son iki yıl içinde de Dijital Tek Pazar programı çerçevesinde yapay zekâ alanında bir çok karar alınmış, rapor ve rehber yayınlanmıştır. Bunların en yenileri, en değerlileri ve bu makalenin okuyucusu açısından takip edilmesi gerekenler, 18 Şubat 2019 tarihli Avrupa Parlamentosu Avrupa Koordine Yapay zekâ Planı[28], Avrupa Parlamentosu Nisan 2019 Güvenilir Yapay Zekâ İçin Etik Rehberi[29] ve Haziran 2019 Avrupa Parlamentosu Güvenilir Yapay Zekâ için Politika ve Yatırım Tavsiyeleridir[30].

Son beş yılda yapay zekâ alanında Avrupa Birliği nezdinde yaşanan hızlı teknolojik ve hukuki gelişmelere ek olarak otonom silah sistemleri de Avrupa Parlamentosu tarafından çok yakından takip edilmekte ve spesifik düzenlemelere tabi kılınmak istenmektedir.

Bu çalışmaların temelini teşkil eden hukuki enstrümanlar 2007 tarihli Avrupa Birliği Anlaşması Bölüm 5, Madde 21[31], Cenevre Konvansiyonları’na 1977’de eklenen Protokol 1’in Martens Hükmü[32], Birleşmiş Milletler Silahsızlanma Gündemi, Bölüm 4 Ortak Geleceğimizin Güvence Altına Alınması’dır[33].

Bu çerçevede son iki yılda Avrupa Parlamentosu tarafından alınan 12 Eylül 2018 tarihli Otonom Silah Sistemleri Kararı ile otonom silah sistemleri ve otonom ölümcül silah sistemleri tarafından bazı tanımlar yapılmış ve anlamlı insan dahil olmadan, vurma emrinin insanın vermediği, kendi kendine insan hedefler üzerine ölümcül saldırı yapabilen sistemlerin üretilmesi uluslararası hukuk, Birleşmiş Milletler İnsan Hakları Beyannamesi, Avrupa Birliği İnsan Hakları kabulleri, Avrupa Birliği Savunma Sanayi Geliştirme Programı çerçevesinde, konu hakkında uluslararası bir mevzuat geliştirilinceye kadar yasaklanmış, ve bu yönde yapılacak uluslararası müzakerelerin ve imzalanacak dokümanların vurma emrinin insan tarafından verilmediği sistemlerin yasaklanması yönünde olması gerektiğini belirtmiştir[34].

Amerika Birleşik Devletleri

ABD’de yapay zekâ düzenleme çalışmalarının en önemlilerinden bir tanesi başkan Barack Obama döneminde 2009’da ilk olarak ortaya konan Ulusal Robotik Girişimi’dir[35].

Bu çerçevede Amerika Robotik Yol Haritası yayınlanmış ve sürekli güncellenerek, ilgili olduğu diğer projeleri de besleyerek Amerika’nın insan-robot etkileşimi, zeki robot teknolojilerinin gelişimi ve bunun eğitim, muhtaçların bakımı, arama kurtarma, sağlık hizmetleri ve bakım, güvenlik alanlarında kullanımına ilişkin etik ve hukuki prensipleri geliştiren çalışmaları devam etmektedir[36].

Yine Obama, kendi döneminin son haftalarında Yapay Zekânın Geleceğine Hazırlık konulu bir rapor yayınlayarak, yapay zekâ araştırma geliştirme faaliyetlerine ilişkin bir ulusal strateji planı açıklamıştır[37].

Amerikan Federal Hükümeti’nin yapay zekâ ve robot teknolojilerine ilgisi Trump hükümeti döneminde de değişmemiş hatta yoğunlaşmıştır. 2018 Mayıs ayında düzenlenen Amerikan Sanayisi için Yapay Zekâ zirvesinde Beyaz Saray, Bilim ve Teknoloji Politikaları Genel Müdürlüğü başkanlığında bir Yapay zekâ Komitesi kurduğunu açıklamıştır[38].

2018’de Yapay Zekâ Ulusal Güvenlik Komisyonu kurulmasına ve Savunma Bakanlığı’nın, silahlı kuvvetler nezdinde yapay zekâ teknolojisinin orduya ve savunma sanayiine entegrasyonu üzerine çalışacak üst düzey bir yetkili atanmasına ilişkin John S. McCain Ulusal Güvenlik Yetkilendirme Kanunu’nu[39] çıkarılmıştır.

Yabancı Yatırım Risk Değerlendirme Modernizasyonu Kanunu ile İthalat Kontrol Reformu Kanunu’nda da değişiklikler yapılarak bioteknoloji, yapay zekâ, ileri bilgi sayım teknolojileri, quantum bilgi ve algı teknolojileri gibi alanlarda ABD’den yapılacak ihracata, teknolojinin kime gideceği, hangi alanda kullanılacağı, teknolojiyi geliştirirken dahil olan kimselerin kim olduğu ve bunlara yatırım yapacak kişi veya kurumların kim olduklarına ilişkin kısıtlamalar veya yasaklar getirilmesi düzenlenmiştir[40].

ABD ölümcül otonom silah sistemleri ile ilgili duruşunu işbu makalemizin Giriş ve Metod kısmında belirttiğimiz gibi önce Mart 2018’de daha sonra çok yeni bir tarihte, Mart 2019’da ortaya koymuş ve özetle Avrupa Birliği’ne nispeten yakın şekilde “kuvvet kullanma noktasında yeterli seviyede insan kararı” aranacak şekilde bu sistemlerin geliştirilmesi gerektiğini açıklamıştır[41].

Japonya

Japonya anayasal düzenlemeleri gereği resmi olarak saldırma kabiliyetleri ile donatılmış bir ordusu olmayan, savunma ve sosyal düzeni sağlama amaçlı olarak ayakta tuttuğu bir ulusal savunma kuvveti vardır. Bu itibarla zaten saldırgan amaçlı otonom silah üretemez.

Japonya 2014’te Robot Devrimi Girişimi’ni açıklayarak Ulusal Robot Stratejisini[42] yayınlayarak, robotik ve yapay zekâ teknolojilerinin her alanda kullanılması ve Japonya’nın robot inovasyonu merkezi haline getirilmesi ve robot teknolojileri için özel bölgeler kurulması hedeflenmiştir[43].

Bu stratejinin uygulanması amacıyla Robot Devriminin Gerçekleştirilmesi Konseyi kurulmuştur. Kurul, Japonya Yapay zekâ Birliği gibi sivil toplum kurumları ve onların yaptığı regülasyon tekliflerinden[44] de faydalanarak, Robot Düzenleme Reformu Uygulama ilkelerini açıkladı ve telekomünikasyon, sanayi üretimi, sivil havacılık ve aeronautics, tüketicinin korunması, trafik ve sağlık mevzuatlarında yapılması gereken değişiklikleri tespit ederek bir dizi değişikliğe başladı.

2016’da Japonya hükümeti, 2016’da Yapay Zekâ Teknoloji Stratejisi Komisyonu’nu kurmuş ve 2017’de Yapay Zekâ Teknoloji Stratejisi’ni açıklamıştır[45].

28 Temmuz 2017’de Japonya, Yapay Zekâ Politikası’nı ve Yapay Zekâ Ar-Ge Kılavuzu Tasarısı’nı yayınladı ve bunu AI Network Society Konferansı’nda sundu[46].

Otonom silahlar açısından Japonya’da da spesifik bir yerel mevzuat olmayıp, uluslararası diplomasi ve hukuk bakımından geçerli duruşu AB ve ABD ile paraleldir. Buna göre Mart 2019’da, BM Silahsızlanma Hükümetler Uzmanları toplantısında Japonya’nın Birleşmiş Milletler Büyükelçisi Takamizawa Nobushige, Japonya’nın tamamen gelişmiş bir otonom silah sisteminin olmadığını ve olmasını da hedeflemediğini belirtmiş, diğer ülkelere de otonom silahların kullanımı kurallarını belirlemek için çağrıda bulunmuştur[47].

Japonya, “Toplum 5.0” ile programı ile yapay zekâyı her sektörde kullanarak gerçek ile sanal dünyayı iç içe yaşayan süper zeki toplum yaratmayı hedeflemektedir[48].

Uluslararası Sivil Toplum

Devletler ve kamu kurumları tarafından yürütülen güçlü ve mevzuat ile kararlara doğrudan etki eden bu gelişmelerin yanında çalışmamızın kapsamı el verdiği ölçüde sivil toplum inisiyatiflerinden de bir örnek vermek gerekir.

Bu noktada bünyesindeki yirmi beşten fazla hukukçu ve teknik uzmanla hem ABD’ye hem de dünyaya yapay zekâ düzenlemeleri ile büyük katkı sağlayan Elektronik Mahremiyet Bilgi Merkezi’nin (“EPIC”) çalışmalarından bahsetmek önemlidir zira, EPIC 23 Ekim 2018’de Belçika’da Evrensel Yapay Zekâ Rehber İlkeleri’ni[49] yayınlamış ve bu Rehber 40 ülkeden, 250 uzman ve 60 kurum tarafından kabul edilmiştir. Bu çalışma esas itibarı ile Yapay Zekâda Amerikan Liderliğinin Sürdürülmesini Teminen Ulusal Standartlar ve Teknoloji Enstitüsü’nün görevlendirilmesine ilişkin 11 Şubat 2019 tarihli Başkanlık Kararı[50] çerçevesinde yapılan görüş talebine cevaben hazırlanmıştır.

Türkiye bakımından değerlendirme yapıldığında, ortaya konan ulusal çalışma programlarına hukukçular da eklenerek, diğer ülkelerdekine benzer holistik yaklaşımlı ve kapsamlı çalışmalar yapılıp yerli ve milli teknolojilere ve ARGE faaliyetlerine, hukuk ve düzenleme faaliyetleri de eklenip, bu konuda uluslararası topluma Türkiye de fayda sunmalıdır, gelişmelere yön veren ülke olmalıdır.


Bu makale ilk olarak 2019 tarihli “Yapay Zeka Çağında Hukuk” adlı İstanbul, Ankara ve İzmir Baroları Çalıştay Raporu’nda yayınlanmıştır.

Dipnotlar

[1] An Open Letter to the United Nations on Certain Conventional Weapons. https://www.dropbox.com/s/g4ijcaqq6ivq19d/2017%20Open%20Letter%20to%20the%20United%20Nations%20Conention%20on%20Certain%20Conventional%20Weapons.pdf?dl=0

[2] CCW/GGE.1/2018/WP.4, Group of Governmental Experts of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects, 26.03.2018 https://unog.ch/80256EDD006B8954/(httpAssets)/7C177AE5BC10B-588C125825F004B06BE/$file/CCW_GGE.1_2018_WP.4.pdf

[3] Quantum Computing, Progress and Prospects, National Academies of Sciences, Engineering and Medicine, 2019

[4] Dunning, Hayley, Quantum Compass Could Allow Navigation Without Relying on Satellites, Imperial College London, 2018. 
https://phys.org/news/2018-11-quantum-compass-satellites.html

[5] Speed of Light Protection, Lockheed Martin. https://www.lockheedmartin.com/en-us/capabilities/directed-energy/laser-weapon-systems.html

[6] Seifer, Mark J., Wizard: Life and Times of Nicola Tesla, 2016

[7] Branfill-Cook, Roger, Torpedo: The Complete History of the World’s Most Revolutionary Naval Weapon, 2014

[8] McCarthy, Cecilia Pinto, Military Robots, 2017

[9] Turing, Alan, Computing Machinery and Intelligence, Mind 49: 433 – 460. 
https://www.csee.umbc.edu/courses/471/papers/turing.pdf

[10] McCarthy, John, A Proposal for the Darthmouth Summer Research Project on Artificial, 1955
http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf

[11] Hashimoto S., Narita S., Kasahara H., Humanoid Robots at Waseda University, Eylül 2000
http://humanoids.cs.tum.edu/28.pdf

[12] Resmi Gazete, 6 Temmuz 2001, s. 24454

[13] Resmi Gazete, 16 Ocak 2007, s. 26405 (Şubat 2013 tarihinde yapılan değişiklikle)

[14] Milli Savunma Bakanlığı, Savunma Sanayi Müsteşarlığı, Teknoloji Yönetimi Stratejisi 2011 – 2016 
https://www.ssb.gov.tr/Images/Uploads/MyContents/F_20170523151939984727.pdf

[15] Resmi Gazete, 7 Ekim 2012, s. 28434

[16] Resmi Gazete, 7 Eylül 2016, s. 29824

[17] Bilim, Sanayi ve Teknoloji Bakanlığı, Dijital Dönüşüm Eylem Planı https://www.sanayi.gov.tr/tsddtyh.pdf

[18] Bilim, Sanayi ve Teknoloji Bakanlığı, Türkiye Yazılım Sektörü Strateji ve Eylem Planı
http://www.sp.gov.tr/tr/temel-belge/s/160/Turkiye+Yazilim+Sektoru+Stratejisi+ve+Eylem+Plani+_2017-2019

[19] Ulaştırma ve İletişim Bakanlığı, Türkiye Ulaşım ve İletişim Stratejisi C:\Users\INTERN1\Downloads\sp.gov.tr\upload\xSPTemelBelge\files\93C5Y+Turkiye_Ulasim_veIletisim_Stratejisi.pdf

[20] Resmi Gazete, 12 Temmuz 2014, s. 29058

[21] Cumhurbaşkanlığı Kararnamesi No: 23, Tarih: 13.12.2018

[22] OECD, Recommendation of the Council of Artificial Intelligence, May 2019
https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

[23] D6.G2, Guidelines for Regulating Robotics
http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf

[24] Horizon 2020 AB, Avrupa Komisyonu Resmi Belgeleri 
https://ec.europa.eu/programmes/horizon2020/en/official-documents

[25] Motion for a European Parliament Resolution with Recommendations to the Commission on Civil Law Rules on Robotics 
http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html

[26] EP Panel for Future of Science and Technology Briefs 
https://www.europarl.europa.eu/stoa/en/publications/search

[27] European Parliament, Civil Law Rules on Robotics 
http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html?redirect

[28] European Parliament, European Coordinated Plan for Artificial Intelligence, 18.02.2019
https://www.consilium.europa.eu/en/press/press-releases/2019/02/18/european-coordinated-plan-on-artificial-intelligence

[29] European Parliament, Ethics Guidelines for Trustworthy Artificial Intelligence, April 2019 
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

[30] European Parliament, Policy and Investment Recommendations for Trustworth Artificial Intelligence June 2019 
https://ec.europa.eu/digital-single-market/en/news/policy-and-investment-recommendations-trustworthy-artificial-intelligence

[31] Consolidated Version of the Treaty of the Functioning of European Union 
https://eur-lex.europa.eu/resource.html?uri=cellar:9e8d52e1-2c70-11e6-b497-01aa75ed71a1.0006.01/DOC_3&format=PDF

[32] Ticehurst, Rupert, Martens Clause and the Law ofArmed Conflicts, International Review of the Red Cross No. 317, 30.04.1997

[33] United Nations, Secretary General, Securing Our Common Future, 24 May 2018 
https://www.un.org/disarmament/publications/more/securing-our-common-future

[34] European Parliament Resolution of 12 September 2018 on Autonomous Weapon Systems (2018/2752(RSP)) 
http://www.europarl.europa.eu/doceo/document/TA-8-2018-0341_EN.html?redirect

[35] Jahanian, Farham, A National Partnership to Advance US Leadership in Robotics, 2011 
https://cra.org/crn/2011/09/national_robotics_initiative

[36] US Robotics Roadmap Chicago Workshop, Eylül 2019 http://www.cs.uiuc.edu/news/us-robotics-roadmap-reaches-new-heights-windy-city

[37] Felten, Ed & Lyons, Terah, Hükumetin Yapay Zekânın Geleceğine İlişkin Raporu, 12.11.2016 
https://obamawhitehouse.archives.gov/blog/2016/10/12/administrations-report-future-artificial-intelligence

[38] Charter of the National Science and Technology Council Select Committee on Artificial Intelligence 
https://epic.org/SelectCommitteeonAI.pdf

[39] US Congress, HR – 5515, 13.08.2018, John S. McCain National Defense Authorization Act 
https://www.congress.gov/bill/115th-congress/house-bill/5515/text

[40] Congressional Research Service, CFIUS Reform, 03.11.2019

[41] Congressional Research Service, Defense Primer: US Policy on Lethal Autonomous Weapons Systems, 27.03.2019

[42] https://www.techandlaw.net/japans-robot-policy-and-the-special-zone-for-regulating-next-generation-robots

[43] New Robot Strategy, 2015

[44] Japanese Society for Artificial Intelligence Ethical Guidelines, 16.05.2017 https://ai-elsi.org/archives/514

[45] Japonya İçişleri ve İletişim Bakanlığı, Japonya’da Yapay zekâ ve İgili Faaliyetler, 2017 
http://events.science-japon.org/dlai17/doc/MIC%20-%20France-Japan%20Symposium%2020171025.pdf

[46] Japan AI Policy https://futureoflife.org/ai-policy-japan/

[47] https://www.disarm.emb-japan.go.jp/itpr_en/Ambassador_activities.html

[48] Realizing Society 5.0
https://www.japan.go.jp/abenomics/_userdata/abenomics/pdf/society_5.0.pdf

[49] Comments of the EPIC to the National Institute of Standarts and Technology, Request for Information on Artificial Intelligence Standards, 31.05.2019 
https://thepublicvoice.org/ai-universal-guidelines/

[50] Executive Order on Maintaining American Leadership in Artificial Intelligence, White House, 11.02.2019 
https://www.whitehouse.gov/presidential-actions/executive-order-maintaining-american-leadership-artificial-intelligence/

Yorum yap