7 Temmuz 2015 akşam üzeri saatlerinde, Wanda H. isimli bir teknisyen Amerika’nın Michigan eyaletinde her zaman yaptığı şeyi yapmak için sektör 140 isimli Bölgesine gitti: O kaynaklama robotlarına rutin olarak bakım yapan bir işçiydi. Fakat yandaki bir robot karavan bağlantı noktaları bağlamak için onun çalışma alanına birden giriverdi. Bu o kadar ani gerçekleşti ki Wanda yeterince hızlı davranamadı: Robot kadıncağızın kafasına öyle bir yara açtı ki doktorlar ulaştığında Wanda maaelesef hayatını kaybetmişti.
Bugün bile kimse kazaya neyin sebep olduğunu bilmiyor. Yandaki kısım özel güvenlik kapıları ile kapatılmıştı, makineler kapalıydı ve bağlantı noktaları zaten hedeflenen noktalara robot tarafından takılmıştı. Sonuç olarak, bu robotun bunu yapmamasını sağlaması gereken herşey yerli yerinde gibi duruyordu. Fakat bu yine de gerçekleşti. Belli olmayan şey kimin Wanda’nın ölümünden sorumlu olduğu. Bu soruya cevap bulmak için, Wanda’nın kocası üreticiden bakım firmasına kadar herkesi dava etti – Bu gruba bu robotla ilgisi olan beş şirket de dahil edildi.
Robotların varlığı artacak
Bu tarz insanların yaralandığı veya öldüğü ve robotların sebep olduğu kazalar çok nadir yaşansa da, bunların sayısı artabilir zira iş yerlerimizde ve günlük hayatımızdaki robot sayısı artacak.
Bu özellikle yollar için geçerli: Eğer otonom bir aracın algoritması manevrayı hesaplarken hata yaparsa, bir bisikletliyi göremezse veya park ederken başka bir araca çarparsa kim sorumlu? Kullanıcı mı? Üretici mi? Programcı mı? Her ne kadar araba üreticileri öncelikle otonom arabaların güvenliğini reklamlarında kullansalar da, kazalar bilgisayar aracı sürerken de yaşanabilir, bunun bir örneği İsviçre’nin Sion kentinde yaşandı: Eylül 2016’da, bir otonom posta otobüsü bir arabanın açık bagaj kapağını fark edemedi ve yanından geçerken bu kapağı sürterek çizdi. Ön koltukta oturan insan dahi– ki bu test sırasında aracı kontrol ediyordu ve acil durum frenini kullanabilirdi – durumu yanlış değerlendirdi. Postauto Schweiz AG (operatör şirket) açıklamasında, insan kopilotun da bu durumda sorumluluk anlamında çarpılan araçla “normal” posta aracından farklı olmadığını belirtti. Sorumluluk sigortası bu hasarı karşıladıysa da, Postauto Schweiz AG eğer yasalar tamamen insansız otonom cihazlara izin verirse bu durumun mutlaka yeniden değerlendirilmesi gerektiğini düşünüyor.
Hükümetler robotların sorumluluğu üzerinde çalışıyor
Bazı hukuki inisiyatifler otonom arabalar konusundaki hukuki belirsizliği düzenlemek için uğraşıyorlar: Örneğin, Şubat ayının başında, İngiliz hükümeti “ikisi bir arada” sigortalara izin veren yeni bir yasa çıkarttı. Bu yasaya göre, araç sürücüsüz otonom moda geçtiğinde de aynı insan kullanıyormuş gibi sigortalanabilecek. Daha da ötesinde, yasa sigorta şirketlerine otonom araçların yol açtığı hasarları da kabul etme zorunluluğu getiriyor.
Benzer planlar Almanya’da da var: Ulaştırma Bakanı’nın açıkladığı yasa taslağına göre, sürücü bazı durumlarda kontrolü tamamen bilgisayara devretme imkanına kavuşabilmeli. Fakat bu ‘kusursuz sorumluluk’ olarak adlandırılan temel prensibi değiştirmiyor: Eğer sürücü kendisinin suçlu olmadığını doğrularsa, bu diğer aracın (yani sahibinin) sorumlu olduğunu iddia etmiş oluyor. Onun sorumluluk sigortası olası zararları karşılayacaktır, her ne kadar kazaya yapay zeka sebep olmuş olsa da.
Joachim Müller, Allianz Versicherungs AG sigorta şirketinin yönetim kurulu başkanı yaptığı açıklamada sigorta ve sorumluluk sisteminde Birleşik Krallık’ta olduğu gibi bir reforma ihtiyaç olmadığını belirtti: “Birleşik Krallık’ta kazanın mağduru sorumluluğu her zaman ispat etmek zorunda. Onlarda kusursuz sorumluluk konsepti yok.” Bay Müller kusursuz sorumluluğun araçların adım adım otonomlaşmasında ideal yasal zemini teşkil ettiğine inanıyor: “Bu kazazedeye ödeme yapılmasını garanti altına alıyor, kazanın sebebinin sürücü veya sistem hatası olmasına bakılmaksızın.” Eğer bir sistem veya ürün hatası varsa, sigorta şirketi üreticiye rücu edecektir.
Kendi kendine öğrenen algoritmaların sorunu
Fakat durum yakında daha da karmaşıklaşacak. Şüphe halinde, şu an üreticiler veya programcılar kendileri ürettikleri sorunlu yazılımdan sorumlular. Fakat, tıpkı isminden anlaşılacağı gibi, kendi kendine öğrenen algoritmalar kendi kendilerini geliştiriyor. Örneğin, bir otomatik şablon algılama yazılımı programlandığında, bu kodlardaki değişiklik ile geliştirilmiyor, devasa miktardaki veriyi içeren bir eğitim ile geliştiriliyor. Bu eğitim tamamlandığında, kendi kendine öğrenen yazılım kesinlikle üreticisinin veya programcısının ilk amaçlarının ötesine geçen kararlar alabilir hale geliyor. Bu özellikle DeepMind için otonom AlphaGo algoritmasında belli oluyor, Google’ın “derin öğrenme” departmanının ürünü.
Gelişimini tamamladıktan sonra, Asyalıların strateji oyunu ‘Go’da dünyanın en iyi oyuncularını yenmeyi başardı’. Bu durumun özel yanı şu: Neredeyse sonsuz hamle seçeneği olduğu düşünülürse, modern kaynaklar rakibin hamlelerini tahmin etmek konusunda yetersiz kalıyor. Sonuç olarak, galibiyet veya mağlubiyet geniş ölçüde oyuncunun inisiyatifine kalıyor. Daha da ilginç olan makinenin insanı nasıl yenmiş olduğu: DeepMind takımı şunu fark etti ki kazanmalarına sebep olan hamle sadece Go geleneğinin tüm kurallarına aykırı değil (ki bu oyunun binlerce yıllık bir geçmişi var); bu hamle insan inisiyatifinin de ötesinde. Basitçe söylemek gerekirse bu bir insanın yapabileceği bir hamle değildi.
Belirleyici adım atıldı
AlphaGo gibi algoritmalar çok yoğun miktarda işlem kapasitesine sahipler. Daha da ötesinde, insan beyni ile kıyaslanınca çok aşırı miktarda enerji sarfediyorlar. Fakat belirleyici adım – yani insanın belirlediği sınırın ötesine geçebilme – atıldı. Problem şurada: Eğer AlphaGo gibi bir algoritma böylesi bir karar alıp zarara sebep olursa, üreticiler ve programcılar bu alınan kararla bir ilgileri olmadığını iddia edecektir.
Sonuç olarak, Avrupa Parlamentosu, AB Komisyonu’na verdiği bir öneride AB çapında sorumluluk düzenlemeleri yapılmasını, yani robot yasaları çıkarılmasını önerdi. Otonom araçlar için açık sorumluluk düzenlemelerinin yanında, kanun koyucular Komisyon’un yapay zeka için bir yasal statü belirlemesini istiyor – buna örneğin “elektronik kişilik” denilebilir.
Bu düzenlemeye göre, bu tanıma “bağımsız kararlar alan” robotlar girecek. Ayrıca parlamenterler bu alanda çalışan araştırmacı ve tasarımcılar için gönüllülük esasına dayalı bir etik yasasından bahsediyor. Bu sayede tasarım ve robot kullanımının insan haysiyetine saygı duyması ve yasal ve etik standartlara uyulması hedefleniyor.
Yazılımın ahlaksal sınırlamalara ihtiyacı var
Profesör Armin Grunwald, Karlsruhe Teknoloji Enstitüsü’nden (KIT), aynı fikirde: Röportajımızda kendisi şu ifadeyi kullandı: “ kendi kendine öğrenen yazılımın sık sık yasal ve ahlaksal normlara bağlı kaldığının denetlenmesi gerekmektedir”. Özellikle bir öğrenme sürecinde, herşeyin sonunda iyi olacağını düşünmemek gerekir. Profesör Grunwald’a göre, Microsoft’un otonom Twitter botu ‘Tay’ ile yaptığı deneme başarısız makinesel öğrenmeye iyi bir örnek teşkil ediyor. Tay kısa sürede cinsiyetçi ve ırkçı hale geldi ve Microsoft bundan vazgeçti. Profesör Grunwald’a göre: “Öğrenme tek başına iyi değildir.” Bu nedenle öğrenmenin en baştan sınırlarının belirlenmesi gerekiyor. Bu nedenle programcılara geliştirme aşamasında mevcut değerler sistemine göre şekil almalarını öneriyor, sanki bir Ahlak çatışması varmışcasına – Bu her ne kadar kendisinin de itiraf ettiği gibi kolay olmasa da.
Fakat, Profesör Grunwald AB Parlamentosu’nun önerdiği “elektronik kişilik” kavramına mesafeli yaklaşıyor. Bu tarz bir konsept yapay zekayı ceza hukuku anlamında sorumlu tutsa da, bunun ciddi bir kusuru olduğuna inanıyor: Cezalandırma seçeneği yok. “Bir yazılıma para veya hapis cezası veremezsiniz”, diyor Profesör Grunwald. Sonuçta bir finansal algoritma gibi bir yapay zekanın fiziksel bir varlığı yok.
Wanda H.’nin durumunda olduğu gibi, öldürülen teknisyen, bunu yapan robot hapse girmeyecek. Bunun kendi kendine devreye girmesi trajik bir kazaydı. Fakat, bağımsızca hareket eden robotlar artık hayatımıza fazlasıyla girecek. İnsanoğlunun bu senaryoya hazırlanması için hala bir süreçten geçmesi gerek.
