Humanoid robotların evlerde, fabrikalarda ve kamusal alanlarda daha yaygın kullanıldığı bir gelecek düşünelim. Bir robot hata yapıyor ve bir insan zarar görüyor. Sorumluluk üreticide mi, kullanıcıda mı, yazılım sağlayıcısında mı yoksa birden fazla aktörde mi olacak?
Bu soruya tek bir evrensel cevap vermek doğru değildir. Sorumluluk; olayın gerçekleştiği ülkenin hukuku, ürünün niteliği, kullanım biçimi, teknik arıza, yazılım, insan müdahalesi ve somut deliller gibi unsurlara göre değişebilir.
Sorumluluk Zinciri
Bir robotun davranışı mekanik parçalar, sensörler, yazılım, yapay zekâ bileşenleri, güncellemeler, kullanıcı komutları ve fiziksel ortam gibi birçok unsurun etkileşimiyle ortaya çıkabilir. Bu nedenle teknik bir olayda yalnızca “robot hata yaptı” demek neden-sonuç zincirini açıklamayabilir.
Örneğin üretim kusuru, bakım eksikliği, kullanıcı tarafından güvenlik sınırlarının değiştirilmesi veya üçüncü taraf yazılımındaki bir sorun farklı değerlendirmeler gerektirebilir. Hukuki sorumluluğun kime ait olduğu ise somut olay ve uygulanabilir hukuk üzerinden belirlenir.
AI Yönetişiminde Yaşam Döngüsü Yaklaşımı
Yapay zekâ risk yönetimi çerçeveleri, sistemlerin geliştirme ve kullanım yaşam döngüsü boyunca rollerin, risklerin ve sorumlulukların tanımlanmasına önem verir. Robotlar yapay zekâyı fiziksel sistemlerle birleştirdikçe benzer yaşam döngüsü yaklaşımı güvenlik ve yönetişim açısından daha önemli hale gelebilir.
Bu konu robotik sistemlerin temel bileşenleri, robot öğrenmesi ve robot dijital ikizleri ile birlikte değerlendirilebilir.
Kullanıcı Müdahalesi ve Ürün Hatası Aynı Değildir
Bir ürünün üretim veya tasarım kaynaklı kusuru ile kullanıcının güvenlik mekanizmasını bilinçli biçimde değiştirmesi aynı teknik senaryo değildir. Avrupa Birliği’nin dijital çağ için güncellediği ürün sorumluluğu yaklaşımı yazılımı da ürün sorumluluğu tartışmasının içine dahil etmektedir. Ancak belirli bir robot olayında bunun nasıl uygulanacağı konusunda somut olay incelenmeden hukuki sonuç çıkarılamaz.
Robot Olaylarının Teknik İncelenmesi
Gelecekte robotların karıştığı ciddi olaylarda sensör kayıtları, yazılım sürümü, komut geçmişi, güvenlik mekanizmaları, mekanik durum ve kullanıcı müdahaleleri gibi teknik verilerin incelenmesi gerekebilir. Bu tür incelemeler robotik, yazılım, siber güvenlik ve hukuk gibi farklı uzmanlıkların birlikte çalışmasını gerektirebilir.
Robot gösterilerinde insan müdahalesi konusu da bir sistemin ne kadar otonom olduğunun doğru anlaşılması açısından önemlidir.
Teknik Kayıtlar ve Mahremiyet
Robotlar tasarımlarına bağlı olarak sensör verileri, hata günlükleri ve komut kayıtları üretebilir. Bu veriler olay analizine yardımcı olabilir; fakat kayıtların bütünlüğü, erişim yetkileri, saklama süresi, kişisel veri niteliği ve hukuki delil değeri ayrıca değerlendirilmelidir.
Ev ve kamusal alan robotlarında kamera, mikrofon veya başka sensörlerin kullanılması mahremiyet ve veri koruma sorularını da gündeme getirir. Hangi verinin hangi hukuki temelle işlendiği, nerede saklandığı ve kimlerin erişebildiği uygulanabilir veri koruma mevzuatına göre değerlendirilmelidir.
Robot Güvenliği İçin Standartlar
Robot güvenliği konusunda farklı kullanım alanlarına yönelik uluslararası teknik standartlar bulunmaktadır. Bu standartların varlığı, bütün robotlar için tek bir evrensel hukuk rejimi bulunduğu anlamına gelmez. Teknik güvenlik standardı ile hukuki sorumluluk düzenlemesi birbirinden ayrılmalıdır.
Humanoid robotların gerçek yetkinlikleri ve humanoid robotların sınırları bu tartışmanın teknik tarafını tamamlar.
Robotların Hakları Olabilir mi?
Günümüzde robotların insanlarla aynı hukuki haklara veya öznel deneyime sahip olduğu varsayımı bilimsel veya hukuki gerçek olarak kullanılamaz. Gelecekte robotlara özel hukuki statülerin ortaya çıkıp çıkmayacağı ise spekülatif bir tartışmadır.
Ben insanların robotları bilinçli biçimde kötüye kullanmasının etik ve güvenlik boyutlarının tartışılmasını önemli buluyorum. Bunun gelecekte “robot hakkı” olarak mı, mülkiyet ve güvenlik kurallarıyla mı yoksa başka bir modelle mi düzenleneceğini bugünden söylemek mümkün değil.
Robotun Kendisi Hukuken Sorumlu Olabilir mi?
Bugünkü robotların hukuki sorumluluğunu insanlarla aynı biçimde değerlendirmek için genel bir hukuki temel bulunduğunu varsaymamak gerekir. Otonomi ve öğrenme kapasitesi arttıkça sorumluluğun üretici, sağlayıcı, kullanıcı ve diğer aktörler arasında nasıl dağıtılacağına ilişkin tartışmaların gelişmesi mümkündür.
Bu metin belirli bir olay için “kim suçlu” veya “kim ne ceza alır” sonucu üretmez. Böyle bir değerlendirme yetkili hukuk profesyonellerinin somut olay, deliller ve yürürlükteki mevzuat üzerinden yapması gereken bir işlemdir.
Sonuç
Bir robot hata yaptığında tek bir aktörü otomatik olarak sorumlu ilan etmek yerine teknik ve insani neden zincirini incelemek daha anlamlıdır. Üretici, yazılım sağlayıcısı, kullanıcı, bakım süreçleri ve sistem tasarımı farklı olaylarda farklı roller oynayabilir.
Gelecekte özel robotik denetim kurumlarının, yeni uluslararası ilkelerin veya farklı hukuki statülerin ortaya çıkması mümkündür; ancak bunlar bugün var olan kurumlar veya kesinleşmiş hukuk kuralları gibi sunulmamalıdır.
Teknoloji ve insan–robot ilişkileri üzerine diğer değerlendirmeler için Myths 360 içerikleri incelenebilir.
Yazar Notu: Bu yazı Nilgün Kalkan’ın robot teknolojileri, insan–robot ilişkileri ve gelecekte ortaya çıkabilecek robot hukuku üzerine kişisel değerlendirmelerini içerir. Gelecekte kurulabilecek kurumlar, robotlara özel haklar ve yeni hukuki modeller öngörü niteliğindedir. Metin hukuki görüş veya danışmanlık değildir.
