Dijital Dünyada Vicdan: Yapay Zekâ ve Etik Sınırlar

Giriş

Teknolojik gelişmelerin günümüzde geçmiş dönemlere kıyasla çok daha hızlı ilerlemesi, toplumsal hayatın hemen her alanında dijitalleşmeyi fiilen zorunlu kılmıştır. Eğitim ve sağlık hizmetlerinden kamu faaliyetlerine, özel sektör uygulamalarından bireysel yaşama kadar pek çok alanda dijital teknolojilerden aktif biçimde yararlanılmaktadır. Bununla birlikte, dijital dönüşüm süreci önemli etik ve hukuki sorunları da beraberinde getirmiştir.

Kişisel verilerin dijital ortamlara taşınması, bireyler ile kurumların çevrim içi alandaki faaliyetlerinin artması ve karar alma süreçlerinde otomasyonun yaygınlaşması, dijital davranışların hangi sınırlar içinde değerlendirilmesi gerektiği sorusunu gündeme taşımıştır. Bu tartışmalar çerçevesinde “dijital vicdan” kavramı önem kazanmıştır.

Dijital Vicdan Nedir?

Dijital vicdan, dijital dünyada etik ilkelere uygun biçimde hareket etmeyi ifade eder.[1] Bu kavram, bireylerin ve kurumların dijital alandaki eylemlerinde etik sorumluluk bilinciyle hareket etmelerini amaçlar. Dijital vicdan; dijital çağda kişisel verilerin korunması, mahremiyetin sürdürülmesi, özerklik ve hesap verebilirliğin sağlanması gibi geniş bir yelpazeye yayılan etik meseleleri kapsar.

Bu doğrultuda yapay zekâ, büyük veri, algoritmik karar alma ve otomasyon sistemleri gibi yenilikçi teknolojilerin yaygınlaşmasıyla birlikte, etik ilkelerin bu sistemlere nasıl entegre edileceği yoğun biçimde tartışılmaktadır. Ancak alanın görece yeni olması nedeniyle, evrensel düzeyde kabul görmüş ortak değer ve standartların tam anlamıyla yerleştiği söylenemez. Bu bağlamda, farklı akademisyenler tarafından önerilen dijital etik modelleri; bireylerin dijital ortamdaki haklarının korunması ve teknolojinin insan yararına yönlendirilmesi açısından kritik önemdedir.

Dijital Etik Değerleri

Dijital etik alanında yapılan çalışmalarda etik değerlere ilişkin farklı sayıda ve farklı isimlendirmelerde etik değer listeleri oluşturulmuştur. Bu değerler, dijital vicdanın soyut bir ideal olmaktan çıkıp somut davranış standartlarına dönüşmesini sağlar. Başka bir ifadeyle dijital vicdan, dijital etik değerleri aracılığıyla bireylerin ve kurumların tasarım, kullanım ve karar süreçlerine rehberlik eden bir ilke seti hâlini alır. Bu değerlerden Hoven’in "Dijital Çağda Etik: Ahlaki Alanlar Nerede? (Ethics for the Digital Age: Where Are the Moral Spaces)" başlıklı çalışmasında belirlenenler şunlardır:

• Sorumluluk: Teknolojilerin karmaşık yapısı nedeniyle sorumluluğun açık biçimde belirlenmesi gerekir.
• Gizlilik: Bilgi teknolojisi sistemleri kişisel bilgilere erişimi kolaylaştırdığından, gizliliğin korunması temel bir gerekliliktir.
• Özerklik: Kişilerin kendi kararlarını verebilme yetilerinin korunması önem taşır. Algoritmalar ve otomasyon sistemleri özerklik bakımından özellikle hassas alanlardır. Bu sistemler tasarlanırken kişilerin karar verme özgürlüğüne zarar verilmemelidir.
• Hesap Verebilirlik: Dijital sistemlerde, özellikle yapay zekâ ve büyük veri işleme uygulamalarında süreçlerin izlenebilir ve anlaşılabilir olması gerekir.
• Veri Mülkiyeti Haklarını Desteklemek: Dijital dünyada veriler ekonomik değer de taşıdığından, kişilerin verilerine ilişkin haklarının korunması önemlidir.
• Emniyette Hissetmek: Dijital ortamlarda kişilerin kendilerini fiziksel ve psikolojik olarak güvende hissedebilmeleri için dijital tehditlere karşı korunmaları gerekir.
• Güvenilirlik: Dijital sistemlerin güvenli biçimde çalışması; yanıltıcı, manipülatif veya hatalı sonuçlar üretmeye elverişli olmaması gerekir.
• Sürdürülebilirlik: Dijital teknolojilerin uzun vadede hem toplumsal hem çevresel açıdan zararsız biçimde geliştirilmesi ve kullanılması gerekir.[2]

Başka bir dijital etik çalışmasına ait “Etik Uyumlu Tasarım: Yapay Zeka ve Otonom Sistemlerle İnsan Refahını Önceliklendirme Vizyonu (Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems)” isimli raporda ise şu değerler belirlenmiştir:

• İnsan Hakları: Dijital sistemler insan haklarına uygun şekilde tasarlanmalıdır.
• İyi Olmak: Dijital sistemlerin öncelikli amacı kişilerin refahını artırmak olmalıdır.
• Veri Mülkiyeti Haklarını Desteklemek: Kişilerin kendi verilerine kolayca erişebilmesi ve verilerini güvenli biçimde paylaşabilmesi mümkün olmalıdır.
• Etkinlik: Sistemler verimli ve amaçlarına uygun şekilde çalışmalıdır.
• Şeffaflık: Sistemlerin karar alma süreçleri açık ve anlaşılabilir olmalıdır.
• Hesap Verebilirlik: Sistemler aldıkları kararları gerekçelendirebilecek biçimde tasarlanmalıdır.
• Kötüye Kullanım Farkındalığı: Geliştiriciler, dijital sistemlerin kötüye kullanılma olasılığını gözetmeli ve bunu önleyecek koruma mekanizmaları oluşturmalıdır.
• Yetkinlik: Tasarımcılar ve geliştiriciler sistemin işletimi için gerekli yetkinlikleri belirlemeli; operatörler de bu gerekliliklere uygun davranmalıdır.[3]

Yapay Zekâ Etiğine İlişkin Hukuki Düzenlemeler

Yapay zekâ alanındaki gelişmeler hızlandıkça, uluslararası örgütler de özellikle insan hakları bakımından olumsuz sonuçların önlenmesi amacıyla yeni ilke ve düzenlemeler geliştirmektedir. Bu noktada dijital vicdan, yalnızca bireysel bir farkındalık değil; aynı zamanda kurumların ve devletlerin sorumluluk, şeffaflık ve hesap verebilirlik ilkelerini güvence altına alan düzenlemelerle desteklenmesi gereken bir yönetişim meselesi olarak da karşımıza çıkar.

Avrupa Konseyi bünyesinde, Avrupa Yargının Etkinliği Komisyonu’nun (CEPEJ) kabul ettiği “Yapay Zekânın Yargı Sisteminde Kullanılmasına Dair Avrupa Etik Şartı” (“Şart”) bu alandaki erken dönem metinlerdendir. Şart; yapay zekânın yargı sistemlerinde kullanımında temel haklara saygı ve ayrımcılık yapmama başta olmak üzere, yargı süreçlerinin meşruiyeti açısından kritik ilkelere dikkat çeker.

OECD, Yapay Zekâ Konseyi Tavsiyesi ile yapay zekânın sorumlu yönetimi için değer temelli ilkeler belirlemiştir. Bu çerçevede öne çıkan ilkeler şu şekilde özetlenebilir:

1. Kapsayıcı büyüme, sürdürülebilir kalkınma ve refah
2. İnsan merkezli değerler ve adalet
3. Şeffaflık ve açıklanabilirlik
4. Sağlamlık, güvenlik ve emniyet
5. Hesap verebilirlik

Avrupa Birliği’nde ise 1 Ağustos 2024 tarihinde yürürlüğe giren Avrupa Birliği Yapay Zekâ Kanunu (Artificial Intelligence Act, “Kanun”), yapay zekâ sistemlerinin kullanım alanlarını ve taşıdıkları risk düzeylerini ayrıntılı biçimde sınıflandırmıştır. Kanun kapsamında yapay zekâ uygulamaları; kabul edilemez risk, yüksek risk, sınırlı risk ve asgari risk olmak üzere kategorilere ayrılmış; özellikle yüksek risk grubuna dâhil edilen uygulamalar bakımından kapsamlı ve sıkı yükümlülükler öngörülmüştür. Bu yükümlülükler arasında risk değerlendirmesi, veri kalitesi, şeffaflık, insan gözetimi ve izlenebilirlik gibi hususlar yer almaktadır.[4]

Bununla birlikte, söz konusu düzenlemeler halen büyük ölçüde bölgesel niteliktedir. Küresel ölçekte bağlayıcı ve ortak bir yapay zekâ etik ve hukuk çerçevesi oluşturulduğunu söylemek güçtür. Farklı ülkeler ve hukuk sistemleri yapay zekâya ilişkin etik ilkeler ve hukuki standartlar konusunda farklı yaklaşımlar benimsemekte; bu durum uluslararası alanda yeknesak bir uygulamanın önünde engel oluşturmaktadır. Yapay zekânın sınır aşan etkileri dikkate alındığında, küresel düzeyde ortak ilkelere dayalı bir düzenleme ihtiyacı giderek daha belirgin hâle gelmektedir.

Kişisel Verilere İlişkin Etik Endişeler

Çevrim içi ortamlarda üretilen verilerin yanı sıra, bireylerin çevrimdışı yaşamda gerçekleştirdikleri pek çok faaliyet de çeşitli araçlar aracılığıyla izlenmekte ve kayıt altına alınmaktadır. Bu durum; verilerin hangi yöntemlerle işlendiği, kullanıcıların bilgisi veya rızası dışında hangi amaçlarla kullanılabildiği ve üçüncü taraflara hangi kapsamda aktarılabildiği konularında ciddi endişeler doğurmuştur. Bu noktada dijital vicdan, kişisel veriyi yalnızca işlenebilir bir kaynak olarak değil, bireyin mahremiyetine bağlı bir hak alanı olarak görmeyi gerektirir. Bu yaklaşım, veri işlemenin ancak açık rıza, amaçla sınırlılık ve ölçülülük ilkeleri çerçevesinde yürütülmesini; kurumların ise topladıkları veriyi neden topladıklarını, ne kadar süre tuttuklarını ve kimlerle hangi gerekçeyle paylaştıklarını gerekçelendirebilmelerini zorunlu kılar.

Son dönemde yaşanan çeşitli olaylar, özellikle kişisel verilerin üçüncü kişilere aktarılması ve ticari amaçlarla satışına ilişkin uygulamalar kamuoyunda yoğun tartışmalara neden olmuştur. Örneğin, telefonlardan elde edilen konum verilerinin oldukça isabetli biçimde takip edilerek üçüncü kişilere satılabildiği New York Times tarafından ifşa edilmiştir. Ayrıca kredi kartı servislerini sağlayan bazı şirketlerin, kullanıcıların alışveriş verilerini üçüncü kişilere sattığı da bilinmektedir. Üçüncü kişiler ise elde ettikleri verileri, kişilerin daha bütüncül biçimde analiz edilebilmesi amacıyla, veri sahibinin rızasının bulunup bulunmadığına bakmaksızın işleyebilmektedir.[5] Nitekim 2018’de gündeme gelen Cambridge Analytica–Facebook skandalında, hükümetler için veri analizi yapan Cambridge Analytica’nın, kullanıcıların Facebook’ta paylaştığı kişisel bilgileri haberleri dışında topladığı ve bunları siyasi propaganda amaçlı kullandığı ortaya çıkmıştır.[6] Bu haberlerin yayılması sonrasında 2019 yılında Facebook’a 5 milyar ABD doları tutarında ceza verilmiştir.[7]

Kişisel verilerin üçüncü kişilere satışı dışında, kişisel verilerin anonimleştirilmesi ve kamuyla paylaşılması da ayrı etik riskler doğurmaktadır. Her ne kadar veri sahibinin adı anonimleştirilmiş olsa da anonimleştirilmiş verilerin kamuya açılması sonrasında bazı kişilerin bu verileri diğer kaynaklardaki bilgilerle eşleştirerek veri sahibinin kimliğine ulaşması mümkün olabilmektedir. Bu nedenle, dijital vicdan doğrultusunda anonim olduğu varsayılan verilerin dahi kamuyla paylaşımında yüksek dikkat ve özen gösterilmesi gerekir.

Sonuç

Dijital çağ fırsatlar sunarken; kişisel verilerin korunması, mahremiyet, yapay zekânın etik ve hukuka uygun kullanımı ile şeffaf ve hesap verebilir sistem tasarımı gibi riskler doğurur. Dijital etiğin hayata geçmesi için birey ve şirketlerin “dijital vicdan” bilinciyle hareket ederek etik sorumluluğu tasarım ve karar süreçlerine yerleştirmesi gerekir; güvenilir ve sürdürülebilir bir dijital düzen ancak böyle sağlanabilir.

Katkıları için Yağmur Melek Sarıhasanoğlu’ya teşekkür ederiz.

Kaynakça

Akıncılar Köseoğlu, N., & Çetin, B. (2024). Avrupa’da Dijital Etik, İnsan Hakları Bağlamında Yapay Zekâ ve Algoritmik Ayrımcılık. Kastamonu Üniversitesi İktisadi ve İdari Bilimler Fakültesi Dergisi, 69-83.

Aslan, A. (2022). Dijital Hayattaki Etik İhlallerin Tespiti ve Analizi: Cambridge Analytica Veri Skandalı. Medya Okuryazarlığı Araştırmaları Dergisi, 57-61.

BBC. (2019, 06 13). Facebook 'to be Fined $5bn Over Cambridge Analytica Scandal. BBC: https://www.bbc.com/news/world-us-canada-48972327 adresinden alındı

Pike, E. R. (2020). Defending Data: Toward Ethical Protections and Comprehensive Data Governance. Emory Law Journal, 687-744.

Turan, T. (2024). Dijital Vicdan: Yapay Zeka Çağında Etik. Yaz Yayınları.

Uzun, H. (2024). Dijital Dünya, Dijital Etik. EGE 12. Uluslararası Sosyal Bilimler Konferansı (s. 3899-3907). Academy Global Publishing House. https://www.researchgate.net/profile/Hatice-Uzun-2/publication/388005020_DIJITAL_DUNYA_DIJITAL_ETIK/links/6786eb7655274940f126c448/DIJITAL-DUeNYA-DIJITAL-ETIK.pdf?_tp=eyJjb250ZXh0Ijp7ImZpcnN0UGFnZSI6InB1YmxpY2F0aW9uIiwicGFnZSI6InB1YmxpY2F0aW9uIn19 adresinden alındı