4.

Yapay Zekâ Etiğine İlişkin

Teknik Öneriler
1 Nisan 2022, Dr. Mehmet HAKLIDIR anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Bu haftaki dersimizde, TÜBİTAK BİLGEM Bulut Bilişim ve Büyük Veri Araştırma
Laboratuvarı (B3LAB) Müdürü Dr. Mehmet Haklıdır'ı ağırlamaktan mutluluk
duyuyoruz. Bu derste farklı kuruluşların etik yaklaşımlarından kısaca bahsettikten
sonra, UNESCO'nun YZ'nin Etiği kılavuzuna ilişkin tavsiyelerine atıfta bulunarak ve
teknik olarak vaka çalışmaları üzerinden tartıştık.
Güvenilir YZ (Trustworthy AI - TAI)
"Güvenilir YZ, değerlere dayalı ilkelere saygı duyan YZ anlamına gelir." (
OECD Tanımı
)
"Güvenilir YZ, Değer temelli ilkeler olan kapsayıcı büyüme, sürdürülebilir kalkınma ve
refah, insan merkezli değerler ve tarafsızlık, şeffaflık ve açıklanabilirlik, sağlamlık,
güvenlik ve güven ile hesap verebilirliği esas alan YZ’dir." (
Türkiye'nin Ulusal Yapay Zeka Stratejisi
)

YZ için Küresel Ortaklık- GPAI:

GPAI, BM Sürdürülebilir Kalkınma Hedefleri ile uyumlu olarak insan merkezli YZ

sistemlerinin sorumlu bir şekilde geliştirilmesini, kullanılmasını ve yönetilmesini teşvik
etmeye ve katkıda bulunmaya çalışmaktadır.

Avrupa Komisyon YZ Ad Hoc Komitesi - CAHAI:

Komite, Komisyonu temel alarak YZ'nin geliştirilmesi, tasarımı ve uygulanması için

yasal bir çerçevenin, geniş çok paydaşlı istişareler temelinde fizibilite ve potansiyel
unsurları inceledi.

YZ Etiğine İlişkin UNESCO Tavsiyesi

 Buzdağının görünen tarafı yalnızca uygulamalardan oluşuyor

 İnsan haklarına ve temel özgürlüklere ve insan onuruna saygı gösterilmesi, korunması

ve geliştirilmesi
 Çevre ve ekosistem geliştirilmesi
 Çeşitlilik ve kapsayıcılığın sağlanması
 Barışçıl, adil ve birbirine bağlı toplumlarda yaşamak
 Ölçülülük ve zarar vermeme
 Adalet ve ayrımcılık yapmama
 Mahremiyet hakkı ve veri koruma
 İnsan gözetimi ve kararlılığı
 Şeffaflık ve açıklanabilirlik
 Sorumluluk ve hesap verebilirlik
 Farkındalık ve okuryazarlık
 Çok paydaşlı ve uyarlanabilir yönetişim ve işbirliği

Adalet ve ayrımcılık yapmama

Önyargı, aşağıda açıklanan adımlardan bir veya daha fazlasından kaynaklanabilir.
Veri Toplama, yanlılığın en çok görüldüğü yerdir. Verilerin belirli bir eğilime sahip
kişiler tarafından oluşturulması veya verilerin toplandığı ekipmanın çarpıtılması
durumunda veri kümesi temelli yanlılık oluşabilir.
Veri Ön İşleme, verileri model için hazırlıyor. Bu aşamada uygulanan işlemler yanlılığa
neden olabilir. Örneğin, eksik değerleri temsil eden veriler yanlılığa neden olabilir
veya veri filtreleme işlemi veri bütünlüğünün bozulmasının nedeni olabilir.
Modelleme, bu adımda örüntüleri tanımaya yönelik eğitim sürecidir, yanlılığın nedeni
modelin parametrelerinden kaynaklanıyor olabilir.
YZ Kötüleştiğinde: Google Fotoğraflar'ın Utancı
 Önerilen Belgesel - Kodlanan Önyargı
Şeffaflık ve açıklanabilirlik

Açıklanabilir YZ (Explainable AI-XAI), aşağıdakileri sağlayan bir makine öğrenmesi

teknikleri paketi oluşturmayı amaçlar:

 Yüksek düzeyde öğrenme performansını korurken (tahmin doğruluğu) daha

açıklanabilir modeller üretilebilir.
 İnsan kullanıcıların, yeni nesil YZ destekli iş ortaklarını anlamalarını, uygun şekilde
güvenmelerinin ve etkin bir şekilde yönetmelerinin sağlanmasıdır.

Açıklanabilir YZ'nin iki ana bölümü vardır:

 Açıklanabilir Model: YZ sisteminin 'açıklanabilir' hale getirilmesi için mevcut

yöntemlerden daha verimli ve daha gelişmiş YZ tekniklerinin geliştirilmesi veya bu
kapsamda mevcut yöntemlerin yenilenmesi sağlamak.
 Açıklanabilir Arayüz: YZ konusunda uzmanlığı olmayan ancak YZ'nin kullanıldığı
uygulama alanında uzman olan son kullanıcıların, oluşturulan model ile ileri düzeyde
etkileşim kurarak YZ çıktılarını değerlendirmesini ve yorumlamasını sağlamak.

Mahremiyet hakkı ve veri koruma

İnsan gözetimi ve kararlılığı

Ölçülülük ve zarar vermeme

Sorumluluk ve hesap verebilirlik

Güvenilir YZ gerçekleştirmek için teknik ve teknik olmayan yöntemler

Yukarıdaki gereklilikleri uygulamak için hem teknik hem de teknik olmayan yöntemler
kullanılabilir. Bunlar, bir YZ sisteminin yaşam döngüsünün tüm aşamalarını oluşturur.
Gereksinimleri uygulamak için kullanılan yöntemlerin bir değerlendirmesinin yanı sıra
uygulama süreçlerindeki değişiklikleri raporlamak ve gerekçelendirmek, sürekli olarak
yapılmalıdır.
Örnek olarak şekildeki gibi bir süreç alınabilir.
Sistemin tüm yaşam döngüsü boyunca Güvenilir YZ'yi Gerçekleştirmek - Güvenilir YZ
için Etik Kuralları
Önümüzdeki hafta Bahçeşehir Üniversitesi Beşiktaş kampüsünde yüz yüze dersimizde
bir vaka çalışması yapacağız. Misafirimiz olmayacak, biz bizeyiz. Bakalım sonuçlar ne
olacak!