Subscribe to DeepL Pro to translate larger documents.

Visit www.DeepL.com/pro for more information.

AUDI TA N DA S U R A N C E

AUDITING
ARTIFIKAL
İNTELLIGENCE
 2 YAPAY ZEKA DENETIMI

KONTENTS
4 Yapay Zekanın Kurumlar Üzerindeki
Potansiyel Etkisi
4 Denetçiler Yapay Z e k a y ı Neden Önemsemeli?
4 / Denetçi için Zorluklar
6 / COBIT'i Strateji ile Haritalamak: COBIT®
2019'un Yapay Zekanın Denetiminde Nasıl
Uygulanacağına Dair Görsel Bir Temsil
8 / YZ Denetçisi için Zorluklar ve Çözümler
9 Sonuç
10 Yapay Zeka Denetimi için Kaynaklar ve Referanslar
12 Teşekkür

© 2018 ISACA. Tüm Hakları Saklıdır.

3 YAPAY ZEKA DENETIMI

ABSTRACT
Yapay zekayı (AI) denetlemek için kendilerini donatmaya hazırlanan BT denetçileri için
birçok potansiyel zorluk vardır. Ancak zorlukları başarıya dönüştürebilecek çözümler de
mevcut. Bu teknik doküman, yapay zekaya odaklanmaya hazırlanan denetçilerin bilmesi
gerekenlere odaklanmaktadır. Yapay zekanın tanımını incelemekte, yapay zekayı
denetlemenin zorluklarını tanımlamakta ve COBIT®'in mevcut sürümünün (COBIT® 2019) yapay
zekayı denetlemek için nasıl kullanılabileceğini tartışmaktadır. Ayrıca, günümüzde geçerli
olan diğer çerçeveler de tanımlanmaktadır. Denetçiler, YZ'yi başarılı bir şekilde
denetlemenin ilk anahtarlarını keşfedecek ve ilgili referansları ortaya çıkaracaktır.

© 2018 ISACA. Tüm Hakları Saklıdır.

4 YAPAY ZEKA DENETIMI
Yapay Zekanın Kurumlar Üzerindeki
Potansiyel Etkisi
Yapay zekanın bir dizi sektör ve meslekte yaratacağı
etkiye ilişkin pek çok gerçek ve yarı gerçek var. Bazı
sektörler, teknolojinin unsurlarını diğerlerinden daha hızlı
benimsemiş, farklı derecelerde başarı ve zorluklarla
karşılaşmıştır. YZ'yi çevreleyen heyecan göz önüne
alındığında, bu teknolojinin
Denetçiler Yapay Zekayı Neden
Önemsemeli?
Gelişmekte olan birçok karmaşık teknoloji gibi, YZ de
birçok uzman tarafından birçok şekilde
tanımlanmaktadır. ISACA araştırma ekibi, teknolojinin
sürekli değişen kapsamı ve bağlamı nedeniyle tanımda
esnekliği korumayı seçmiş olsa da, genel bir tanım
YZ'nin doğası ve amacı hakkında bir gösterge olarak
hizmet edebilir. Alanın önde gelen beyinlerinden Russell
ve Norvig, YZ'yi, çevrelerini algılayan ve hedeflerine
başarılı bir şekilde ulaşma şanslarını en üst düzeye
çıkaran eylemlerde bulunan cihazlar olan "akıllı ajanlar"
çalışması olarak adlandırmaktadır. 1 yapay zeka her zaman önceden tanımlanmış bir dizi kurala
Diğer iki kavram da yapay zekayı anlamada yardımcı
olabilir:
• YZ, içinde birkaç küçük daire bulunan büyük bir daire olarak
tasavvur edilebilir. Algoritmalara dayalı görevleri "akıllı" bir
şekilde yerine getiren makineler olan YZ,2 büyük dairedir;
makine öğrenimi gibi diğer, daha spesifik YZ türleri ise
© 2018 ISACA. Tüm Hakları Saklıdır.
öngörülebilir gelecekte iş dünyasındaki birçok alan
üzerinde önemli bir etkisi olacaktır. Denetçilerin bu
konuda güvence sağlama ihtiyacı göz önüne
alındığında, YZ'nin denetim mesleği üzerinde de geniş
kapsamlı bir etkisi olacaktır. Bu makalenin amacı,
denetçileri gerçek dünyadaki bir denetim senaryosunda
YZ'den ne beklemeleri ve ona nasıl yaklaşmaları gerektiği
konusunda hazırlamaktır.
daha küçük dairelerde temsil edilir. Makine öğrenimi,
makinelerin bir dizi veriyi alma ve işledikleri bilgi hakkında
daha fazla şey öğrendikçe algoritmalarını gerektiği gibi
değiştirerek kendi kendilerine öğrenme becerisine odaklanan
bir yapay zeka alt kümesidir.3
• Yapay zeka önceden belirlenmiş bir dizi kurala göre çalışmaz.
Önceden belirlenmiş kurallar geleneksel yazılım
mühendisliği ile ilişkilidir. Bununla birlikte, aşırı
sayıda kural, teknolojinin öğrenme ve koşullara uyum
sağlama yeteneğini engelleme eğilimindedir. Bu nedenle,
dayalı olarak çalışmaz.
Denetçi için Zorluklar
Tractica Research, 2016 yılında 3,2 milyar ABD doları
olan YZ yazılım gelirinin 2025 yılına kadar 89,9 milyar
ABD dolarına çıkmasını beklemektedir.4 YZ, bitişik
teknolojilerin (bulut bilişim ve depolama gibi) desteğiyle,
2010 yılındaki "YZ kışı" olarak adlandırılan dönemden
40 milyar ABD dolarına varan bir gelir elde ederek
çıkmıştır.
5 YAPAY ZEKA DENETIMI

1
Russell, S.; P. Norvig; Artificial Intelligence: A Modern Approach (3. Baskı), Pearson, USA, 2009, https://www.pearson.com/us/higher-
education/program/Russell-Artificial-Intelligence-A-Modern-Approach-3rd-Edition/PGM156683.html
2
Venkatesan, M.; "Yapay Zeka vs. Makine Öğrenimi vs. Derin Öğrenme," Data Science Central, 7 Mayıs 2018,
https://www.datasciencecentral.com/profiles/blogs/artificial-intelligence-vs-machine-learning-vs-deep-learning
3
Ibid.
4
Tractica Research, "Yapay Zeka Yazılım Pazarı 2025 Yılına Kadar Dünya Çapında Yıllık 89,8 Milyar Dolar Gelire Ulaşacak," 21 Aralık 2017,
https://www.tractica.com/newsroom/press-releases/artificial-intelligence-software-market-to-reach-89-8-billion-in-annual-worldwide-revenue-by-2025

© 2018 ISACA. Tüm Hakları Saklıdır.

6 YAPAY ZEKA DENETIMI

da, durum sanıldığı kadar vahim değildir. Makine

yatırım sermayesi, aynı zamanda üretim dağıtımları
öğrenimine sıklıkla atfedilen "kara kutu" etkisi,
sınırlı olmuştur.5
genellikle bir
YZ'nin yükselişine, erken benimsenme ile düzenleyici ve
uygunluk çerçevelerinin oluşturulması arasındaki
geleneksel gecikme süresi eşlik etmiştir. Örneğin, YZ alt
süreçlerini detaylandıran olgun bir denetim çerçevesi
olmadığı gibi, YZ'ye özgü herhangi bir düzenleme,
standart veya zorunluluk da bulunmamaktadır. Clark,
2018'in başlarında veri madenciliği için sektörler arası
süreç (CRISP-DM) çerçevesine öncülük etmiştir, ancak
bireysel denetçiler, YZ kullanım durumlarını ele almak
için neredeyse hiç yaygın olarak benimsenmiş emsal
bulunmadığında denetimleri nasıl başarılı bir şekilde
gerçekleştirecekleri konusunda zorlanmaktadır.6

YZ ile ilgili açık denetim standartlarının eksikliğine ek

olarak, denetim sürecini etkileyen başka zorluklar da
vardır. Daha önce de belirtildiği gibi, YZ'nin tanımı sıklıkla
tartışılmaktadır ve denetçiler de dahil olmak üzere BT
dünyası, dünya standartlarında bir dizi uygulamayı
belirlemek için ortak bir tanıma veya taksonomiye
ulaşmamıştır.

Dahası, YZ sistemleri ve çözümleri birbirlerinden büyük

ölçüde farklılık göstermekte ve YZ mimarisinin temelini
oluşturan mevcut ve gelişmekte olan çok sayıda
teknoloji, karmaşık sistemlerin doğmasına neden
olmaktadır. Bu karmaşıklık, işletme içinde YZ'nin
kapsamı konusunda yüksek bir belirsizlik olasılığına
işaret etmektedir. İşletmedeki bu belirsizliğe rağmen,
denetçiler YZ ile ilgili sorumluluklarını üstlenmek için
oldukça iyi konumlanmışlardır. İyi teknoloji denetçilerinin,
işletmedeki YZ'yi etkin bir şekilde değerlendirmek için
yeterli beceri ve anlayışa sahip olmaları zaten
muhtemeldir.

Buna ek olarak, YZ'nin karmaşıklığı ve nitelikli veri

bilimcilerinin eksikliği, YZ geliştirme projelerinin rutin
olarak bir veya daha fazla üçüncü taraf kaynağa dış
kaynak kullanımına yol açacaktır. Kurumsal YZ'ye
ilişkin tutarlı bir anlayış, YZ sağlayıcılarının kademeleri
arasında dağılacak ve hatta zamanla belki de
kaybolacaktır. Bu da daha sonra YZ denetçisinin
karşılaşacağı zorlukları artıracaktır.

Yapay zeka denetçileri yeni sorumluluklarına

hazırlanırken şüphesiz zorluklarla karşılaşacak olsalar

© 2018 ISACA. Tüm Hakları Saklıdır.

 7 YAPAY ZEKA DENETIMI

Ancak, eğer YZ'yi benimsemeye karar verirlerse,

denetim zorluklarının kaynağıdır. Ancak bu, geleneksel
yöneticiler etkili bir YZ stratejisi geliştirme çabalarına
teknoloji denetçilerinin algoritmaları denetlemekten sorumlu
başlarken daha yüksek düzeyde bir netlik talep
olduğunu varsaymaktadır. Durum böyle değildir. BT denetçileri
edeceklerdir. İş vakası ve strateji belgeleri YZ
yapay zekanın yönetişimine ve sistemler arasındaki
yolculuğunun tipik başlangıç noktalarını temsil ettiğinden,
entegrasyona bakmalıdır. Algoritmaların model uzmanları
denetçiler COBIT® 2019 hiyerarşisini denetimin stratejik
tarafından denetlenmesi gerekse de, denetçilerin algoritmalar
kısımlarından taktik kısımlarına doğru basamaklandırmak
hakkında temel bir anlayışa sahip olması faydalı olacaktır.
zorunda kalacaklardır.
Aslında denetçiler, ABD Para Birimi Komptrolörü Ofisi (OCC)
2011-12 gibi düzenlemelerdeki bilgileri kullanarak bunu zaten Özetle, BT denetçileri yapay zekayı denetlemenin
yapmaktadır. zorluklarını fazla düşünme yoluna gitmemelidir. Bulut
bilişim veya siber güvenliği ilk kez nasıl denetlediklerini
Zorluğun, konuyla ilgili akademik araştırma ve sektör
düşünmek onlara faydalı bir referans çerçevesi
yayınlarının eksikliğinden kaynaklandığı da iddia edilmektedir.
sağlayacaktır. Örneğin, tüm protokolleri derinlemesine
Bu da doğru değildir. Önemli miktarda araştırma vardır, ancak
incelemeleri ve Açık Sistemler Ara Bağlantısı (OSI)
bunlar son derece tekniktir ve genellikle geleneksel denetçilere
katman 5 uygulamasının uygun şekilde çalışıp
yönelik değildir. Tarihsel olarak, geleneksel BT denetçileri
çalışmadığını test etmeleri pek olası değildir. Bunun
algoritmalara derinlemesine dalmadan yönetişim ve
yerine, YZ ile, önceki yeni teknolojilerde olduğu gibi,
entegrasyona bakmışlardır.
denetçiler yürürlükte olan kontrollere ve yönetişim
Çoğu işletme henüz yapay zekanın işletmelerinde nasıl bir rol yapılarına odaklanacak ve bunların etkili bir şekilde
oynayabileceğini düşünmeye başlamamıştır, bu nedenle yapay çalışıp çalışmadığını belirleyeceklerdir. Denetçiler, iş ve
zeka kullanım durumlarını işletmeyle uyumlu hale getirmek veya BT yönetişim yönlerine odaklanarak bir miktar güvence
yapay zeka yatırımlarının geri dönüşünü tanımak için sağlayabilirler.
belgelenmiş bir plana sahip olmaları pek olası değildir.

5
Bughin, J.; E. Hazan; S. Ramaswamy; M. Chui; T. Allas; P. Dahlstrom; N. Henke; M. Trench; "Artificial Intelligence: Bir Sonraki Dijital Sınır mı?"
McKinsey Global Institute, Haziran 2017,
https://www.mckinsey.com/~/media/McKinsey/Industries/Advanced%20Electronics/Our%20Insights/How%20artificial%20intelligence%20can
20deliver%20real%20value%20to%20companies/MGI-Artificial-Intelligence-Discussion-paper.ashx
6
Clark, A.; "The Machine Learning Audit-CRISP-DM Framework," ISACA® Journal, vol. 1, 2018, https://www.isaca.org/Journal/archives/2018/
Volume-1/Pages/the-machine-learning-audit-crisp-dm-framework.aspx

© 2018 ISACA. Tüm Hakları Saklıdır.

8 YAPAY ZEKA DENETIMI

COBIT'i Strateji ile Risk alanları daha sonra her bir riski ve ilgili kontrolleri
listeleyen risk ve kontrol matrisi (RCM) gibi bir belgede
Haritalamak: COBIT® 2019'un derlenmelidir. COBIT® 2019, bir kurum içindeki herhangi bir
Yapay Zekanın Denetiminde girişim veya sürecin riskini değerlendirmek için iyi bir

Nasıl Uygulanacağına Dair çerçeve sağlar.

Görsel Bir Temsil Yapay zeka stratejisiyle ilgili çeşitli risk örnekleri vardır:

Yapay zekanın iş dünyasındaki uygulamaları henüz

başlangıç aşamasında olduğu için
erken aşamalarında, BT planları ile iş ihtiyaçları arasında uyum eksikliği
Kurumun beklentileri veya gereksinimleri ile tutarsız BT
bir kuruluş için bir yapay zeka girişiminin denetimine planları
BT taktik planlarının BT stratejik planlarından yanlış tercüme
nasıl edilmesi
Aşağıdakilerle ilgili BT süreçleri için hesap verebilirlik ve
yaklaşılacağı konusunda sınırlı rehberlik vardır. sorumluluk sağlamada başarısız olan etkisiz yönetişim
yapıları
Bu nedenle, Yapay zeka fonksiyonu

bu örnek ISACA'nın COBIT® 2019 çerçevesini bir başlangıç

noktası olarak kullanmaktadır. COBIT® 2019 çerçevesi,

denetçiye süreç tanımları, istenen sonuçlar, temel uygulamalar

ve

neredeyse tüm BT alanlarındaki çalışma ürünleri dahil olmak

üzere denetçinin aşağıdakileri yapmasını sağlayacak araçlar sunar

İlişki
herhangi biri için yapay zeka girişimi üzerinde güvence
sağlamak
organizasyon.
Şekil 1, COBIT® 2019'da bir kuruluştaki yapay zeka girişimi
Bir kurumun YZ'sinin denetimi için başlangıç noktası, için risk ve kontrollerin bir listesini derlemeye yardımcı
denetimin kapsamını ve hedeflerini tanımlamak ve YZ olabilecek birkaç süreç örneğini vurgulamaktadır.
girişimi ile ilgili kurum riskini dikkate almaktır. Bunlar

ŞEKİL 1: Yapay Zeka Risk ve Kontrollerinin İncelenmesi ile İlgili COBIT®

2019 Yönetişim ve Yönetim Hedeflerini Seçin

© 2018 ISACA. Tüm Hakları Saklıdır.

9 YAPAY ZEKA DENETIMI

EDM01-Güvenli
EDM04-Güvenli EDM05-Ensured
Yönetişim EDM02-Ensured EDM03-Güvenli
Kaynak Stakeholder
Çerçevesinin Benefits Delivery Risk
Optimizasyonu Engagement
Oluşturulması ve Optimizasyonu
Sürdürülmesi

EDM01 Yönetişim Çerçevesinin

Oluşturulması ve Sürdürülmesinin
Sağlanması

EDM01.02 Yönetişim sistemini yönetmek. APO01-Yönetilen APO03-Yönetilen

APO02-Yönetilen APO04-Yönetilen APO05-Yönetilen APO06-Yönetilen APO07-Yönetilen Portföy
EDM01.03 Yönetişim sistemini izlemek. I&T Yönetim Kurumsal Mimari
Strateji İnovasyon Bütçe ve Maliyetler İnsan Kaynakları
Çerçevesi
MEA01-Yönetilen
Performans ve
Uygunluk İzleme
APO09-Yönetilen
APO08-Yönetilen Hizmet APO10-Managed APO11-Managed APO12-Managed APO13-Managed APO14-Managed Satıcılar Kalite
gemiler Risk Güvenlik Veri
APO02 Yönetilen Strateji AANLAŞMA
LAR
APO02.03 Hedef dijital yeteneklerin tanımlanması.
APO02.04 Bir boşluk analizi gerçekleştirin.
APO02.05 Stratejik planı ve yol MEA02-Yönetilen İç
haritasını tanımlamak. Kontrol Sistemi
BAI03-Yönetilen BAI07-Yönetilen
BAI01-Yönetilen BAI02-Yönetilen BAI04-Yönetilen BAI05-Yönetilen
Çözümler BAI06-
Programlar Gereksinimler Kullanılabilirlik Organizasyonel
entifikasyon
Kimlik Yönetilen BT Değişimi
Tanımı ve Kapasite Değişim
ve İnşa Et BT Değişiklikleri Kabullenme ve
Geçiş Süreci
MEA03-Dış
Gereksinimlerle
Yönetilen
BAI08-Yönetilen BAI09-Yönetilen BAI10-Yönetilen BAI11-Yönetilen Uyumluluk
Bilgi Varlıklar Konfigürasyon Projeler

APO04 Yönetilen İnovasyon

APO04.04 Gelişmekte olan ülkelerin

potansiyelini değerlendirin
teknolojiler ve yenilikçi fikirler.
APO04.06 İnovasyonun uygulanmasını ve
kullanımını izlemek. MEA04-Yönetilen
DSS02-Yönetilen DSS05-Yönetilen DSS06-Yönetilen İş Güvence
DSS01-Yönetilen DSS03-Yönetilen DSS04-Yönetilen
Hizmet Talepleri Güvenlik Süreci
Operasyonlar Sorunlar Devamlılık
ve Olayları Hizmetleri Kontrolleri

Kaynak: ISACA, COBIT® 2019 Çerçevesi: Giriş ve Metodoloji, ABD, 2018

© 2018 ISACA. Tüm Hakları Saklıdır.

10 YAPAY ZEKA DENETIMI

DSS06, denetçinin bir YZ güvence incelemesi sırasında Kuruluş içinde alınan her YZ kararının arkasındaki
COBIT® 2019'dan nasıl yararlanabileceğine dair daha mantığı anlamak için bilgi. DSS06.05 açıklaması (şekil 2)
derinlemesine bir örnek sunmaktadır. aşağıdaki gibidir: "İş bilgilerinin kaynak iş olayına kadar
izlenebilmesini ve sorumlu taraflarla ilişkilendirilebilmesini
DSS06 Yönetilen İş Süreci Kontrolleri, yönetim
sağlamak. Bu keşfedilebilirlik, iş bilgilerinin güvenilir
uygulaması DSS06.05 Bilgi olayları için izlenebilirliği ve
olduğuna ve tanımlanmış hedeflere uygun olarak
hesap verebilirliği sağlayın; bu, YZ faaliyet denetim
işlendiğine dair güvence sağlar. "7
izlerinin yeterli düzeyde olmasını sağlamak için
kullanılabilir.

ŞEKİL 2: COBIT® 2019: DSS06'nın Yapay Zeka ile İlgisi

A. Bileşen: Süreç (devam)

Yönetim Uygulaması Örnek Metrikler
DSS06.05 Bilgi olayları için izlenebilirlik ve hesap verebilirlik sağlayın. İş a. İşlem geçmişinin kurtarılamadığı vaka sayısı
bilgilerinin kaynak bir iş olayına kadar izlenebilmesini ve sorumlu b. İzlenebilir işlem günlüğünün eksiksizlik yüzdesi
taraflarla ilişkilendirilebilmesini sağlayın. Bu keşfedilebilirlik, iş
bilgilerinin güvenilir olduğuna ve tanımlanmış hedeflere uygun olarak
işlendiğine dair güvence sağlar.
Faaliyetler Yetenek Seviyesi
1. Kaynak bilgileri, destekleyici kanıtları ve işlem kayıtlarını yakalayın. 2
2. Operasyonel, finansal raporlama ve uyumluluk ihtiyaçlarını karşılamak için iş gereksinimlerine dayalı olarak saklama gereksinimlerini 3
tanımlayın.
3. Kaynak bilgileri, destekleyici kanıtları ve işlem kayıtlarını saklama politikasına uygun olarak imha edin.
İlgili Rehberlik (Standartlar, Çerçeveler, Uyumluluk Gereklilikleri) Detaylı Referans
Bu yönetim uygulaması için ilgili bir kılavuz bulunmamaktadır
Kaynak: ISACA, COBIT® 2019 Çerçevesi: Yönetişim ve Yönetim Hedefleri, ABD, 2018

COBIT 2019'daki süreç çıktıları uygulamanın 1 Kaynak bilgileri, destekleyici kanıtları ve işlem kayıtlarını

kendisinden türetilmiştir ve DSS06.05 için "İş bilgileri, yakalayın.

ortaya çıkan bir iş olayına kadar izlenir ve sorumlu 2 Operasyonel, finansal raporlama ve uyumluluk ihtiyaçlarını

taraflarla ilişkilendirilir." şeklinde ifade edilebilir. karşılamak için iş gereksinimlerine dayalı olarak saklama
gereksinimlerini tanımlayın.
DSS06.05 için aşağıdaki faaliyetler listelenmiştir:
3 Kaynak bilgileri, destekleyici kanıtları ve işlem kayıtlarını
saklama politikasına uygun olarak imha edin.

Şekil 3, DSS06.05'in girdi ve çıktılarını göstermektedir.

© 2018 ISACA. Tüm Hakları Saklıdır.

11 YAPAY ZEKA DENETIMI

7
ISACA, COBIT® 2019 Çerçevesi: Yönetişim ve Yönetim Hedefleri, ABD, 2018, http://www.isaca.org/COBIT/Pages/COBIT-2019-Framework- Governance-
and-Management-Objectives.aspx

© 2018 ISACA. Tüm Hakları Saklıdır.

12 YAPAY ZEKA DENETIMI

ŞEKİL 3: COBIT® 2019: DSS06 Girdiler ve Çıktılar

C. Bileşen: Bilgi Akışları ve Öğeleri (ayrıca bkz. Bölüm 3.6) (devam)

Yönetim Uygulaması Girişler Çıktılar
DSS06.04 Hataları ve istisnaları yönetin. Kimden Açıklama Açıklama için
Hata raporları ve kök Dahili
neden analizi
Hata düzeltme ve MEA02.04
iyileştirme kanıtı

DSS06.05 Bilgi olayları için izlenebilirliği ve hesap İşlemlerin kaydı Dahili

verebilirliği sağlamak.
Saklama gereklilikleri Dahili;
APO14.09
DSS06.06 Bilgi varlıklarını güvence altına alın. İhlal raporları DSS05.03
İlgili Rehberlik (Standartlar, Çerçeveler, Uyumluluk Gereklilikleri) Detaylı Referans
Ulusal Standartlar ve Teknoloji Enstitüsü Özel Yayını 800-37, 3.1 Hazırlık (Görev 10, 11): Girdiler ve Çıktılar
Revizyon 2, Eylül 2017
Kaynak: ISACA, COBIT® 2019 Çerçevesi: Yönetişim ve Yönetim Hedefleri, ABD, 2018

Denetimler, saha çalışması testlerinin bir parçası olarak

iş ürünlerini, saklama gerekliliklerini ve işlem kayıtlarını
değerlendirmelidir. Denetçinin test için kullanacağı
kriterler şunları içerir: "Karar girdileri ve kullanım durumu
göz önüne alındığında, YZ tarafından verilen karar
uygun görünüyor mu?"
YZ Denetçisi için Zorluklar
ve Çözümler
Yapay zekayı denetlemek için kendilerini donatmaya
hazırlanan BT denetçileri için çeşitli potansiyel zorluklar
olsa da, zorlukları başarıya dönüştürebilecek çözümler
mevcuttur. Şekil 4'teki liste örnekler sunmaktadır.

ŞEKİL 4: YZ Denetimi için Zorluklar ve Çözümler

YAPAY ZEKA DENETÇİLERİ İÇİN ZORLUKLAR YAPAY ZEKA'NIN BAŞARILI DENETİMİNİN

ANAHTARLARI
1. YZ'ye özgü henüz olgunlaşmamış denetim çerçeveleri veya 1. Mevcut çerçeve ve yönetmeliklerin benimsenmesi ve uyarlanması.
yönetmelikler
2. YZ kullanım durumları için sınırlı emsaller 2. Paydaşlarla yapay zeka hakkında proaktif bir şekilde açıklama ve
iletişim kurma.
3. Belirsiz yapay zeka tanımları ve taksonomileri 3. Paydaşlarla yapay zeka hakkında proaktif bir şekilde açıklama ve
iletişim kurma.
4. YZ sistemleri ve çözümleri arasında büyük farklılıklar 4. Uygun kapsamı belirlemek için yapay zeka tasarımı ve mimarisi
hakkında bilgi sahibi olun.
5. Yapay zeka teknolojisinin gelişmekte olan doğası 5. Uygun kapsamı belirlemek için yapay zeka tasarımı ve mimarisi
hakkında bilgi sahibi olun.
6. Açık YZ denetim kılavuzunun olmaması 6. Yinelemeli bir süreç aracılığıyla şeffaflığa odaklanın. Algoritmalara
değil, kontrollere ve yönetişime odaklanın.
7. Stratejik başlangıç noktalarının eksikliği 7. Tüm paydaşları dahil edin.
8. Yapay zeka denetçisi için muhtemelen dik bir öğrenme eğrisi 8. Yapay zeka tasarımı hakkında bilgi sahibi olun ve
gerektiğinde uzmanlarla iletişime geçin.
9. Yapay zekanın üçüncü taraflara dış kaynak kullanımının yarattığı 9. Ekipler arası şeffaflık için mimari uygulamaları belgeleyin.
tedarikçi riski
mimarisi şunları birleştirebilir
Aşağıdaki bilgiler, denetçilerin yapay zeka denetiminin
zorluklarının üstesinden gelmelerine yardımcı olmak için
şekil 4'te listelenen başarı anahtarlarını genişletmektedir:

• Uygun kapsamı belirlemek için YZ tasarımı ve mimarisi

hakkında bilgi sahibi olun. YZ geniş bir teknoloji, insan ve
süreç setini içerir ve bu nedenle kontrollere, politikalara ve
yönetişime önemli ölçüde dikkat edilmesini gerektirecektir. YZ

© 2018 ISACA. Tüm Hakları Saklıdır.

 13 YAPAY ZEKA DENETIMI

yazılım. Beceriler açısından bakıldığında, YZ projeleri Python,

programlama, veri ambarı, akış işleme platformları, makine öğrenimi
R, Java ve matris laboratuvarında (MATLAB) yetenekli veri
araç kitleri, algoritmalar, bulut bilişim, bulut depolama, bilgi işlem
bilimcileri, veri mühendisleri, veri mimarları ve programcıları
kümeleri, hesaplama çekirdekleri, uygulama yazılımı testi ve hata
gerektirebilir.8
ayıklama, veri işleme ve modelleme ve ticari kullanıma hazır (COTS)
8
Op cit Tractica

© 2018 ISACA. Tüm Hakları Saklıdır.

14 YAPAY ZEKA DENETIMI

• Tüm paydaşları dahil edin. YZ yalnızca çeşitli kurumsal başarılı bir denetimin önündeki engeller. COBIT 2019 ve diğer
teknolojileri entegre etmekle kalmaz, aynı zamanda birden mevcut çerçeveler, sahada karşılaşılacak mevcut YZ kullanım
fazla dahili ekibi ve harici üçüncü tarafları da içerir. İç durumlarının çoğunu ele almak için benimsenebilir. Ayrıca,
paydaşlar, teknik taraftaki mühendislik ve güvenlik ekiplerini düzenleyici bir perspektiften bakıldığında, Amerika Birleşik
ve YZ stratejisiyle ilgilenen iş liderlerini içerir. Bulut bilişimin Devletleri Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası
kullanımı YZ ile yaygındır ve üçüncü tarafların altyapının bir (HIPAA) ve Adil Borç Verme Yasası ve Avrupa Birliği'nin
kısmını kontrol edeceği anlamına gelir. Örneğin, bulut bilişimin Genel Veri Koruma Yönetmeliği (GDPR) gibi mevcut tüzükler
kullanıldığı yerlerde, denetçiler riskleri (satıcı kilitlenmesi ve yasal rehberlik sağlamak için benimsenebilir. Mevcut
bölümlere ayrılmış bilgi gibi) şirket içi uygulamalardan farklı çerçeveler ve yönetmelikler (YZ ortamını bilen bir denetçi
olarak ele almalıdır. tarafından uyarlanmıştır) ve yasal danışmanlık, daha spesifik
• Yapay zeka hakkında proaktif bir şekilde açıklama yapın ve iletişim YZ standartları uygulanana kadar yeterli olacaktır.
kurun
Yinelemeli bir süreç aracılığıyla şeffaflığa odaklanın. Şeffaflık,
Paydaşlar. Yapay
YZ ortamının karmaşıklığı nedeniyle YZ denetçisi için temel
bir amaçtır. Algoritmalar, veri bilimcileri ve veri mühendisleri
zekanın olgunlaşmamış durumu ve
tarafından çoklu ayarlama turları gerektirir. Bazı kurumsal
tabanlı ticari kullanıma hazır çözümler halihazırda makine
sınırlı
öğrenimi bileşenleri içerebilir. Benzer şekilde, denetim süreci,
mevcut ve yeni YZ gelişmelerinin tetikte olmasını sağlamalı ve
kullanımı nedeniyle,
YZ yaşam döngüsü boyunca sürekli iyileştirmeyi ve açık
dokümantasyonu teşvik etmelidir. YZ'nin kendisi aslında YZ
kurumsal paydaşlar bilgisiz olabilir
denetçisi için bir araç haline gelebilir.
kullanımı ve stratejisi hakkında bilgi sahibi olmalıdır. YZ
denetçileri, YZ endişelerini ele almak için proaktif olmalı ve
karmaşık tasarımları ve sorunları paydaşların anlayabileceği
terimlere indirgeyebilmeli ve basitleştirebilmelidir. Denetçiler,
YZ tartışmaları için farklı bağlamların farkında olmalı ve
konuşmanın seviyesini uygun şekilde ayarlayabilmelidir.
• Mevcut çerçeveleri ve düzenlemeleri benimseyin ve
uyarlayın. YZ'ye özgü yeni çerçevelerin eksikliği, bir sorun
olmamalıdır.

Sonuç
Yapay zeka, işletmelerin iş yapma biçiminden daha Kavramsal tanım konusundaki belirsizliğe rağmen,
fazlasını dönüştürmeyi vaat ediyor. Toplumun her yapay zeka iş dünyasında, akademik çevrelerde
köşesine dokunacak. ve diğer sektörlerde yaygınlaşmaya devam ediyor.

Denetçiler, kuruluşların ve denetim ekiplerinin yapay

zeka ve onu denetleme yaklaşımı ile ilgili zor sorulara
hazır olup olmadıklarını kendilerine sormalıdır. Bu teknik
dokümanda ele alınan kilit noktalar, başarılı bir başlangıç
yapmada yardımcı olabilir.

© 2018 ISACA. Tüm Hakları Saklıdır.

 15 YAPAY ZEKA DENETIMI

sosyal ortamlar. Gelişmekte olan yapay zeka teknolojilerinin

neden olduğu ilk aksaklıklar, makineler akla gelebilecek tüm
işlevler için insan gibi davranana kadar gelişecek ve insanların
çalışma şeklini etkileyecektir. Ortaya çıkan bu aşama, iş
dünyası ve bilgi teknolojileri topluluğunun yapay zeka denetimi
konusunda adım atması, hazırlık yapması ve sağlam bir
yönetişim oluşturması için büyük bir fırsat sunmaktadır. Güçlü
ve zaman içinde kendini kanıtlamış bir metodoloji olan COBIT®
2019, yolu açmak için kullanılabilir.

© 2018 ISACA. Tüm Hakları Saklıdır.

16 YAPAY ZEKA DENETIMI

Yapay Zeka Denetimi için

Kaynaklar ve Referanslar
The Association for the Advancement of Artificial
Intelligence, Dijital Kütüphane, Konferans Bildirileri,
https://aaai.org/Library/conferences-library.php
Azoff, M.; "İzlenecek 2017 Trendleri: Yapay Zeka,"
Ovum, 26 Ocak 2017,
https://ovum.informa.com/~/media/Informa-Shop-
Window/TMT/Files/Whitepapers/2017-trends-to-watch-
in-AI.pdf
Davenport, T.; J. Raphael; 10Rule; "Creating a
Cognitive Audit," CFO, 12 Temmuz 2017,
http://ww2.cfo.com/auditing/2017/07/creating-cognitive-
audit/
Faggella, D.; "Yapay Zeka Nedir? An Informed
Definition," TechEmergence, 15 Mayıs 2017,
https://www.techemergence.com/what-is-artificial-
intelligence-an-informed-definition/

Bughin, J.; E. Hazan; S. Ramaswamy; M. Chui; T. Allas; İç Denetçiler Enstitüsü, "Global Perspectives and Insights
P. Dahlstrom; N. Henke; M. Trench; "Yapay Zeka: Bir Series, Artificial Intelligence-Considerations for
Sonraki Dijital Sınır mı?" McKinsey Global Institute, Profession of Internal Auditing," 2017,
Haziran 2017, https://na.theiia.org/periodicals/Public%20Documents/
https://www.mckinsey.com/~/media/McKinsey/Industrie GPI-Artificial-Intelligence.pdf
s/Advanced%20Electronics/Our%20Insights/How
İç Denetçiler Enstitüsü, "Küresel Perspektifler ve
%20artificial%20intelligence%20can%20deliver%20real
Öngörüler Serisi, IIA'nın Yapay Zeka Denetim Çerçevesi-
20value%20to%20companies/MGI-Artificial-Intelligence-
Pratik Uygulamalar, Bölüm A," 2017,
Discussion-paper.ashx
https://na.theiia.org/periodicals/Public%20Documents/
Clark, A.; "The Machine Learning Audit-CRISP-DM GPI-Artificial-Intelligence-Part-II.pdf
Framework," ISACA® Journal, vol. 1, 2018,
İç Denetçiler Enstitüsü, "Küresel Perspektifler ve
https://www.isaca.org/Journal/archives/2018/Volume-
Öngörüler Serisi, IIA'nın Yapay Zeka Denetim Çerçevesi-
1/Pages/the-machine-learning-audit-crisp-dm-
Pratik Uygulamalar, Bölüm B," 2017,
framework.aspx
https://na.theiia.org/periodicals/Public%20Documents/
Conitzer, V.; W. Sinnot-Armstrong; J. S. Borg; Y. Deng; GPI-Artificial-Intelligence-Part-III.pdf
M. Kramer; "Moral Decision Making Frameworks for
İç Denetçiler Enstitüsü, "Yapay Zeka: İç Denetimin
Artificial Intelligence," Association for the Advancement of
Geleceği," Tone at the Top, Aralık 2017
Artificial Intelligence, 2017,
https://users.cs.duke.edu/~conitzer/moralAAAI17.pdf İç Denetim Vakfı, "Teklif Talebi, Yapay Zeka
Araştırma Projesi," 2017,
Cummings, M. L.; "A r t i f i c i a l Intelligence and the
https://na.theiia.org/iiarf/Public%20Documents/
Future of Warfare," Chatham House, Ocak 2017,
RFP-Artificial-Intelligence.pdf
https://www.chathamhouse.org/sites/default/files/public
ations/research/2017-01-26-artificial-intelligence-future-
warfare-cummings-final.pdf

© 2018 ISACA. Tüm Hakları Saklıdır.

17
Uluslararası Standartlar Örgütü (ISO), "ISO/IEC
27000:2018(tr), Bilgi teknolojisi-Güvenlik teknikleri-Bilgi
güvenliği yönetim sistemleri- Genel bakış ve kelime
bilgisi," https://www.iso.org/obp/ui/#iso:std:iso-
iec:27000:ed-5:v1:e
ISACA, COBIT® 2019 Çerçevesi: Yönetişim ve
Yönetim Hedefleri, ABD, 2018,
http://www.isaca.org/COBIT/Pages/COBIT-2019-
Framework-Governance-and-Management-
Objectives.aspx
ISACA, COBIT 4.1 Broşürü,
http://www.isaca.org/Knowledge-Center/cobit/
Documents/CobiT-4.1-Brochure.pdf
Issa, H.; T. Sun; M. Vasarhelyi; "Denetimde Yapay Zeka
için Araştırma Fikirleri: Denetimin Resmileştirilmesi ve
İşgücü Takviyesi," Journal of Emerging Technologies in
Accounting, vol. 13, no. 2, 2016,
http://aaapubs.org/doi/pdf/10.2308/
jeta-10511?code=aaan-site
Koenig, M.; S. Bee; D. Applegate; Yapay Zeka: Aşağıdaki
Veriler, İç Denetim Vakfı, 2018
KPMG, "Robot teknolojilerinden yararlanma: Driving
savings with digital labor," 2017,
https://assets.kpmg.com/content/dam/kpmg/is/pdf/
2017/03/capitalizing-robotics-digital-labor-savings.pdf
Kuang, C.; "Yapay Zekaya Kendini Açıklaması Öğretilebilir
mi?" The New York Times Magazine, 21 Kasım 2017,
https://www.nytimes.com/2017/11/21/magazine/
can-ai-be-taught-to-explain-itself.html
Meek, T.; "How Humans and AI Will Share the
Auditing Function of the Future," Forbes, 10 Temmuz
2017,
https://www.forbes.com/sites/workday/2017/07/10/
how-humans-and-ai-will-share-the-auditing-function-of-
the-future/#63d3bf774fa1
Peter Davis ve Ortakları, www.pdaconsulting.com/
Russell, S.; P. Norvig; Artificial Intelligence: A
Modern Approach (3. Baskı), Pearson, USA, 2009
Sandvig C.; K. Hamilton; K. Karahalios; C. Langbort;
"Auditing Algorithms: İnternet Platformlarında Ayrımcılığı
Tespit Etmek için Araştırma Yöntemleri", "Veri ve
Ayrımcılık" başlıklı konferansta sunulmuştur: Converting
Critical Concerns into Productive Inquiry" Uluslararası
İletişim Derneği 64. Yıllık Toplantısı ön konferansı,
http://www-personal.umich.edu/~csandvig/research/
Auditing%20Algorithms%20-%20Sandvig%20-
%20ICA%202014%20Data%20and%20Discrimination
20Preconference.pdf
Tegmark, M.; Yaşam 3.0: Being Human in the Age of Artificial
Intelligence, Knopf, ABD, 2017
Tractica Research, "Yapay Zeka Yazılım Pazarı 2025
Yılına Kadar Dünya Çapında Yıllık 89,8 Milyar Dolar
Gelire Ulaşacak," 21 Aralık 2017,
https://www.tractica.com/newsroom/press-releases/
artificial-intelligence-software-market-to-reach-89-8-
billion-in-annual-worldwide-revenue-by-2025
Venkatesan, M.; "Yapay Zeka vs. Makine
Öğrenimi vs. Derin Öğrenme," Data Science
Central, 7 Mayıs 2018,
https://www.datasciencecentral.com/
profiles/blogs/artificial-intelligence-vs-machine-learning-
vs-deep-learning
18
19 YAPAY ZEKA DENETIMI

Teşekkür
ISACA takdir etmek istiyor:

Lider Geliştiriciler ISACA Yönetim Kurulu

ISACA Phoenix Bölümü
John Livingston, CISA, ITIL v3, Yalın Altı
Sigma Kara Kuşak
Danışman, Bilgi Güvenliği Uyum ve
Denetim Yönetişimi , ABD
Joe Norris, CGEIT, COBIT, ITIL v3
Direktör, Kurumsal Risk Yönetimi, ABD
Jon Oppenhuis, CCSK, CCSP, CISSP, ITIL
SS/SD, TOGAF
Müşteri Çözümleri Mimarı, ABD
Uzman Değerlendiriciler
Andrew Clark
Michael J. Podemski
CIPM, CIPT, ABD
Marc Vael
CISA, CRISC, CISM, CGEIT, Belçika
Rob Clyde, Başkan Chris K. Dimitriadis, Ph.D.
CISM ISACA Yönetim Kurulu Başkanı,
Clyde Consulting LLC, ABD 2015-2017 CISA, CRISC, CISM
INTRALOT, Yunanistan
Brennan Baybeck, Başkan Yardımcısı
CISA, CRISC, CISM, CISSP
Oracle Corporation, ABD
Tracey Dedrick
Hudson City Bancorp, ABD'de Eski Baş
Risk Yöneticisi
Leonard Ong
CISA, CRISC, CISM, CGEIT, COBIT 5
Uygulayıcı ve Değerlendirici, CFE,
CIPM, CIPT, CISSP, CITBCM, CPP, CSSLP,
GCFA, GCIA, GCIH, GSNA, ISSMP-
ISSAP, PMP
Merck & Co., Inc., Singapur
R.V. Raghu
CISA, CRISC
Versatilist Consulting India Pvt. Ltd.,
Hindistan

Gabriela Reynaga
CISA, CRISC, COBIT 5 Foundation, GRCP
Holistics GRC, Meksika

Gregory Touhill
CISM, CISSP
Cyxtera Federal Group, ABD

Ted Wolff
CISA
Vanguard, Inc., ABD

Tichaona Zororo
CISA, CRISC, CISM, CGEIT, COBIT 5
Değerlendirici, CIA, CRMA
EGIT | Enterprise Governance of IT (Pty)
Ltd, Güney Afrika

Theresa Grafenstine
ISACA Yönetim Kurulu Başkanı, 2017-2018
CISA, CRISC, CGEIT, CGAP, CGMA, CIA,
CISSP, CPA
Deloitte & Touche LLP, ABD

© 2018 ISACA. Tüm Hakları Saklıdır.

20 YAPAY ZEKA DENETIMI

ISACA Hakkında
1700 E. Golf Road, Suite 400
50. yılına yaklaşan ISACA® (isaca.org), bireylerin ve işletmelerin teknolojinin
Schaumburg, IL 60173, ABD
olumlu potansiyeline ulaşmalarına yardımcı olan küresel bir dernektir.
Teknoloji günümüz dünyasına güç katmaktadır ve ISACA, profesyonelleri
Telefon: +1.847.660.5505
kariyerlerini ilerletmek ve kuruluşlarını dönüştürmek için bilgi, kimlik
bilgileri, eğitim ve toplulukla donatmaktadır. ISACA, bilgi ve siber güvenlik, Faks: +1.847.253.1755
yönetişim, güvence, risk ve inovasyon alanlarındaki yarım milyon
profesyonelin uzmanlığından ve kurumsal performans iştiraki CMMI® Destek: support.isaca.org
Enstitüsü'nden teknoloji yoluyla inovasyonun ilerlemesine yardımcı olmak
Web sitesi: www.isaca.org
için yararlanmaktadır. ISACA'nın 217'den fazlası dahil olmak üzere
188'den fazla ülkede varlığı bulunmaktadır.
Amerika Birleşik Devletleri ve Çin'de şubeleri ve ofisleri bulunmaktadır.

SORUMLULUK REDDİ
Geri Bildirim Sağlayın:
ISACA, Yapay Zeka Denetimini ("Çalışma") öncelikle profesyoneller için bir
www.isaca.org/auditing-AI
eğitim kaynağı olarak tasarlamış ve oluşturmuştur. ISACA, Çalışmanın
herhangi birinin kullanımının başarılı bir sonuç sağlayacağı iddiasında ISACA Çevrimiçi Forumlarına katılın:
değildir. Çalışma, tüm uygun bilgi, prosedür ve testleri içerdiği veya aynı https://engage.isaca.org/onlineforums
sonuçları elde etmeye yönelik diğer bilgi, prosedür ve testleri dışladığı
Twitter:
düşünülmemelidir. Herhangi bir özel bilgi, prosedür veya testin uygunluğunu
www.twitter.com/ISACANews
belirlerken, profesyoneller belirli sistemler veya bilgi teknolojisi ortamı
tarafından sunulan özel koşullara kendi profesyonel yargılarını LinkedIn:
www.linkd.in/ISACAOfficial
uygulamalıdır.
Facebook:
HAKLARIN SAKLI TUTULMASI www.facebook.com/ISACAHQ

© 2018 ISACA. Tüm hakları saklıdır. Instagram:

www.instagram.com/isacanews/

Yapay Zeka Denetimi

© 2018 ISACA. Tüm Hakları Saklıdır.