Machine Translated by Google

Pemerintah
Layanan Digital

Kerangka Etika Data

Machine Translated by Google

© Hak cipta mahkota 2020

Publikasi ini dilisensikan berdasarkan

ketentuan Open Government License
v3.0 kecuali dinyatakan lain. Untuk
melihat lisensi ini, kunjungi
nationalarchives.gov.uk/doc/open
government-licence/version/3

Publikasi ini juga tersedia di situs web

kami di www.gov.uk/government/
publications/data-ethics-framework

2
Machine Translated by Google
Kerangka Etika Data
Untuk apa ini?
Kerangka Kerja Etika Data memandu
penggunaan data yang tepat dan bertanggung
jawab di pemerintahan dan sektor publik yang lebih luas.
Ini membantu pegawai negeri memahami
pertimbangan etis, mengatasinya dalam proyek
mereka, dan mendorong inovasi yang
bertanggung jawab.
Untuk siapa ini?
Panduan ini ditujukan untuk siapa saja yang
bekerja secara langsung atau tidak langsung
dengan data di sektor publik, termasuk praktisi
data (ahli statistik, analis, dan ilmuwan data),
pembuat kebijakan, staf operasional, dan mereka
yang membantu menghasilkan wawasan
berdasarkan informasi data.
Bagaimana cara menggunakannya?
Tim harus bekerja melalui kerangka
bersama selama proses perencanaan,
pelaksanaan, dan evaluasi proyek baru.
Setiap bagian dari kerangka kerja dirancang
untuk ditinjau kembali secara teratur di seluruh
proyek Anda, terutama ketika ada perubahan
yang dilakukan pada proses pengumpulan,
penyimpanan, analisis, atau pembagian data
Anda.
Pertanyaan di setiap bagian akan memandu Anda
melalui berbagai pertimbangan etis dalam proyek
Anda. Rekam jawaban Anda untuk membuat
penilaian etika data.
Skala penilaian penilaian mandiri dirancang
untuk membantu Anda mengidentifikasi aspek
mana dari proyek Anda yang perlu dikerjakan
lebih lanjut.
Kerangka Etika Data
Perkenalan
Struktur
Kerangka ini dibagi menjadi prinsip menyeluruh
dan tindakan spesifik.
Prinsip menyeluruh berlaku di seluruh proses
dan mendukung semua tindakan dan semua
aspek proyek. Tindakan khusus akan memandu
Anda melalui berbagai tahapan proyek dan
memberikan pertimbangan praktis.
Selain itu, kerangka tersebut memberikan
tindakan spesifik yang dapat Anda ambil di
setiap tahap proyek untuk meningkatkan
transparansi, akuntabilitas, dan keadilan. Ini
ditandai dalam setiap bagian.
3
Machine Translated by Google

Perkenalan

Prinsip menyeluruh Tindakan spesifik

Prinsip menyeluruh berlaku Tindakan khusus akan memandu

di seluruh proses dan mendukung Anda melalui berbagai tahapan
semua tindakan dan semua aspek proyek dan memberikan
proyek. pertimbangan praktis.

Defne dan Tinjau kualitas dan

Transparansi 1 memahami manfaat
publik dan kebutuhan pengguna 4 keterbatasan data

Mengevaluasi dan

Akuntabilitas 2 Libatkan
beragam keahlian 5 mempertimbangkan

implikasi kebijakan yang lebih luas

Keadilan
3 Patuhi hukum

Kerangka Etika Data 4

Machine Translated by Google

Perkenalan

Prinsip menyeluruh

Transparansi
Transparansi Skor

0 1234 5
Transparansi berarti bahwa tindakan, proses, dan
data Anda dibuat terbuka untuk diperiksa dengan
menerbitkan informasi tentang proyek dalam format
yang lengkap, terbuka, dapat dipahami, mudah Informasi tentang proyek, Informasi tentang proyek,

diakses, dan gratis. Dalam pekerjaan Anda dengan metodenya, dan hasilnya tidak metodenya, dan hasilnya tersedia
tersedia untuk umum secara luas untuk umum
dan pada data dan AI, gunakan panduan yang
tersedia, misalnya Buku Panduan Pemerintah
Terbuka, untuk memastikan transparansi di seluruh
proses Anda.
Kunci:

Awal Selama Setelah

Kerangka Etika Data 5

Machine Translated by Google

Perkenalan

Akuntabilitas
Akuntabilitas Skor

0 1234 5
Akuntabilitas berarti bahwa ada mekanisme
tata kelola dan pengawasan yang efektif untuk
setiap proyek. Akuntabilitas publik berarti
bahwa publik atau perwakilannya dapat melakukan Mekanisme pengawasan, tata
Pengawasan jangka panjang dan
pengawasan dan kontrol yang efektif atas keputusan kelola, atau tinjauan sejawat untuk
mekanisme pengawasan publik
proyek belum ditetapkan
dan tindakan yang diambil oleh pemerintah dan dibangun ke dalam siklus proyek
pejabatnya, untuk menjamin bahwa inisiatif
pemerintah memenuhi tujuan yang dinyatakan dan
menanggapi kebutuhan masyarakat yang mereka
Kunci:
dirancang untuk menguntungkan.

Awal Selama Setelah

Kerangka Etika Data 6

Machine Translated by Google

Perkenalan

Keadilan

Keadilan
Keadilan — Sangat penting untuk menghilangkan Skor
potensi proyek Anda untuk memiliki efek diskriminatif
yang tidak diinginkan pada individu dan kelompok
sosial. Anda harus bertujuan untuk mengurangi bias
0 1234 5
yang dapat memengaruhi hasil model Anda dan
memastikan bahwa proyek dan hasilnya menghormati
martabat individu, adil, tidak diskriminatif, dan
konsisten dengan kepentingan publik, termasuk hak
asasi manusia dan nilai-nilai demokrasi. Ada risiko yang signifikan bahwa Proyek ini mempromosikan hasil
proyek tersebut akan mengakibatkan yang adil dan setara, memiliki efek
kerugian atau dampak yang merugikan yang dapat diabaikan,
merugikan dan diskriminatif bagi dan selaras dengan pertimbangan
publik atau kelompok tertentu hak asasi manusia
Anda dapat membaca lebih lanjut tentang keadilan
dan berbagai jenisnya di bagian Memahami etika
dan keamanan kecerdasan buatan panduan yang Kunci:
dikembangkan oleh Government Digital Service
dan Office for Artificial Intelligence.

Awal Selama Setelah

Anda dapat membaca lebih lanjut
tentang standar terkait hak asasi manusia dalam
AI dan pembelajaran mesin di Deklarasi Toronto
dikembangkan oleh Access Now dan Amnesty
International.

Kerangka Etika Data 7

Machine Translated by Google

Perkenalan

Tabel penilaian diri untuk

3 prinsip menyeluruh.
Harap gunakan penilaian mandiri berikut untuk menandai, melacak, dan berbagi
kemajuan Anda secara keseluruhan dari waktu ke waktu berdasarkan 3 prinsip
umum berikut.

Kunci:

Awal Selama Setelah

Skor

Prinsip 0 1 2 3 4 5
Transparansi

Akuntabilitas

Keadilan

Kerangka Etika Data 8

Machine Translated by Google

Perkenalan

Tabel penilaian diri untuk 5

tindakan spesifik. Kunci:

Harap gunakan penilaian mandiri berikut untuk menandai, melacak, dan Awal Selama Setelah

berbagi kemajuan Anda secara keseluruhan dari waktu ke waktu terhadap 5

tindakan spesifik berikut.

Skor

Tindakan spesifik 0 1 2 3 4 5
kebutuhankepentingan
1 Mempertahankan pengguna publik dan 2

Melibatkan beragam keahlian 3 Mematuhi

hukum 4 Memeriksa kualitas dan 4.1 Memeriksa

kualitas dan keterbatasan data

keterbatasan model

implikasi
5 Mengevaluasi kebijakan lebih luas
dan mempertimbangkan

Kerangka Etika Data 9

Machine Translated by Google

Perkenalan

Tabel penilaian diri untuk

3 prinsip menyeluruh.
Harap gunakan penilaian mandiri berikut untuk menandai, melacak, dan berbagi
kemajuan Anda secara keseluruhan dari waktu ke waktu berdasarkan 3 prinsip
umum berikut.

Kunci:

Awal Selama Setelah

Skor

Prinsip 0 1 2 3 4 5
Transparansi

Akuntabilitas

Keadilan

Kerangka Etika Data 10

Machine Translated by Google

Perkenalan

Tabel penilaian diri untuk 5

tindakan spesifik. Kunci:

Harap gunakan penilaian mandiri berikut untuk menandai, melacak, dan Awal Selama Setelah

berbagi kemajuan Anda secara keseluruhan dari waktu ke waktu terhadap 5

tindakan spesifik berikut.

Skor

Tindakan spesifik 0 1 2 3 4 5
kebutuhankepentingan
1 Mempertahankan pengguna publik dan 2

Melibatkan beragam keahlian 3 Mematuhi

hukum 4 Memeriksa kualitas dan 4.1 Memeriksa

kualitas dan keterbatasan data

keterbatasan model

implikasi
5 Mengevaluasi kebijakan lebih luas
dan mempertimbangkan

Kerangka Etika Data 11

Machine Translated by Google

Tindakan 1

Defne dan memahami manfaat

publik dan kebutuhan pengguna

Saat memulai proyek data sektor publik, Anda harus

memiliki artikulasi yang jelas tentang tujuannya.
Ini termasuk memiliki kejelasan tentang manfaat publik apa
yang ingin dicapai oleh proyek dan apa kebutuhan orang-
orang yang akan menggunakan layanan tersebut atau yang
akan paling terpengaruh secara langsung olehnya.

Kerangka Etika Data

1 12
Machine Translated by Google

Tindakan 1

Defne dan memahami manfaat

publik dan kebutuhan pengguna

Saat memulai proyek Defne manfaat publik dan kebutuhan pengguna

data sektor publik... Skor

Menggunakan lingkaran, pindahkan mereka ke
tempat proyek Anda berada di spektrum. Lakukan
ini di awal proyek, selama proyek dan setelah proyek
selesai. Ini akan membantu Anda melacak,
berkomunikasi, dan membagikan kemajuan Anda.
0 1234 5
Manfaat publik dan kebutuhan
Manfaat publik dan kebutuhan pengguna
pengguna didefinisikan dengan baik
tidak didefinisikan atau dipahami dengan
dan dipahami oleh semua anggota
jelas
tim

Kunci:

Awal Selama Setelah

Kerangka Etika Data 13

Machine Translated by Google
Defne dan memahami manfaat
1 publik dan kebutuhan pengguna
Manfaat Publik
1.1
Memahami manfaat publik
yang lebih luas
• Apa manfaat langsung bagi
individu dalam proyek ini? (misalnya
menghemat waktu saat melamar layanan
pemerintah)
• Bagaimana proyek memberikan hasil sosial
yang positif bagi masyarakat luas?
• Bagaimana Anda mengukur dan
mengkomunikasikan manfaat proyek
ini kepada publik?
• Kelompok apa saja yang akan dirugikan
oleh proyek/yang tidak akan
diuntungkan dari proyek?
Apa yang dapat Anda lakukan tentang ini?
Tindakan 1
1.2
Pahami konsekuensi yang tidak diinginkan dan
atau negatif dari proyek Anda
• Apa salahnya jika tidak menggunakan data? Sosial apa
hasil mungkin tidak terpenuhi?
• Apa potensi risiko atau konsekuensi negatif dari proyek versus risiko
tidak melanjutkan proyek?
• Bisakah penyalahgunaan data/algoritma atau desain proyek yang
buruk berkontribusi pada penguatan masalah dan ketidaksetaraan
sosial dan etika?
• Mekanisme seperti apa yang dapat Anda terapkan untuk mencegah hal
ini terjadi?
• Kelompok tertentu apa yang mendapat manfaat dari proyek ini?
Kelompok apa yang tidak diberi kesempatan/menghadapi
konsekuensi negatif karena proyek?
Kerangka Etika Data 14
Machine Translated by Google

Tindakan 1
1.3

Pertimbangan
hak asasi manusia

1.4
• Bagaimana desain dan implementasi dari
Jelaskan manfaat bagi pembayar proyek/algoritma menghormati hak asasi manusia dan
nilai-nilai demokrasi?
pajak dan penggunaan sumber daya
publik yang tepat dalam proyek Anda • Bagaimana proyek/algoritma bekerja untuk memajukan
kemampuan manusia, memajukan inklusi populasi
yang kurang terwakili, mengurangi ketidaksetaraan
ekonomi, sosial, gender, ras, dan lainnya?
• Bagaimana Anda dapat menunjukkan nilai uang
dari proyek Anda?
• Apa implikasi lingkungan dari proyek ini? Bagaimana
• Apakah ada tata kelola yang efektif dan mereka bisa dikurangi?
pengawasan pengambilan keputusan untuk
memastikan keberhasilan proyek?

• Apakah Anda memiliki bukti untuk menunjukkan

semua hal di atas?

1.5
• Di mana Anda dapat mempublikasikan informasi tentang caranya
proyek memberikan hasil sosial yang positif bagi
Jadikan kebutuhan pengguna publik?
dan manfaat publik Anda transparan
• Bagaimana Anda berbagi pemahaman tentang
kebutuhan pengguna dengan pengguna?

Kerangka Etika Data 15

Machine Translated by Google
Kebutuhan pengguna
Pastikan ada artikulasi masalah yang jelas sebelum
Anda memulai proyek.
Jelaskan kebutuhan pengguna dalam proyek Anda:
• Sebagai … •
Saya perlu/ingin/harapkan untuk… [apa yang ingin dilakukan pengguna?] • Sehingga…
[mengapa pengguna ingin melakukan ini?]
Contoh 1: Layanan Daftar untuk memilih kebutuhan
pengguna:
• Sebagai penduduk Inggris
• Saya ingin mendapatkan detail saya di daftar pemilih
online • Agar saya dapat memilih
Contoh 2: kebutuhan pengguna saat membangun
platform untuk pemeriksaan keamanan gratis:
• Sebagai analis data yang bekerja di layanan bebas dan
penyelamatan
• Saya perlu mengidentifikasi rumah yang mana
kemungkinan besar tidak memiliki alarm asap
Tindakan 1
1.7 1.6
Memahami
kebutuhan pengguna
Kebutuhan pengguna adalah kebutuhan
yang dimiliki pengguna terhadap suatu
layanan, dan yang harus dipenuhi oleh
layanan tersebut agar pengguna
mendapatkan hasil yang tepat bagi mereka.
Untuk informasi lebih lanjut tentang
kebutuhan pengguna, lihat Manual Servis
• Agar saya dapat menyarankan cara memprioritaskan GDS .
pemeriksaan keselamatan gratis
Contoh:
Untuk berbagai kebutuhan pengguna, dengan menggunakan data dapat:
• menjalankan dan meningkatkan
layanan
• membantu Anda mengidentifikasi tema dalam
volume teks yang besar • memprediksi apa
• membangun layanan baru
yang akan terjadi • secara otomatis mengategorikan
hal-hal • menemukan sesuatu yang tidak biasa •
• menguji coba proses baru untuk
menunjukkan kepada Anda bagaimana berbagai
operasi internal
hal terhubung satu sama lain • menemukan pola dalam
volume data yang besar • menemukan pola
• menguji kebijakan yang ada dan yang
geografis dalam layanan atau data
baru
Kerangka Etika Data 16
Machine Translated by Google

Tindakan 1

1.8

Periksa apakah setiap orang di tim

Anda memahami kebutuhan pengguna

dan bagaimana penggunaan data dapat

membantu.

1.9

Apakah semua orang di tim Anda memahami

kebutuhan pengguna?
Tinjau kembali kebutuhan pengguna Anda
berulang kali selama proyek berlangsung.
• Seringkali proyek yang melibatkan analisis data
diminta oleh non-praktisi - orang dengan
masalah yang tidak jelas yang ingin mereka
pahami dengan lebih baik. Pertimbangkan pertanyaan-pertanyaan ini saat proyek
Membingkai ulang permintaan mereka sebagai berkembang:
kebutuhan pengguna akan membantu Anda
memahami apa yang mereka minta dan alasannya, • Apa masalah keseluruhan yang ingin Anda
atau mengungkap apa yang belum Anda ketahui. selesaikan?

• Siapa pengguna proses atau analisis

data ini?

• Kebutuhan apa yang mereka miliki?

Kerangka Etika Data 17

Machine Translated by Google

Tindakan 2

Libatkan beragam keahlian

Bekerja dalam tim yang beragam dan multidisiplin

dengan rangkaian keterampilan yang luas berkontribusi
pada keberhasilan proyek data atau teknologi apa pun. Jika
Anda tidak memiliki keterampilan atau pengalaman yang
memadai, Anda harus melibatkan orang lain dari tim Anda
atau jaringan yang lebih luas dengan keahlian yang tepat.

Kerangka Etika Data

2 18
Machine Translated by Google

Tindakan 2

Libatkan beragam keahlian

Kunci:
Libatkan beragam keahlian
Skor
Awal Selama Setelah

0 1234 5

Tim proyek itu homogen Tim proyek beragam, multidisiplin,

dan hanya ada sedikit masukan ahli dengan masukan ahli yang luas

Kerangka Etika Data 19

Machine Translated by Google
2 Libatkan beragam keahlian
2.1
Dapatkan keahlian yang tepat
• Selain ilmuwan data, siapa pakar dan praktisi kebijakan
yang relevan di tim Anda?
• Apa disiplin dan materi pelajaran lainnya
pakar perlu dilibatkan? Langkah apa yang telah diambil
untuk melibatkan mereka?
• Apa peran mereka? Sudahkah Anda mendefinisikan siapa
melakukan apa dalam proyek?
• Tanyakan kepada tim dan pakar Anda apakah Anda memiliki data
yang tepat untuk pertanyaan riset Anda. Dapatkan bantuan mereka
untuk mencocokkan kumpulan data dengan masalahnya.
Tindakan 2
2.2
Pastikan keragaman dalam tim Anda
• Bagaimana Anda memastikan keragaman dalam tim Anda?
Memiliki tim yang beragam membantu mencegah bias dan
mendorong lebih banyak kreativitas dan keragaman pemikiran.
• Hindari membentuk tim yang homogen, rangkul
keragaman pengalaman hidup orang-orang dari latar
belakang yang berbeda. Jika Anda menemukan diri
Anda dalam tim yang homogen, tantanglah.
Kerangka Etika Data 20
Machine Translated by Google

Tindakan 2

2.3

Melibatkan pemangku kepentingan eksternal

2.4

Struktur tata kelola yang

• Bagaimana Anda melibatkan pakar domain eksternal
efektif dengan para ahli
proyek Anda (misalnya akademisi, ahli etika, peneliti)?

• Sudahkah Anda berkonsultasi dengan organisasi masyarakat

sipil yang relevan?
• Pengawasan senior/eksternal apa yang ada untuk proyek Anda?
• Apa dampak keterlibatan/konsultasi eksternal terhadap
• Apa mekanisme tata kelola yang memungkinkan pakar proyek?
domain menantang proyek Anda?
• Sudahkah Anda mempertimbangkan untuk berkonsultasi dengan
• Siapa pakar/konsultan eksternal yang audiens target atau pengguna proyek Anda? Hal ini dapat
dapat meninjau dan menilai kemajuan dan pertimbangan dilakukan melalui berbagai proses musyawarah dan konsultasi.
etis proyek Anda? Bagaimana Anda akan melibatkan
mereka?

• Apa mekanisme penghentian jika proyek berhenti etis?

2.5
• Jika perlu, publikasikan informasi tentang konsultasi
Transparansi ahli dan struktur tim proyek

Kerangka Etika Data 21

Machine Translated by Google

Tindakan 3

Patuhi hukum
Anda harus memiliki pemahaman tentang
undang-undang dan kode praktik terkait yang terkait
dengan penggunaan data. Jika ragu, Anda harus
berkonsultasi dengan pakar yang relevan.

Kerangka Etika Data

3 22
Machine Translated by Google

Tindakan 3

Patuhi hukum

Kunci:
Patuhi hukum
Skor
Awal Selama Setelah

0 1234 5

Persyaratan hukum yang relevan

telah dipenuhi, penilaian wajib telah
Ada sedikit kejelasan tentang
diselesaikan, pakar hukum telah
persyaratan hukum untuk proyek tersebut
dikonsultasikan

Kerangka Etika Data 23

Machine Translated by Google

Tindakan 3

3 Patuhi hukum

3.1 3.2

Dapatkan nasihat hukum
• Sudahkah Anda berbicara dengan penasihat
hukum dalam organisasi Anda?
Adalah tugas dan kewajiban Anda untuk mematuhi
hukum dalam setiap proyek data. Anda harus memastikan
kepatuhan proyek terhadap GDPR dan DPA 2018

• Sudahkah Anda berbicara dengan Anda

tim penjaminan informasi?
Jika Anda menggunakan data pribadi, Anda harus mematuhi prinsip
Peraturan Perlindungan Data Umum (GDPR) UE dan Undang-Undang
• Sudahkah Anda berkonsultasi dengan Anda
Perlindungan Data 2018 (DPA 2018) yang mengimplementasikan aspek
Petugas Perlindungan Data organisasi
GDPR dan mengubah Petunjuk Penegakan Hukum ke dalam hukum
saat melakukan DPIA?
Inggris. Ini juga menyediakan rezim pemrosesan terpisah untuk aktivitas
yang berada di luar ruang lingkup undang-undang UE.
• Nasihat hukum apa yang telah Anda
terima?

Data pribadi dijelaskan dalam Bagian 3(2) DPA 2018 (penjelasan

yang lebih luas dirinci dalam Pasal 4 GDPR).

Kerangka Etika Data 24

Machine Translated by Google

Tindakan 3

3.3

Perlindungan data
dengan desain dan DPIA
3.4

Akuntabilitas Perlindungan data dengan desain dan secara default merupakan

persyaratan hukum berdasarkan GDPR (lihat Pasal 25).

Ini adalah kewajiban hukum berdasarkan Pasal 35 GDPR untuk

Aspek penting dalam mematuhi undang-undang perlindungan data
adalah mampu menunjukkan tindakan apa yang Anda ambil untuk
memastikan semuanya terdokumentasi, seperti yang terlihat dalam
Pasal 5(2) GDPR (prinsip akuntabilitas) dan Pasal 30 tentang
menyimpan catatan pemrosesan kegiatan.
menyelesaikan penilaian dampak perlindungan data (DPIA) (juga
dikenal sebagai penilaian dampak privasi) ketika kemungkinan
ada risiko tinggi terhadap hak orang, terutama saat menggunakan
teknologi baru.
Merupakan praktik yang baik untuk melakukan DPIA untuk setiap
penggunaan data pribadi.

Tim penjaminan informasi dan organisasi Anda akan bertanggung

jawab atas hal ini pada tingkat tinggi termasuk memastikan kebijakan
dan pelatihan tersedia. Namun, penting untuk menunjukkan bagaimana
3.5
Anda melakukannya pada tingkat individu, melalui dokumentasi
menyeluruh tentang hal-hal seperti Penilaian Dampak Perlindungan
Data.
Transparansi

Publikasikan DPIA Anda dan

dokumen terkait lainnya

Kerangka Etika Data 25

Machine Translated by Google

Tindakan 3

3.6

Pastikan kepatuhan proyek terhadap

Equality Act 2010
3.7

Analisis data atau pengambilan keputusan otomatis tidak boleh Pastikan tata kelola data Anda
menghasilkan hasil yang mengarah pada diskriminasi sebagaimana
yang efektif
didefinisikan dalam Undang-Undang Kesetaraan 2010.

• Bagaimana Anda dapat menunjukkan bahwa proyek Anda

memenuhi Tugas Kesetaraan Sektor Publik?
Organisasi memiliki tanggung jawab untuk menyimpan
kedua data pribadi tersebut dan keamanan data non-pribadi.
• Apa hasil dari Penilaian Dampak Kesetaraan proyek?

• Bagaimana Anda memastikan proyek tersebut

sesuai dengan kebijakan tata kelola data dalam organisasi
Anda?

3.8

Pastikan kepatuhan
Pertimbangkan undang-undang dan kode praktik proyek Anda dengan
tambahan yang relevan .
peraturan tambahan

Kerangka Etika Data 26

Machine Translated by Google

Tindakan 4

Tinjau kualitas dan

keterbatasan data

Wawasan dari teknologi baru hanya sebaik data dan

praktik yang digunakan untuk membuatnya.
Anda harus memastikan bahwa data untuk proyek
tersebut akurat, representatif, digunakan secara
proporsional, berkualitas baik, dan Anda dapat
menjelaskan keterbatasannya.

Kerangka Etika Data

4 27
Machine Translated by Google

Tindakan 4

Tinjau kualitas dan

keterbatasan data

Tinjau kualitas dan keterbatasan data Kunci:

Skor
Awal Selama Setelah

0 1234 5

Data untuk proyek berkualitas Data yang digunakan dalam proyek

buruk, tidak sesuai, tidak dapat bersifat representatif, digunakan secara
diandalkan, tidak representatif proporsional, akurat, dan berkualitas baik

Model tidak dapat Model dapat direproduksi dan

direproduksi dan kemungkinan akan mampu menghasilkan output yang
menghasilkan keluaran yang tidak valid valid

Kerangka Etika Data 28

Machine Translated by Google

Tindakan 4

Tinjau kualitas dan

4 keterbatasan data

4.1

Sumber data • Sumber data apa yang digunakan?

• Apakah individu dan/atau organisasi yang menyediakan data mengetahui bagaimana data tersebut akan digunakan?
Jika pengguna mengubah tujuan data untuk analisis tanpa persetujuan individu, bagaimana Anda memastikan
bahwa tujuan baru tersebut kompatibel dengan alasan awal pengumpulan (Pasal 6 (4)
GDPR)?

• Apakah semua metadata dan nama bidang dipahami dengan jelas?

• Apakah Anda memahami bagaimana data untuk proyek dihasilkan? Ingat itu
tergantung dari mana data berasal, feld mungkin tidak mewakili apa yang ditunjukkan oleh nama feld/
metadata.

• Proses apa yang Anda miliki untuk memastikan dan menjaga integritas data?

• Apa peringatannya? Bagaimana peringatan akan diperhitungkan untuk kebijakan masa depan atau
layanan yang menggunakan pekerjaan ini sebagai basis bukti?

• Apakah menggunakan data sintetik sesuai untuk proyek? Data sintetis sepenuhnya
dibuat atau disarikan dari data nyata melalui berbagai proses, misalnya anonimisasi atau pengalihan catatan. Itu
sering dibuat dengan fitur khusus untuk menguji atau melatih suatu algoritma.

Kerangka Etika Data 29

Machine Translated by Google

Tindakan 4

4.3 4.2

Bias dalam data Menentukan proporsionalitas

• Bagaimana data yang digunakan untuk melatih model dinilai Anda harus menggunakan data
untuk potensi bias? Anda harus mempertimbangkan: minimum yang diperlukan untuk
mencapai hasil yang Anda inginkan
(Pasal 5(1) (c) dari GDPR). Data pribadi
• Apakah data mungkin (secara akurat) mencerminkan harus memadai, relevan, dan terbatas
praktik historis yang bias yang tidak ingin Anda tiru pada apa yang diperlukan sehubungan
dalam model (bias historis) • Data mungkin merupakan dengan tujuan pemrosesannya.
representasi keliru yang bias dari praktik historis, misalnya
karena hanya kategori data tertentu yang dicatat dengan
benar dalam format yang dapat diakses oleh proyek (bias • Bagaimana Anda dapat
seleksi) memenuhi tujuan proyek
menggunakan data pribadi
seminimal mungkin?
• Jika menggunakan data tentang orang, apakah mungkin
model atau analisis Anda mungkin mengidentifikasi variabel • Apakah ada cara untuk mencapai tujuan
proksi untuk karakteristik yang dilindungi yang dapat menyebabkan yang sama dengan data yang kurang
hasil yang diskriminatif? Variabel proksi tersebut berpotensi dapat diidentifikasi, misalnya data
menjadi penyebab diskriminasi tidak langsung; Anda harus dengan nama samaran?
mempertimbangkan apakah penggunaan variabel-variabel ini
sesuai dalam konteks layanan Anda (yaitu apakah ada hubungan • Jika menggunakan data pribadi
kausal yang masuk akal antara variabel proksi dan hasil yang untuk mengidentifikasi individu,
Anda coba ukur?; apakah Anda menilai ini sebagai cara yang tindakan apa yang dilakukan untuk
proporsional untuk mencapai tujuan yang sah sesuai dengan mengontrol akses?
Equality Act 2010?)
• Apakah input data sesuai dan
diperlukan untuk mencapai
• Tindakan apa yang telah Anda ambil untuk mengurangi bias? tujuan?
• Apakah yang diusulkan
penggunaan data dianggap
tidak tepat oleh mereka yang
menyediakan data (individu
dan/atau organisasi)?
• Apakah usulan penggunaan data
untuk tujuan sekunder
memperkecil kemungkinan orang
ingin memberikan data itu lagi untuk
tujuan utama pengumpulannya?
• Bagaimana Anda bisa menjelaskan alasannya
Anda perlu menggunakan data ini
untuk anggota masyarakat?
• Apakah ini menggunakan data
mengganggu hak individu? Jika
ya, apakah ada cara yang tidak
terlalu mengganggu untuk
mencapai tujuan?

Kerangka Etika Data 30

Machine Translated by Google

Tindakan 4

4.4

Anonimisasi data
4.5

Praktek yang kuat

Jika Anda berencana untuk menganonimkan atau
memalsukan data pribadi sebelum menautkan atau
menganalisis, pastikan Anda mengikuti Anonimisasi ICO :
mengelola kode praktik risiko perlindungan data dan
• Jika perlu, bagaimana Anda (atau pengawasan eksternal) dapat memvalidasi
dokumentasikan metode Anda. Anda dapat menemukan lebih
bahwa algoritme mencapai keputusan keluaran yang benar saat data baru
banyak saran teknis di panduan anonimisasi Jaringan
ditambahkan?
Anonimisasi Inggris.

• Bagaimana Anda dapat menunjukkan bahwa Anda telah merancang proyek

Jika asumsinya adalah bahwa data dalam proyek
untuk reproduktifitas?
dianonimkan, pertimbangkan hal berikut:

• Dapatkah analis lain mengulangi prosedur Anda berdasarkan

• Bagaimana Anda dapat mendemonstrasikan bahwa data telah
dokumentasi Anda? Sudahkah mereka mencoba? • Sudahkah Anda
dihilangkan identifikasinya semaksimal mungkin?
mengikuti 3 persyaratan untuk
reproduktifitas? (Menerapkan logika yang sama (kode, model
atau proses), ke data yang sama, di lingkungan yang sama). •
• Apakah data dapat dicocokkan dengan set data lain yang akan
Bagaimana Anda memastikan bahwa dokumentasi berkualitas
membuat individu mudah diidentifikasi?
tinggi akan disimpan? • Sudahkah Anda mempertimbangkan Saluran
Tindakan apa yang telah Anda ambil untuk mengurangi
Analitik yang Dapat Direproduksi? (RAP)
ini? Sudahkah Anda mempertimbangkan pengujian
penyusup yang ditentukan ?

• Seberapa yakin Anda bahwa algoritme ini tangguh, dan asumsi apa pun terpenuhi?

• Bagaimana kualitas keluaran model, dan bagaimana hal ini dilakukan

menumpuk terhadap tujuan proyek?

Kerangka Etika Data 31

Machine Translated by Google

Tindakan 4

4.6

Jadikan data Anda terbuka dan

4.7 dapat dibagikan jika memungkinkan

Bagikan model Anda - alat ilmu data yang

dikembangkan harus tersedia untuk pengawasan
Jika data bersifat non-sensitif, non-pribadi, dan
sedapat mungkin. jika Perjanjian Berbagi Data dengan pemasok
mengizinkannya, Anda harus membuka data tersebut
dan menetapkannya sebagai pengenal objek digital
(DOI). Misalnya, para ilmuwan membagikan data
saat menerbitkan makalah di Figshare dan Datadryad.
• Dapatkah Anda secara terbuka mempublikasikan metodologi, metadata
Ini memberi orang lain akses ke data dan kode,
tentang model Anda, dan/atau model itu sendiri misalnya di Github?
sehingga analisis dapat direproduksi. Anda juga
dapat memublikasikan data di Temukan data terbuka
Ada 2 jenis algoritma utama yang digunakan dalam ilmu data.
dan Arsip Data Inggris.

Yang pertama adalah metodologi algoritmik yang digunakan untuk melatih model.
Seringkali lebih berguna dan jelas untuk membagikan dokumen yang menjelaskan
proses analitis daripada kodenya.

Yang kedua adalah model yang dilatih itu sendiri (hasil penerapan metodologi
ke kumpulan data). Merilis model ini memungkinkan orang lain untuk memeriksa
dan mengujinya, dan mungkin menyoroti masalah yang dapat Anda perbaiki
sebagai bagian dari peningkatan berkelanjutan.

Saat berbagi model, penting untuk tidak membahayakan:

• privasi orang yang datanya digunakan untuk melatihnya •

integritas tugas yang dilakukan.

Kerangka Etika Data 32

Machine Translated by Google

Tindakan 4

4.8

Bagaimana memastikan
transparansi model sensitif

4.9
• Bagaimana Anda berencana untuk memberi tahu
publik tentang model tersebut?
Dapat dijelaskan
• Meskipun model tidak dapat dirilis secara publik,
Anda mungkin dapat merilis metadata tentang
model tersebut secara berkelanjutan, seperti
kinerjanya pada set data tertentu.
Explainability adalah sejauh mana cara kerja dalam algoritma pembelajaran
mesin dapat dijelaskan dalam istilah manusia. Ini berarti memperluas transparansi
variabel apa yang digunakan untuk memberikan informasi tentang bagaimana
• Jika aplikasi ilmu data Anda
algoritme menghasilkan output, dan bagaimana mengubah input dapat mengubah
sangat sensitif, Anda dapat mengatur badan
output.
eksternal terpilih, yang disetujui oleh organisasi
Anda, untuk memeriksa model itu sendiri dalam
• Jelaskan apa yang dilakukan proyek Anda dan bagaimana proyek itu dirancang
konteks yang terkendali untuk memberikan
dalam bahasa yang sederhana kepada audiens non-ahli.
umpan balik. Ini bisa berupa keahlian dari
departemen pemerintah lain, akademisi atau
• Jelaskan proses dan tujuan algoritme Anda, seperti
badan publik. serta variabel apa yang digunakan untuk hasil apa tanpa menggunakan
istilah teknis.

• Jadikan penjelasan ini tersedia untuk umum (misalnya di GitHub, blog, atau
gov.uk).

Kerangka Etika Data 33

Machine Translated by Google

Tindakan 5

Mengevaluasi dan mempertimbangkan

implikasi kebijakan yang lebih luas

Sangat penting bahwa ada rencana untuk terus mengevaluasi

apakah wawasan dari data digunakan secara bertanggung
jawab. Ini berarti bahwa tim pengembangan dan implementasi
memahami bagaimana temuan dan model data harus digunakan
dan dipantau dengan rencana evaluasi yang kuat dan
mekanisme akuntabilitas yang efektif.

Kerangka Etika Data

5 34
Machine Translated by Google

Tindakan 5

Mengevaluasi dan

mempertimbangkan implikasi kebijakan yang lebih luas

Kunci:
Mengevaluasi dan mempertimbangkan implikasi kebijakan yang lebih luas

Skor
Awal Selama Setelah

0 1234 5

Tidak ada struktur evaluasi Evaluasi berkelanjutan dan struktur

dan pemeliharaan jangka panjang pemeliharaan jangka panjang
tersedia

Kerangka Etika Data 35

Machine Translated by Google
Mengevaluasi dan mempertimbangkan
5 implikasi kebijakan yang lebih luas
5.1
Evaluasi proyek
Evaluasi berkelanjutan - tanyakan pada diri Anda
dan tim:
• Di awal proyek: 'apakah kita melakukan
hal yang benar?'
• Selama proyek: 'sudahkah kita
mendesainnya dengan baik?' •
Setelah proyek: 'apakah masih dilakukan
hal yang tepat untuk apa kami merancangnya?'
• Bagaimana Anda mengevaluasi proyek?
Teknik evaluasi yang mungkin Anda
gunakan termasuk mengadakan
pertemuan meja bundar retrospektif di akhir
proyek; mengundang pakar eksternal atau
'teman kritis' dari tim yang berbeda untuk
mengamati dan mengevaluasi proyek; meminta
konsultasi eksternal atau audit.
Tindakan 5
5.2
Berulang kali meninjau kembali kebutuhan
pengguna dan manfaat publik selama proyek berlangsung
• Bagaimana kebutuhan pengguna berubah?
• Apakah proyek masih bermanfaat bagi publik?
• Apakah telah terjadi perubahan keadaan yang
mungkin telah mempengaruhi pemahaman awal tentang
manfaat publik dalam proyek? Jika ya, bagaimana cara
menyesuaikannya?
• Seberapa memadai pengawasan manusia saat ini terhadap proyek
otomatis?
• Jika ada kerugian yang tidak terduga muncul selama proyek
berlangsung, bagaimana hal itu dimitigasi?
Kerangka Etika Data 36
Machine Translated by Google

Tindakan 5

5.3

Periksa bagaimana proyek Anda

5.4 memengaruhi kebijakan

Pastikan ada keterampilan,

pelatihan, pemeliharaan untuk umur panjang proyek • Seberapa akurat wawasan dari
proyek yang digunakan dalam konteks kebijakan praktis?

• Bagaimana Anda memastikan apakah pembuat kebijakan dan

• Bagaimana Anda memastikan bahwa pengguna memiliki pengguna sekunder alat ini sepenuhnya memahami
dukungan dan pelatihan yang tepat untuk mempertahankan tujuan dan strukturnya?
teknologi baru?

• Apa umur panjang proyek?

• Bagaimana Anda memeriksa apakah pengguna memahami 5.5

perangkat lunak yang mereka butuhkan untuk memelihara proyek?
Apakah mereka telah dilatih dengan tepat? Struktur akuntabilitas

• Apa tata kelolanya

struktur di tempat untuk
memastikan implementasi proyek
yang aman dan berkelanjutan?

• Seberapa sering Anda akan

memperbarui dewan/badan pengatur?

Kerangka Etika Data 37

Machine Translated by Google

Tindakan 5

5.6

Pengawasan publik

5.7
• Apakah anggota masyarakat/pengguna akhir proyek
Bagikan pembelajaran Anda memiliki kemampuan untuk menyampaikan kekhawatiran
dan mengajukan keluhan tentang proyek? Jika ya,
bagaimana? Jika tidak, mengapa?

• Saluran apa yang telah Anda tetapkan untuk keterlibatan dan

• Bagaimana Anda mendokumentasikan dan berbagi pengawasan publik selama durasi proyek?
kemajuan dan studi kasus dari proyek Anda dengan
rekan dan pemangku kepentingan?

Langkah selanjutnya: jika Anda mendapat skor 3 atau kurang

di salah satu prinsip, ini dapat mengindikasikan perlunya
pemeriksaan tambahan dan kemungkinan perubahan untuk membuat
proyek Anda lebih etis. Harap jelaskan alasan skor dan konsultasikan
hasilnya dengan pemimpin tim/dewan etika organisasi/pemimpin etika
data untuk memberi saran tentang langkah spesifik selanjutnya untuk
meningkatkan standar etika proyek Anda.

Kerangka Etika Data 38