SAO KHUE TALENT ACADEMY

Trụ sở chính: 108/5/39 Nghi Tàm, Yên Phụ, Q.Tây Hồ, Hà Nội
Điện thoại: (84) 4.38.292.124 | Hotline: (84)97 896 9254
Chi nhánh: 22 Hồ Giám, Q. Đống Đa, Hà Nội
Tel.: (84) 6680.62.26
Email: info@saokhueconsult.com.vn/ Website: saokhueconsult.com.vn

Sử dụng Công nghệ AI trong việc đưa ra các quyết định bắt giam
có thể gây ra những phân biệt đối xử với người nghèo ở nước Anh?
Thử nghiệm thuật toán HART từ năm 2017, Sở cảnh sát Durham gần đây đã đưa ra một
số thay đổi nhằm tránh sự phân biệt đối xử với những bộ phận cư dân sinh sống ở các
khu vực nhất định.

iStock / Maxchered

Một thuật toán đã được thiết kế để hỗ trợ cảnh sát Anh trong việc đưa ra các quyết
định bắt giam. Tuy nhiên thuật toán này đã được thay đổi khi làm dấy lên quan ngại
về tình trạng phân biệt đối xử có thể diễn ra tại các vùng nghèo. Khi đánh giá về thuật
toán, người ta thấy một sự chênh lệch khá lớn giữa những dự đoán của con người và
của hệ thống.

Trong 5 năm gần đây, Sở cảnh sát Durham và các nhà nghiên cứu về khoa học máy tính
đã phát triển “Công cụ nguy cơ đánh giá tác hại” (gọi tắt là HART). Hệ thống trí thuệ
nhân tạo này được thiết kế với mục đích dự đoán khả năng tái phạm tội của nghi phạm
ở mức thấp, trung bình hay cao trong khoảng thời gian 2 năm.

Gold and Premium Only

***
Đây là một trong những thuật toán đầu tiên được lực lượng cảnh sát Anh Quốc sử dụng.
Thuật toán này không quyết định việc bắt giữ nghi phạm, tuy nhiên lại được dùng nhằm
hỗ trợ cảnh sát lựa chọn ra các đối tượng để đưa vào chương trình cải tạo mang tên
“Điểm kiểm soát” (Checkpoint). Chương trình này được xây dựng nhằm tham gia vào
quá trình tố tụng thay vì đẩy các phạm nhân phải ngồi hầu tòa tại khắp hệ thống tòa án
ở Anh.

HART sử dụng dữ liệu từ 34 mục khác nhau - bao gồm tuổi, giới tính, lý lịch tư pháp
để đánh giá nguy cơ tái phạm tội ở mức thấp, trung bình hay cao. Thông tin về mã bưu
chính là một trong các mục này. Lực lượng cảnh sát hiện đang loại bỏ trường thông tin
mã bưu chính, bao gồm 4 chữ số đầu tiên của mã bưu chính của Durham khỏi hệ thống
AI. Theo một báo cáo về nghiên cứu đánh giá việc sử dụng thuật toán để đọc dữ liệu
được công bố vào tháng 9 năm 2017 thì “hệ thống HART luôn được nạp những dữ liệu
mới, và với mục đích nhằm loại bỏ một trong hai phần của mã bưu chính *. Một thành
viên trong lực lượng cảnh sát là đồng tác giả của báo cáo này.

Ông Andrew Wooff, giảng viên môn Tội Phạm Học tại Đại học Edinburgh Napier, một
người chuyên về hệ thống pháp luật hình sự cho biết “Tôi rất lo ngại về việc phần đầu
tiên của mã bưu chính có mặt trong hệ thống HART”. Ông cũng cho biết thêm việc
tổng hợp dữ liệu về vị trí và nhân khẩu - xã hội học có thể làm sâu sắc thêm những đinh
kiến về phân biệt còn tồn tại trong các quyết định cảnh sát và trong hệ thống luật pháp”.
Ông cũng bình luận rằng: “Nếu cảnh sát đi theo những dự đoán về những vùng có mã
bưu chính thể hiện tỉ lệ phạm tội cao thì chúng ta có thể dễ dàng nhận ra những mô hình
phạm tội hiện tại ngày càng bị làm trầm trọng hơn”

Đây cũng là bản báo cáo đầu tiên đưa ra những đánh giá về hệ thống HART được công
bố. Bản báo cáo cũng chỉ ra những thông tin về mã bưu chính có thể liên quan đến “sự
giảm thiểu tương tác cộng đồng”. Báo cáo cũng cho biết thêm tùy vào mục đích can
thiệp, nơi cư trú của một đối tượng có thể là một yếu tố có liên quan. Việc sử dụng dữ
liệu về mã bưu chính để xây dựng các mô hình tái phạm tội trong tương lai có thể dồn
sự chú ý đến một số khu vực dân cư nhất định. “Chính những yếu tố dự đoán được sử
dụng để xây dựng mô hình, chứ không phải bản thân mô hình, mới là điều đáng quan
ngại”.

Báo cáo này cũng đã nhấn mạnh những khác biệt rõ rệt trong quan điểm giữa dự báo
của con người và dự báo của thuật toán. Trong những lần thử thuật toán đầu tiên, một
số nhân viên cảnh sát được yêu cầu làm công việc dự đoán và đưa ra những kết quả
giống với việc mà thuật toán đã làm, liệu rằng một đối tượng có nguy cơ tái phạm tội
thấp, trung bình hay cao. Trong gần 2/3 số lần thử (63,5%), các nhân viên cảnh sát xếp
các đối tượng ở mức tái phạm tội trung bình. Mô hình HART và các nhân viên cảnh sát
có cùng quan điểm trong 56,2% số lần thử online.

Gold and Premium Only

***
Chúng tôi đã liên lạc với Sở cảnh sát Thành phố Durham về việc thay thế thuật toán
này, tuy nhiên vẫn chưa nhận được câu trả lời vào thời điểm bài báo được đưa ra.

Hiểu rõ hơn về HART

Một kịch bản thường được các cảnh sát tại Durham đọc có hình thức như sau “Anh/ chị
được mời tham gia một nghiên cứu. Nghiên cứu này sẽ thay đổi cuộc sống của anh/chị
mãi mãi”. Theo đó, những người bị truy tố vì một tội danh nào đó sẽ không bị kết án
nếu họ hoàn thành nghiên cứu.

Chương trình “Điểm kiểm soát” là một chương trình thử nghiệm được thực hiện bởi Sở
cảnh sát Durham và trường Đại học Cambridge. Mục tiêu của chương trình là giảm tình
trạng tái phạm tội thông qua việc tìm hiểu nguyên nhân phạm tội – lạm dụng ma túy,
rượu, vô gia cư hay bệnh tâm thần là những khía canh mà đối tượng có thể nhận được
hỗ trợ.

Thuật toán HART đã được đưa vào chương trình này. Những đối tượng bị liệt vào nhóm
có nguy cơ tái phạm tội ở mức trung bình được đưa vào chương trình. Trái lại, những
đối tượng có nguy cơ tái phạm tội ở mức cao và thấp sẽ không được đưa vào tham gia.

Ông Jennifer Doleac - Tiến sỹ Chính sách công và Kinh tế học tại trường Đại học
Virginia cho hay “Cuộc sống con người đã và đang bị tác động bởi những hiện trạng”.
Tuy nhiên, liệu có cách nào hiệu quả hơn để giúp con người đạt được những kết quả tốt
hơn và mang con người chúng ta đến gần hơn với các mục tiêu xã hội hay không?
Chương trình “Điểm kiểm soát” đã được Hội từ thiện Howard League về Cải cách Hình
sự trao thưởng và vinh danh về những nỗ lực giúp người dân không vướng vào vòng
lao lý.

HART là một hệ thống máy học (machine learning) sử dụng ngôn ngữ lập trình R và
đưa ra quyết định dựa trên thuật toán Rừng Ngẫu nhiên (Random Forest), một phương
thức đưa ra dự đoán dựa trên hàng loạt các kết quả khác nhau.

Mỗi quyết định mà HART đưa ra đều dựa trên các dữ liệu lịch sử: Thuật toán này nghiên
cứu những dữ liệu quá khứ và dự đoán kết quả trong tương lai dựa vào những thông tin
thu thập trước đó, HART đưa ra những dự đoán về những kết quả có thể xảy ra trong
tương lai. Trong mô hình HART đầu tiên, Sở cảnh sát Durham đưa vào hệ thống này
các chi tiết về 104.000 vụ giam giữ trong giai đoạn từ năm 2008 đến 2012. Từ đó, mô
hình này sử dụng 34 yếu tố dự đoán, bao gồm cả dữ liệu về vị trí để đưa ra dự đoán về
mỗi đối tượng. Hầu hết các kết luận của HART đều dựa vào 509 phiếu bầu bởi hệ thống
(phiếu bầu có thể là thấp, trung bình và cao).

Nghiên cứu được công bố bởi Ông Sheena Urwin, Trưởng phòng cảnh sát hình sự thuộc
Sở Cảnh sát Durham và trưởng dự án Ông cho biết hệ thống HART làm việc trên những

Gold and Premium Only

***
dữ liệu thực tế. Phiên bản đầu tiên của mô hình thuật toán đã dự đoán một đối tượng
nam 24 tuổi, có tiền án hình sự về sử dụng hành vi bạo lực (cảnh sát đã có 22 báo cáo
tình báo về đối tượng này) sẽ có nguy cơ tái phạm tội ở mức cao (mô hình này xếp anh
ta với 414 phiếu nguy cơ cao, 87 phiếu trung bình và 8 phiếu thấp). Sau đó, đối tượng
này đã bị bắt giữ và bị kết án về tội giết người.

NHỮNG LỰC LƯỢNG CẢNH SÁT TẠI ANH QUỐC SỬ DỤNG CÔNG
NGHỆ AI

LỰC LƯỢNG CẢNH SÁT NAM XỨ WHALES

Lực lượng cảnh sát xứ Whales hiện sử dụng AI trong hệ thống nhận dạng khuôn mặt.
Hệ thống có khả năng sử dụng công nghệ quét khuôn mặt tại thời điểm thực. Công
nghệ được sử dụng từ năm 2017. Nhiều người đã bị bắt sau khi những người này
được đưa vào kiểm tra chéo với cơ sở dữ liệu về 500 000 hình ảnh của những người
đã từng bị bắt giữ.

LỰC LƯỢNG CẢNH SÁT KENT

Từ tháng Mười hai năm 2012, lực lượng cảnh sát tại Kent đã sử dụng hệ thống có tên
gọi Pred Pol nhằm đưa ra những dự đoán những nơi có thể xảy ra các hành vi phạm
tội. Hệ thống sử dụng những dữ liệu về những vụ phạm tội trong lịch sử và sử dụng
những dữ liệu đó để đánh dấu những khu vực cần các nhân viên cảnh sát.

SỞ CẢNH SÁT DURHAM

Cảnh sát Durham sử dụng hệ thống HART nhằm hỗ trợ cảnh sát trong việc đưa ra
các quyết định bắt giam. Hệ thống HART được đưa vào sử dụng từ năm 2017

Ghi chú *: Mã bưu chính ở Vương quốc Anh thường có 2 phần, ví dụ: EC1A 1BB

Gold and Premium Only

***