Mô Hình Học Sâu Graph Neural Network Trong Chuẩn Đoán Và Phân Loại Ảnh Y Tế

BỘ THÔNG TIN VÀ TRUYỀN THÔNGHỌC VIỆN CÔNG NGHỆ BƯU CHÍNH VIỄN THÔNG

BÁO CÁOTHỰC TẬP CƠ SỞ

NHẬN XÉT CỦA GIẢNG VIÊN HƯỚNG DẪN

Ngọ Văn Trọng - D21HTT04

LỜI CẢM ƠN

Em xin chân thành cảm ơn thầy

Hà Nội, ngày tháng năm 20

i

ii

CHƯƠNG 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7 1

1.1 Tổng quan quá trình học tập trong 16 tuần 1

DANH MỤC HÌNH VẼ

1.1 Tiến độ thực hiện thực tập 1

1.2 Mô hình nhận diện deo khẩu trang bằng Techable Machine 8

1.3 Đẩy mô hình lên Scratch 8

1.4 Đẩy mô hình lên web Glitch 9

2.8 Mạng lưới tương quan não của tập thể 13

2.9 Mô hình GCN với mạng lưới dân số 13

2.10 Một số hình ảnh u não đại diện 14

2.11 Biểu đồ trực quan số lượng hình ảnh 14

2.12 Phương pháp phân đoạn SILC 14

2.13 Ảnh trước phân đoạn 15

2.14 Ảnh sau phân đoạn 15

2.15 Phương pháp tạo đồ thị 16

2.16 Đồ thị sau khi được thêm các nút và cạnh 16

2.17 Dự đoán cần đạt được 17

iv

Ngọ Văn Trọng - D21HTT04

PHẦN MỞ ĐẦU

Mục tiêu và định hướng cá nhân về quá trình thực tập cơ sở: Mục tiêu bản thân trong quá trình thực tập cơ sở

là củng cố kiến thức cơ sở cho sinh viên trước khi vào phần chuyên ngành tạo tiền đề cho các sinh viên trong kỳthực tập năm tiếp theo Nêu ra mục tiêu cá nhân và định hướng của bản thân trong tương lai? Lý do lựa chọn nếucó.

Trình bày phần đặt vấn đề liên quan đến đề tài của TTCS: Hiện nay, cuộc cách mạng công nghiệp 4.0 đã và đang

cho thấy sức ảnh hưởng to lớn của mình trong cuộc sống Công nghệ phát triển mạnh mẽ, tiên phong đi đầu giảiquyết những vấn đề khó khăn Xử lý ảnh nói chung hay nhận dạng ký tự quang học nói riêng là một trong nhữngcông nghệ được nhiều người quan tâm Nó đã được ứng dụng trong một số lĩnh vực như: tài chính ngân hàng, giáodục, y tế, giao thông.

Trình bày phần các giải pháp hiện tại và hạn chế: Trong thực tế, sự phát triển kinh tế xã hội nhanh chóng, bùng

nổ lượng phương tiện giao thông trong khi cơ sở hạ tầng chưa kịp đáp ứng dẫn đến tình trạng thiếu hụt bãi đỗ xe, áctắc, mất thời gian khi gửi, lấy xe Tại Học viện cũng đã từng xảy ra tình trạng ắc tách khi gửi xe dẫn đến mất thẩmquan khuôn viên nhà trường, ảnh hưởng đến giờ học của sinh viên Trực tiếp bản thân em cũng đã trải qua nhữnglần xếp hàng đợi gửi xe rất lâu dẫn đến sự không hài lòng, ảnh hưởng đến công việc khác Vì vậy nhu cầu đặt ra làcần có hệ thống thông minh hỗ trợ tự động hóa các bãi đỗ xe.

Trình bày phần mục tiêu và hướng giải pháp: Nhận dạng biển số xe là một phần tiện ích giúp tự động hóa các bãi

đỗ xe Nó không chỉ giúp những người quản lý có khả năng bao quát được khách hàng, tình trạng bãi đỗ xe mà còntiết kiệm thời gian cũng như nguồn nhân lực.

Trình bày phần đóng góp của Đồ án và bố cục của Đồ án: Hướng tới nhu cầu đó, đề tài đồ án tốt nghiệp có tên

“Ứng dụng nhận dạng ký tự quang cho bài toán nhận diện biển số xe”.

Nội dung trình bày trong báo cáo gồm 3 chương chính:•Chương 1: Báo cáo tiến độ từng tuần trong quá trình training•Chương 2: Đề xuất và báo cáo đề tài Thực tập cơ sở bao gồm 3 nội dung:

– Giới thiệu chung Trình bày tổng quan về đề tài, xác định được mục tiêu, đối tượng, phương hướng giải

quyết và giới thiệu những kiến thức công nghệ liên quan.

– Cơ sở lý thuyết Tìm hiểu cơ sở lý thuyết và phân tích đặc điểm về biển số xe ô tô tại Việt Nam, mạng

nơ ron tích chập InceptionResNetV2, nhận dạng ký tự quang OCR Từ đó lựa chọn các thư viện, côngcụ tiến hành xây dựng chương trình.

– Xây dựng chương trình Trình bày sơ đồ hệ thống, chi tiết các bước thực hiện xây dựng chương trình.

Tiến hành đóng gói và tích hợp vào website demo Sau đó triển khai thực nghiệm và đánh giá kết quả.•Chương 3: Kết luận quá trình Thực tập bao gồm Bài học và kết quả đạt được từ đó rút ra những điều cần cải

thiện trong tương lai.

v

Ngọ Văn Trọng - D21HTT04

PHẦN MỞ ĐẦU

Mục tiêu và định hướng cá nhân về quá trình thực tập cơ sở: Mục tiêu bản thân trong quá trình thực tập cơ sở

là củng cố kiến thức cơ sở cho sinh viên trước khi vào phần chuyên ngành tạo tiền đề cho các sinh viên trong kỳthực tập năm tiếp theo Nêu ra mục tiêu cá nhân và định hướng của bản thân trong tương lai? Lý do lựa chọn nếucó.

Trình bày phần đặt vấn đề liên quan đến đề tài của TTCS: Hiện nay, cuộc cách mạng công nghiệp 4.0 đã và đang

cho thấy sức ảnh hưởng to lớn của mình trong cuộc sống Công nghệ phát triển mạnh mẽ, tiên phong đi đầu giảiquyết những vấn đề khó khăn Xử lý ảnh nói chung hay nhận dạng ký tự quang học nói riêng là một trong nhữngcông nghệ được nhiều người quan tâm Nó đã được ứng dụng trong một số lĩnh vực như: tài chính ngân hàng, giáodục, y tế, giao thông.

Trình bày phần các giải pháp hiện tại và hạn chế: Trong thực tế, sự phát triển kinh tế xã hội nhanh chóng, bùng

nổ lượng phương tiện giao thông trong khi cơ sở hạ tầng chưa kịp đáp ứng dẫn đến tình trạng thiếu hụt bãi đỗ xe, áctắc, mất thời gian khi gửi, lấy xe Tại Học viện cũng đã từng xảy ra tình trạng ắc tách khi gửi xe dẫn đến mất thẩmquan khuôn viên nhà trường, ảnh hưởng đến giờ học của sinh viên Trực tiếp bản thân em cũng đã trải qua nhữnglần xếp hàng đợi gửi xe rất lâu dẫn đến sự không hài lòng, ảnh hưởng đến công việc khác Vì vậy nhu cầu đặt ra làcần có hệ thống thông minh hỗ trợ tự động hóa các bãi đỗ xe.

Trình bày phần mục tiêu và hướng giải pháp: Nhận dạng biển số xe là một phần tiện ích giúp tự động hóa các bãi

đỗ xe Nó không chỉ giúp những người quản lý có khả năng bao quát được khách hàng, tình trạng bãi đỗ xe mà còntiết kiệm thời gian cũng như nguồn nhân lực.

Trình bày phần đóng góp của Đồ án và bố cục của Đồ án: Hướng tới nhu cầu đó, đề tài đồ án tốt nghiệp có tên

“Ứng dụng nhận dạng ký tự quang cho bài toán nhận diện biển số xe”.

Nội dung trình bày trong báo cáo gồm 3 chương chính:•Chương 1: Báo cáo tiến độ từng tuần trong quá trình training•Chương 2: Đề xuất và báo cáo đề tài Thực tập cơ sở bao gồm 3 nội dung:

– Giới thiệu chung Trình bày tổng quan về đề tài, xác định được mục tiêu, đối tượng, phương hướng giải

quyết và giới thiệu những kiến thức công nghệ liên quan.

– Cơ sở lý thuyết Tìm hiểu cơ sở lý thuyết và phân tích đặc điểm về biển số xe ô tô tại Việt Nam, mạng

nơ ron tích chập InceptionResNetV2, nhận dạng ký tự quang OCR Từ đó lựa chọn các thư viện, côngcụ tiến hành xây dựng chương trình.

– Xây dựng chương trình Trình bày sơ đồ hệ thống, chi tiết các bước thực hiện xây dựng chương trình.

Tiến hành đóng gói và tích hợp vào website demo Sau đó triển khai thực nghiệm và đánh giá kết quả.•Chương 3: Kết luận quá trình Thực tập bao gồm Bài học và kết quả đạt được từ đó rút ra những điều cần cải

thiện trong tương lai.

i

CHƯƠNG 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7

Chương 1: Giới thiệu về định hướng lâu dài , cụ thể là theo hướng khoa học dữ liệu Nghiên cứu về các chủ đề liênquan đến định hướng như : Các thuật toán học máy , Đạo Đức và Luật Pháp trong AI , Công cụ thử nghiệm AI cósẵn

1.1 Tổng quan quá trình học tập trong 16 tuầnNội dung thực tập trong 4 tháng

Tiến độ thực hiện thực tập thể hiện trong bảng dưới đây:

Hình 1.1: Tiến độ thực hiện thực tập

1.1.1 Tuần 1, 2, 3 (13/02 - 05/03)

Chủ đề tìm hiểu tuần 1: Trình bày về định hướng lâu dài trong tương lai.

1

Thực tập cơ sở Chương 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7

Mục tiêu tuần 1,2,3: Trình bày được về định hướng , xu hướng và dự đoán trong tương lai của lĩnh vực.Kết quả của tuần 1,2,3:

1 Định hướng lâu dài : Lĩnh vực khoa học dữ liệu - một lĩnh vực đang rất hot hiện tại và có nhiều dự đoán tíchcực trong tương lai.

2 Xu hướng hiện tại: Hiện nay khoa học dữ liệu đang được ứng dụng nhiều trong các lĩnh vực như : Kinh doanhvà thương mại( đưa ra định hướng tốt cho doanh nghiệp bằng việc theo dõi các thói quen của khách hàng ) ;Tài chính ngân hàng ( Phát hiện gian lận thông qua giao dịch tài chính ) ;

3 Dự đoán trong tương lai : Hiện nay mà đặc biệt ở Việt Nam , các công ty lớn như VinBigData , VinAI đangđẩy mạnh ứng dụng của khoa học dữ liệu trong lĩnh vực y tế như chăm sóc sức khỏe tự động , chuẩn đoánbệnh,

–> Kết luận: Tóm lại , khoa học dữ liệu là một lĩnh vực rất hữu ích , có tính ứng dụng cao trong đời sống , trongnhiều nghành nghề , là một lĩnh vực hấp dẫn cho các nhà nghiên cứu , các lập trình viên nói chung.

1.1.2 Tuần 4, 5 (05/03 - 19/03)

Chủ đề tìm hiểu tuần 4, 5: Tìm hiểu về các thuật toán Học máy.

Mục tiêu tuần 4, 5: Tìm hiểu về các thuật toán học máy cơ bản sau đó áp dụng chúng để giải quyết các vấn đề

thực tiễn ( Chuẩn đoán bệnh tim mạch ).

Kết quả của tuần 4, 5:

1 Tìm hiểu về các thuật toán học máy cơ bản.

(a) LogisticRegression : Ý tưởng cơ bản của Logistic Regression là tính toán giá trị của một hàm logistic(còn được gọi là sigmoid function) dựa trên các biến đầu vào (features) Hàm sigmoid chuyển đổi đầuvào thành một giá trị nằm trong khoảng từ 0 đến 1, mô tả xác suất của mẫu thuộc vào một nhóm nhấtđịnh.

(b) DecisionTreeClassifier: Mô hình phân loại , thuộc học máy có giám sát„nó không tồn tại phương trìnhdự báo , nó tìm ra một cây quyết định dự báo tốt trên tập huấn luyện , sử dụng cây quyết định này dựbáo trên tập kiểm tra

(c) RandomForestClassifier: xây dựng nhiều cây quyết định bằng thuật toán DecisionTree , tuy nhiên mỗicây quyết định sẽ khác nhau , sau đó sẽ tổng hợp kết quả dự đoán từ các cây quyết định này.(d) KNeighborsClassifier : Đây là mô hình đơn giản nhất trong học máy , nó lưu trữ dữ liệu huấn luyện và

dự đoán tập dữ liệu mới dựa trên việc tìm ra những điểm dữ liệu láng giềng trong dữ liệu tập huấn.2 Xây dựng các mô hình để Chuẩn đoán bệnh tim mạch: Sau khi trải qua các bước thu thập , phân tích, tiền xử

lý dữ liệu , và trải qua việc tìm hiểu về các thuật toán học máy cơ bản , lập trình viên có thể huấn luyện ngaymô hình để dự đoán với tỉ lệ tập huấn luyện và kiếm thử là 7:3.

–> Kết luận: Sử dụng mô hình thuật toán Cây quyết định DecisionTree và RandomForest cho ra kết quả đáng mongđợi , vậy người lập trình viên có thể sử dụng 2 mô hình sau khi xây dựng xong có thể dự đoán về khả năng mắcbệnh tim mạch.

Thực tập cơ sở Chương 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7

1.1.3 Tuần 6 (19/03 - 26/03)

Chủ đề tìm hiểu tuần 6: Đạo đức và Luật pháp trong AI.

Mục tiêu tuần 6: Tìm hiểu về đạo đức trong AI bao gồm ( Quyền riêng tư , công bằng và an ninh) và các đạo luật

của AI.

Kết quả của tuần 6:

1 Quyền riêng tư và giám sát.(a) Quyền riêng tư :

Không gian số đang trở nên rộng lớn hơn bao giờ hết, với việc thu thập và lưu trữ dữ liệu diễn ra chủyếu trong môi trường số Cuộc sống của chúng ta ngày càng được số hóa, và AI đóng một vai trò quantrọng trong việc tăng cường khả năng thu thập và phân tích dữ liệu, không chỉ từ một số ít đối tượngmà còn từ việc giám sát toàn bộ dân số Tuy nhiên, điều này cũng đặt ra những thách thức lớn về quyềnriêng tư và kiểm soát dữ liệu cá nhân, khi mà công nghệ như nhận dạng khuôn mặt làm tăng thêm mốilo ngại về việc thu thập thông tin cá nhân một cách rộng rãi Việc kiểm soát quyền truy cập và thu thậpdữ liệu trở nên khó khăn hơn trong môi trường số, và nhiều công nghệ AI mới càng làm tăng thêmnhững lo ngại này Dữ liệu cá nhân, thu thập phần lớn thông qua việc sử dụng các dịch vụ "miễn phí",thực chất biến chúng ta thành sản phẩm cho các công ty công nghệ lớn Những công ty này, thườngđược gọi là "5 gã khổng lồ", sử dụng dữ liệu để lừa dối và thao túng người dùng, nhằm duy trì sự chú ývà thu thập thêm dữ liệu Các hệ thống AI có khả năng thu thập thông tin cá nhân mà chúng ta khôngmuốn tiết lộ, và thậm chí có thể phán đoán về trạng thái tâm lý dựa trên hành vi trực tuyến Mặc dù đãcó những kỹ thuật bảo vệ quyền riêng tư và che giấu danh tính, nhưng vẫn còn nhiều thách thức trongviệc áp dụng luật pháp để bảo vệ quyền riêng tư trong môi trường số Cần có sự tuân thủ từ cả nhà nướcvà cá nhân để đảm bảo quyền riêng tư được bảo vệ, điều này đòi hỏi luật pháp phải rõ ràng về tráchnhiệm, cách thức chứng minh sai phạm, và cách giải quyết các vấn đề pháp lý liên quan đến sản phẩmsố Tóm lại , vấn đề về quyền riêng tư trong trí tuệ nhân tạo (AI) đặt ra các lo ngại về việc thu thập, lưutrữ và sử dụng dữ liệu cá nhân của người dùng một cách không minh bạch và không đảm bảo Côngnghệ AI có khả năng phân tích và sử dụng dữ liệu cá nhân một cách tự động và không rõ ràng, dẫn đếnnguy cơ mất quyền riêng tư và kiểm soát dữ liệu của người dùng Điều này cần phải được giải quyếtthông qua việc phát triển và thực thi các biện pháp bảo vệ quyền riêng tư mạnh mẽ, bao gồm cả việcluật lệ hóa và giám sát chặt chẽ từ các cơ quan chính phủ và các tổ chức liên quan.

(b) Thao túng hành vi :

Vấn đề đạo đức của AI trong giám sát không chỉ dừng lại ở việc thu thập dữ liệu và điều hướng sự chú ýcủa người dùng mà còn mở rộng ra việc sử dụng dữ liệu để thao túng hành vi của họ, cả trực tuyến lẫnngoại tuyến, làm giảm khả năng lý luận và tự chủ trong quyết định Thao túng hành vi không phải làđiều mới, nhưng AI đã nâng cao khả năng này lên một cấp độ mới, khiến người dùng trở nên yếu đuốitrước các kỹ thuật thao túng và lừa gạt tinh vi của hệ thống Với lượng dữ liệu khổng lồ, các thuật toáncó thể mục tiêu hóa cá nhân hoặc nhóm với hiểu biết chính xác về điều gì có thể ảnh hưởng đến quyếtđịnh của họ Mạng xã hội, nay trở thành một công cụ mạnh mẽ cho tuyên truyền chính trị, đã thể hiệnrõ ràng trong vụ bê bối Facebook - Cambridge Analytica, nơi hành vi bầu cử của người dùng bị điều

Thực tập cơ sở Chương 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7hướng một cách có chủ ý Cùng với đó, công nghệ AI "deepfake"đang làm mờ đi giới hạn giữa thực vàgiả, với khả năng tạo ra ảnh, ghi âm, và video giả mạo chân thực, đe dọa đến việc tin tưởng vào bất kỳthông tin nào trên môi trường số Sự phụ thuộc ngày càng tăng vào các tương tác số khiến chúng ta dễbị tổn thương trước những thông tin giả mạo này Kiểm soát vấn đề này đối mặt với nhiều nghịch lý Đểphát triển các kỹ thuật học máy trong AI, cần một lượng lớn dữ liệu, nghĩa là có một sự đánh đổi giữaquyền riêng tư của người dùng và sự phát triển sản phẩm Đồng thời, cuộc đấu tranh cho quyền lợi trênmạng gặp khó khăn do sức ảnh hưởng mạnh mẽ của các công ty lớn và hoạt động vận động hành lang,cũng như sự phụ thuộc vào giám sát của các dịch vụ và cơ quan chính phủ Điều này tạo ra một môitrường phức tạp, nơi việc bảo vệ quyền riêng tư và tự chủ của người dùng trở nên càng khó khăn hơntrong thời đại số.

(c) Tương tác giữa người và robot:

AI và robot có tiềm năng được sử dụng để thao túng và đe dọa con người, không chỉ thông qua việc thuthập và sử dụng dữ liệu mà còn qua việc tạo ra những robot với diện mạo và cách vận hành nhằm lừadối Con người có xu hướng gắn bó cảm xúc với đồ vật, đặc biệt là khi chúng có vẻ ngoài giống sinhvật sống, làm tăng nguy cơ bị lợi dụng bởi robot và AI không có ý thức hay cảm xúc Trong lĩnh vựcchăm sóc, mặc dù có luận điểm cho rằng xã hội già hóa cần robot chăm sóc, nhưng quan điểm này bỏqua bản chất của tự động hóa và sự quan trọng của tình thương và sự chân thành trong chăm sóc Robotcó thể hỗ trợ tự động hóa một số nhiệm vụ kỹ thuật nhưng không thể thay thế được ý nghĩa của việcchăm sóc thực sự từ con người Việc dùng robot trong chăm sóc có nguy cơ làm giảm sự chân thành vàtình thương, đồng thời ảnh hưởng đến tinh thần của người điều dưỡng.

Về robot tình dục, mặc dù có thể mang lại lợi ích như một hình thức tình bạn vô tri, nhưng sự thiếu hụtchiều sâu và sự lừa dối là những vấn đề lớn Sự lừa dối không chỉ là một phần của ngành công nghiệptình dục truyền thống mà còn làm dấy lên lo ngại về đồng thuận, thẩm mỹ và ảnh hưởng đến quan điểmvề mối quan hệ tình dục và nhục cảm của con người Robot tình dục có thể củng cố quan điểm xemngười khác như đối tượng thỏa mãn nhục dục, dẫn đến hậu quả tiêu cực cho trải nghiệm tình dục vàkhoái cảm của con người Một số luận điểm chống lại việc sử dụng robot tình dục, coi chúng như sựtiếp nối của nô lệ và mại dâm, cảnh báo về nguy cơ hủy hoại các giá trị đạo đức và nhân văn trong xãhội.

2 Công bằng

(a) Sự mơ hồ trong AI :

Trong thời đại AI, việc ra quyết định tự động và dự báo dựa trên học máy tạo ra một cấu trúc quyền lựcmới, trong đó sự tham gia của con người bị hạn chế đáng kể Điều này dẫn đến một vấn đề lớn: nhữngngười bị ảnh hưởng bởi các quyết định này thường không thể hiểu được cơ sở của chúng, tạo ra một sự"mơ hồ"trong quá trình ra quyết định của AI Sự "mơ hồ"này còn mở rộng đến cả các chuyên gia và kỹsư phát triển AI, những người có thể không hiểu được máy đã học và xác định mẫu/quy luật nào từ dữliệu Điều này không chỉ làm tăng nguy cơ thiên kiến trong các hệ thống và cơ sở dữ liệu mà còn khiếncho việc điều chỉnh và cải thiện chúng trở nên khó khăn hơn Hệ thống AI dựa trên kỹ thuật học máy cókhả năng thay đổi dựa trên dữ liệu mới, làm cho quyết định của máy càng thêm "mơ hồ"đối với ngườidùng và kỹ sư Chất lượng của chương trình học máy phụ thuộc lớn vào dữ liệu đầu vào, và nếu dữ liệu

Thực tập cơ sở Chương 1 BÁO CÁO TIẾN ĐỘ TỪNG TUẦN 1-7này có thiên kiến, kết quả của chương trình cũng sẽ phản ánh thiên kiến đó.

Đã có nhiều đề xuất và nghiên cứu nhằm giải quyết vấn đề này, bao gồm việc tạo ra mô tả dữ liệuchuẩn để xác định thiên kiến và phát triển kỹ thuật báo cáo và giải trình thuật toán giúp làm rõ cấu trúcquyền lực, thiên kiến và ảnh hưởng của các chương trình tính toán đối với xã hội Tuy nhiên, việc tạo ramột AI có khả năng giải thích quá trình suy luận của nó vẫn là một thách thức lớn Liên minh châu Âuđã nhận thức được mối quan tâm này và đã cố gắng trao quyền cho người dùng với "quyền được giảithích"về các quyết định mà AI đưa ra Tuy nhiên, việc thực hiện và hiệu quả của điều luật này vẫn cònlà một dấu hỏi, đặc biệt khi việc yêu cầu AI giải trình quyết định của mình là một nhiệm vụ kỹ thuậtkhó khăn, và thậm chí con người cũng không luôn có khả năng giải thích rõ ràng quyết định của mình.(b) Sự thiên vị trong AI

Trong thế giới ngày nay, trí tuệ nhân tạo (AI) đang phát triển mạnh mẽ, đồng thời đặt ra nhiều vấn đềquan trọng về tính công bằng Mặc dù AI có tiềm năng mang lại nhiều lợi ích cho xã hội và kinh tế,nhưng cũng tạo ra những rủi ro và thách thức liên quan đến công bằng và đạo đức.

Một trong những vấn đề quan trọng nhất là thiên vị trong dữ liệu và thuật toán Dữ liệu được sử dụngđể huấn luyện các mô hình AI có thể bị thiên vị, phản ánh các đặc điểm của dữ liệu đầu vào Điều nàycó thể dẫn đến các quyết định không công bằng hoặc không chính xác đối với các nhóm dân số khácnhau, thậm chí là phân biệt chủng tộc Ngoài ra, các thuật toán AI cũng có thể mang lại các quyết địnhkhông công bằng do sự thiên vị hoặc bias tiềm ẩn trong dữ liệu huấn luyện hoặc thiết kế của thuật toán.Ngoài ra, tính minh bạch của quyết định của các hệ thống AI cũng là một vấn đề quan trọng Quyếtđịnh của các hệ thống AI thường không được giải thích rõ ràng, làm cho quyết định này trở nên mơ hồvà khó hiểu đối với người dùng và các bên liên quan khác Điều này gây ra sự bất mãn và không tintưởng từ phía người sử dụng và có thể tăng cường các vấn đề về công bằng và đạo đức trong sử dụngAI Để giải quyết các vấn đề này, cần có sự hợp tác chặt chẽ giữa cộng đồng AI, các nhà nghiên cứu,doanh nghiệp và chính phủ Cần phải thúc đẩy việc thu thập và sử dụng dữ liệu đa dạng và công bằnghơn, đồng thời đảm bảo tính minh bạch và giải thích rõ ràng về quyết định của các hệ thống AI Chỉthông qua sự chú trọng và nỗ lực liên tục, chúng ta mới có thể đảm bảo rằng AI phát triển một cáchcông bằng và mang lại lợi ích cho tất cả mọi người.

3 An ninh :

(a) Các hệ thống tự đưa ra quyết định :

Các hệ thống AI và "phân tích dự báo"ngày càng trở nên phổ biến trong nhiều lĩnh vực, từ kinh doanhđến y tế, nhờ vào chi phí thấp và sự tiện lợi Tuy nhiên, việc áp dụng rộng rãi này cũng đặt ra những longại về sự ảnh hưởng đến quyền tự do cá nhân, đặc biệt là trong lĩnh vực "dự báo an ninh", nơi các hànhđộng dự kiến chưa xảy ra có thể dẫn đến việc trừng phạt trước Sự thiên kiến trong AI có thể xuất pháttừ hai hướng: người tạo ra và sử dụng hệ thống AI, và bản thân dữ liệu được sử dụng để huấn luyện AI.Thiên kiến từ người tạo ra thường phản ánh những định kiến và giả định cá nhân, trong khi thiên kiếntừ dữ liệu phản ánh sự không công bằng và mất cân đối trong cơ sở dữ liệu Ví dụ, hệ thống COMPASdự báo khả năng tái phạm tội cho thấy sự thiên kiến khi áp dụng cho nhóm người da đen, dẫn đến dựbáo không chính xác về khả năng tái phạm Dù có nhiều nỗ lực nhằm phát hiện và loại bỏ thiên kiến