Ứng dụng và khía cạnh đạo đức trong Machine Learning

Bài 6 đã giới thiệu các công cụ - scikit-learn, PyTorch, TensorFlow và hệ sinh thái Python. Giờ hãy cùng xem thực tế người ta xây dựng những gì với các công cụ này, cũng như những thách thức về mặt đạo đức khi triển khai Machine Learning (ML) trên quy mô lớn.

Y tế: Nơi ML cứu mạng con người

Thị trường ML trong lĩnh vực y tế được dự báo sẽ tăng trưởng từ 37 tỷ USD lên 614 tỷ USD vào năm 2034. Các ứng dụng của công nghệ này đang thay đổi cách thức vận hành của ngành y.

Chẩn đoán hình ảnh

Các mô hình ML phân tích ảnh chụp X-quang, MRI và CT - đôi khi phát hiện ra những chi tiết mà bác sĩ chẩn đoán hình ảnh có thể bỏ sót. DeepMind của Google đã xây dựng một mô hình có khả năng phát hiện hơn 50 loại bệnh về mắt từ ảnh chụp võng mạc với độ chính xác tương đương các bác sĩ nhãn khoa hàng đầu thế giới. Mô hình này không thay thế bác sĩ; nó giúp cảnh báo các ca bệnh cần được xử lý khẩn cấp, qua đó rút ngắn thời gian từ lúc chụp chiếu đến khi bắt đầu điều trị.

Nghiên cứu và phát triển thuốc

Quy trình phát triển thuốc truyền thống thường kéo dài 10-15 năm với chi phí trung bình là 2,6 tỷ USD. Các mô hình ML giúp dự đoán những hợp chất phân tử nào có khả năng mang lại hiệu quả, qua đó rút ngắn giai đoạn sàng lọc ban đầu từ hàng năm xuống còn vài tuần. Insilico Medicine đã sử dụng ML để xác định một ứng viên thuốc điều trị bệnh xơ phổi vô căn chỉ trong 18 tháng - một quy trình thường mất từ ​​4-5 năm.

Chẩn đoán dự báo

Các mô hình ML phân tích hồ sơ bệnh án để dự đoán nguy cơ mắc những bệnh như tiểu đường, bệnh tim hoặc nhiễm trùng huyết - ngay cả trước khi các triệu chứng xuất hiện. Việc can thiệp sớm giúp cứu sống bệnh nhân và giảm thiểu chi phí y tế.

Tài chính: Nơi ML phát hiện gian lận

Phát hiện gian lận

Các công ty thẻ tín dụng xử lý hàng triệu giao dịch mỗi ngày. Các mô hình ML sẽ phát hiện và cảnh báo các dấu hiệu bất thường theo thời gian thực - chẳng hạn như địa điểm, thói quen chi tiêu hoặc thời gian giao dịch khác biệt so với hành vi thông thường của khách hàng. Hệ thống Machine Learning (ML) của Mastercard đánh giá 143 tỷ giao dịch mỗi năm, giúp giảm 50% tỷ lệ từ chối giao dịch nhầm lẫn.

Giao dịch thuật toán

Các mô hình ML phân tích dữ liệu thị trường, sắc thái tin tức và những chỉ số kinh tế để đưa ra quyết định giao dịch chỉ trong vài mili giây. Các quỹ đầu tư mạo hiểm như Renaissance Technologies và Two Sigma đã xây dựng toàn bộ mô hình kinh doanh của họ dựa trên giao dịch bằng ML.

Chấm điểm tín dụng

Điểm tín dụng truyền thống thường chỉ dựa trên một vài biến số. Ngược lại, các mô hình ML xem xét hàng trăm đặc điểm - như thói quen thanh toán, hành vi chi tiêu, sự ổn định trong công việc - để dự đoán chính xác hơn rủi ro vỡ nợ. Điều này giúp mở rộng khả năng tiếp cận tín dụng cho những người có hồ sơ tín dụng hạn chế - những người thiếu lịch sử tín dụng truyền thống.

Tiếp thị: Nơi ML dự đoán hành vi

Hệ thống gợi ý

Netflix ước tính hệ thống gợi ý của họ giúp tiết kiệm 1 tỷ USD mỗi năm nhờ giảm tỷ lệ khách hàng rời bỏ dịch vụ. Khi tìm thấy nội dung yêu thích, người dùng sẽ tiếp tục đăng ký sử dụng. Amazon cho biết 35% doanh số bán hàng đến từ hệ thống gợi ý của họ.

Phân khúc khách hàng

Bạn còn nhớ thuật toán phân cụm K-means ở Bài 3 không? Các công ty sử dụng thuật toán này để xác định những nhóm khách hàng tự nhiên dựa trên dữ liệu mua hàng, từ đó điều chỉnh chiến lược tiếp thị, định giá và sản phẩm cho phù hợp với từng phân khúc.

Dự đoán tỷ lệ rời bỏ

Các công ty viễn thông, doanh nghiệp SaaS và dịch vụ đăng ký định kỳ sử dụng ML để dự đoán khách hàng nào có nguy cơ rời bỏ dịch vụ. Một mô hình được huấn luyện dựa trên dữ liệu rời bỏ trong quá khứ có thể cảnh báo về những khách hàng có nguy cơ cao vài tuần trước khi họ thực sự hủy dịch vụ, tạo điều kiện cho đội ngũ chăm sóc khách hàng kịp thời can thiệp.

Vấn đề đạo đức trong Machine Learning

Machine Learning (ML) là một công cụ mạnh mẽ, nhưng cũng tiềm ẩn nhiều rủi ro nếu được triển khai mà thiếu sự cân nhắc kỹ lưỡng về tính công bằng, định kiến ​​và trách nhiệm giải trình.

Vấn đề cốt lõi

Các mô hình Machine Learning học hỏi từ dữ liệu lịch sử. Nếu dữ liệu đó phản ánh những hành vi phân biệt đối xử trong quá khứ, mô hình sẽ sao chép - và thường là khuếch đại - những hành vi đó. Bản thân mô hình không hề có "định kiến" theo cách hiểu của con người; nó chỉ đơn thuần phát hiện ra một quy luật trong dữ liệu và tối ưu hóa dựa trên quy luật đó. Tuy nhiên, tác động thực tế mà nó gây ra lại tương đương với hành vi phân biệt đối xử.

Các trường hợp thực tế gặp sự cố

• Công cụ tuyển dụng của Amazon (năm 2018): Được huấn luyện dựa trên dữ liệu hồ sơ ứng viên trong 10 năm, mô hình này đã học cách đánh giá thấp các hồ sơ có chứa từ "women's" (ví dụ: "women's chess club" - câu lạc bộ cờ vua nữ) do dữ liệu tuyển dụng lịch sử vốn nghiêng về nam giới. Amazon đã phải loại bỏ công cụ này.
• Hệ thống chấm điểm nguy cơ tái phạm COMPAS: Được các tòa án tại Mỹ sử dụng để dự đoán nguy cơ tái phạm tội. Một cuộc điều tra của ProPublica cho thấy hệ thống này có khả năng dán nhãn sai các bị cáo da đen là "nguy cơ cao" gấp đôi so với các bị cáo da trắng.
• Thuật toán y tế (năm 2019): Được các bệnh viện lớn tại Mỹ sử dụng, thuật toán này đã vô tình hạ thấp mức độ ưu tiên chăm sóc theo dõi đối với bệnh nhân da đen một cách có hệ thống, do sử dụng chi phí y tế (thay vì nhu cầu thực tế về sức khỏe) làm tiêu chí huấn luyện.

Tính công bằng: Không chỉ đơn thuần là "tránh định kiến"

Việc đảm bảo tính công bằng trong Machine Learning phức tạp hơn nhiều so với hình dung ban đầu, bởi lẽ có nhiều định nghĩa khác nhau về sự công bằng - và các định nghĩa này lại mâu thuẫn với nhau về mặt toán học.

Bạn không thể thỏa mãn cả ba yếu tố này cùng lúc (điều này đã được chứng minh bằng toán học). Việc lựa chọn tùy thuộc vào bối cảnh - loại hình bất công nào là ít chấp nhận được nhất đối với ứng dụng cụ thể này?

Explainable AI (XAI)

Khi một mô hình Machine Learning (ML) từ chối cấp khoản vay, bác bỏ đơn xin việc hoặc gắn cờ cảnh báo trên kết quả chụp chiếu y tế, mọi người có quyền được biết lý do. Đây chính là lúc XAI (Explainable AI) phát huy vai trò.

Vấn đề

Neural Networks và mô hình kết hợp phức tạp thường là những "hộp đen". Chúng đưa ra dự đoán nhưng không thể giải thích cơ sở lý luận theo cách mà con người có thể hiểu được.

Các giải pháp

• LIME (Local Interpretable Model-agnostic Explanations): Giải thích các dự đoán riêng lẻ bằng cách xấp xỉ mô hình tại một phạm vi cục bộ thông qua một mô hình đơn giản, dễ hiểu hơn
• SHAP (SHapley Additive exPlanations): Cho thấy mức độ đóng góp của từng đặc trưng (feature) vào một dự đoán cụ thể
• Các mô hình có khả năng tự giải thích: Cây quyết định (decision trees) và hồi quy tuyến tính (linear regression) có tính minh bạch ngay từ thiết kế - bạn có thể truy xuất nguồn gốc của mọi dự đoán.

Áp lực từ quy định

Đạo luật AI của EU (có hiệu lực từ năm 2025) yêu cầu tính minh bạch và sự giám sát của con người đối với các hệ thống AI có rủi ro cao - bao gồm chấm điểm tín dụng, tuyển dụng, y tế và thực thi pháp luật. Các tổ chức triển khai ML trong những lĩnh vực này phải có khả năng giải thích cách thức đưa ra các quyết định.

Những điểm chính cần ghi nhớ

• Machine Learning (ML) trong y tế đang thay đổi lĩnh vực chẩn đoán, phát hiện thuốc và chăm sóc bệnh nhân - quy mô thị trường dự kiến ​​tăng từ 37 tỷ USD lên 614 tỷ USD vào năm 2034
• ML trong tài chính hỗ trợ phát hiện gian lận, giao dịch và chấm điểm tín dụng - xử lý hàng tỷ giao dịch theo thời gian thực
• ML trong tiếp thị thúc đẩy cá nhân hóa, hệ thống gợi ý và dự đoán tỷ lệ khách hàng rời bỏ - Netflix tiết kiệm 1 tỷ USD mỗi năm chỉ nhờ hệ thống gợi ý
• Các mô hình ML có thể sao chép và khuếch đại những định kiến ​​có sẵn trong dữ liệu huấn luyện - công cụ tuyển dụng của Amazon, hệ thống COMPAS và các thuật toán y tế đều từng bộc lộ kết quả mang tính phân biệt đối xử
• Khái niệm "công bằng" có nhiều định nghĩa (như sự tương đồng về nhân khẩu học, cơ hội bình đẳng, sự tương đồng về dự đoán) nhưng lại mâu thuẫn nhau về mặt toán học - cần lựa chọn định nghĩa phù hợp tùy theo bối cảnh
• Các công cụ XAI (như LIME, SHAP) giúp diễn giải được các dự đoán từ mô hình "hộp đen" - đây là yêu cầu ngày càng quan trọng theo các quy định pháp lý (như Đạo luật AI của EU)

Thử ngay: Đánh giá về tính công bằng và quản trị mô hình

Mở ChatGPT, Claude hoặc Gemini và dán nội dung sau:

Hãy đóng vai trò là người đánh giá về tính công bằng và quản trị mô hình Machine Learning (ML) của tôi. Trước khi triển khai, tôi cần một bản đánh giá có cấu trúc về các khía cạnh: định kiến ​, khả năng giải thích và rủi ro pháp lý.

Thông tin về mô hình:
- Nội dung dự đoán: []
- Quyết định kinh doanh dựa trên kết quả mô hình: []
- Đối tượng bị ảnh hưởng (khách hàng, ứng viên, nhân viên, bệnh nhân): []
- Mức độ quan trọng/hệ quả (sự tiện lợi so với cơ hội việc làm, khoản vay, nhà ở, chăm sóc sức khỏe, kết quả pháp lý): []
- Quy mô và nguồn dữ liệu: []
- Các thuộc tính trong dữ liệu (liệt kê chi tiết - đánh dấu các thuộc tính thuộc nhóm được bảo vệ: chủng tộc, giới tính, độ tuổi, tôn giáo, khuyết tật, nguồn gốc quốc gia, mã bưu chính đóng vai trò biến đại diện/proxy, v.v.): []
- Loại mô hình (hồi quy logistic / cây quyết định / mạng nơ-ron / mô hình kết hợp/ensemble): []
- Các chỉ số hiệu suất hiện tại: []
- Trạng thái triển khai (thử nghiệm / thực tế / đang lên kế hoạch): []

Hãy thực hiện theo trình tự sau:

1. Kiểm tra thuộc tính được bảo vệ — liệt kê các thuộc tính trong tập đặc trưng (feature set) thuộc nhóm được bảo vệ HOẶC là biến đại diện (ví dụ: mã bưu chính, loại thiết bị, thời gian duyệt web, nguồn gốc tên gọi).
2. Kiểm tra định kiến ​​lịch sử — đối với trường hợp sử dụng này, hãy nêu tên 3 mô hình định kiến ​​lịch sử đã biết (ví dụ: trong tuyển dụng, cho vay, điểm rủi ro y tế, tỷ lệ tái phạm) mà dữ liệu của tôi có khả năng kế thừa.
3. Xác định định nghĩa về tính công bằng — đề xuất định nghĩa phù hợp với bối cảnh này (tương đương về nhân khẩu học / cơ hội bình đẳng / tương đương về dự đoán) và giải thích sự đánh đổi đi kèm.
4. Kế hoạch đo lường — đưa ra các chỉ số cụ thể theo nhóm cần tính toán (TPR, FPR, PPV, tỷ lệ cơ sở/base rate theo nhóm).
5. Kế hoạch về khả năng giải thích — đề xuất phương pháp (LIME, SHAP, hoặc mô hình có khả năng tự giải thích/inherently-interpretable model) dựa trên trường hợp sử dụng và các yêu cầu pháp lý.
6. Đánh giá rủi ro pháp lý — đối chiếu mô hình này với các danh mục rủi ro cao trong Đạo luật AI của EU (EU AI Act), Luật địa phương số 144 của NYC (về AI trong tuyển dụng), các yêu cầu thông báo về quyết định bất lợi của CFPB, HIPAA (nếu liên quan đến y tế), và FCRA (nếu liên quan đến tín dụng). Chọn các mục phù hợp
7. Kế hoạch giám sát của con người — quy trình xem xét và khiếu nại nào cần có trước khi một quyết định gây ảnh hưởng đến cá nhân
8. Kế hoạch theo dõi — các chỉ số về độ lệch (drift), tính công bằng và hiệu suất cần được chạy hàng tuần trong môi trường thực tế (production)
9. Quyết định triển khai (Go/No-go) — đưa ra đánh giá trung thực về việc liệu mô hình đã sẵn sàng triển khai hay chưa; nếu chưa, cần giải quyết những trở ngại nào trước tiên

CÁC QUY TẮC CỐT LÕI:
- Không bao giờ khẳng định mô hình là "công bằng" — tính công bằng là đặc tính của bối cảnh triển khai và được đo lường dựa trên một định nghĩa cụ thể
- Không bao giờ khuyến nghị triển khai mô hình Machine Learning (ML) cho các quyết định có tác động lớn (cho vay, tuyển dụng, nhà ở, y tế, tư pháp hình sự) mà thiếu sự xem xét của con người và khả năng giải trình
- Cảnh báo bất kỳ việc sử dụng mã bưu chính, thiết bị, hành vi duyệt web hoặc các "tín hiệu chất lượng" vốn là các biến số đại diện (proxy) phổ biến cho chủng tộc hoặc thu nhập
- Nếu dữ liệu huấn luyện phản ánh sự bất bình đẳng trong quá khứ (quy trình tuyển dụng, cho vay hoặc thực thi pháp luật trước đây), hãy thông báo cho tôi — và đề xuất các bước cần thực hiện trước khi xây dựng mô hình
- Không cam kết về việc tuân thủ quy định pháp lý — hãy khuyến nghị tôi tham vấn luật sư và chuyên gia đánh giá DPIA (Đánh giá tác động bảo vệ dữ liệu) để xác nhận trước khi ra mắt
- Ưu tiên quyết định "chưa triển khai" khi rủi ro cao và tính công bằng giữa các nhóm chưa được đo lường

Cách điền thông tin: Thay thế các phần trong ngoặc vuông [] bằng thông tin cụ thể từ tình huống thực tế của bạn. Đầu vào mơ hồ sẽ tạo ra kết quả mơ hồ - hãy đưa ra thông tin cụ thể.

Những gì bạn sẽ nhận được: Một quy trình đánh giá nghiêm ngặt về tính công bằng và quản trị, bao gồm kiểm định các thuộc tính được bảo vệ, kế hoạch đo lường tính công bằng, khuyến nghị về khả năng giải trình, danh mục kiểm tra quy định pháp lý và quyết định triển khai trung thực - giúp bạn tránh triển khai một hệ thống có định kiến ​​mà chỉ phát hiện ra khi sự việc đã lên mặt báo hoặc bị kiện tụng.

Cách xử lý kết quả: Lưu phản hồi vào file ghi chú (Notes). Chọn ra một đề xuất mang lại hiệu quả cao nhất và thực hiện ngay trong tuần này - đừng cố gắng làm tất cả mọi thứ cùng lúc.

Nếu kết quả chưa phù hợp: Nếu các đề xuất có vẻ chung chung, hãy dán nội dung sau để yêu cầu bổ sung: "Hãy đưa ra thông tin cụ thể hơn cho bối cảnh thực tế của tôi. Bỏ qua các lời khuyên chung chung". Nếu nó bỏ qua các chi tiết quan trọng mà bạn đã cung cấp, hãy thêm yêu cầu: "Bạn đã bỏ sót [X] trong bối cảnh tôi đưa ra - hãy thực hiện lại với yếu tố đó là yêu cầu bắt buộc hàng đầu".