AI Fairness là cách xác định và hạn chế những kết quả thiếu công bằng hoặc mang tính phân biệt đối xử mà hệ thống AI có thể tạo ra cho một số người hoặc nhóm người. Điều này cần được quan tâm khi AI hỗ trợ hoặc tác động đến các quyết định về con người, chẳng hạn như chọn ứng viên vào vòng tiếp theo trong quy trình tuyển dụng. Công nghệ không tự nhiên trở nên công bằng chỉ vì trông có vẻ trung lập; cần đánh giá tác động của hệ thống trong bối cảnh cụ thể.
Tóm tắt cốt lõi (Key Takeaways)
- Là gì: AI Fairness là việc xác định và xử lý những khác biệt hoặc tác hại thiếu căn cứ trong kết quả của AI.
- Vì sao và bằng cách nào: Điều gì được xem là công bằng phụ thuộc vào quyết định và những người chịu ảnh hưởng. Dữ liệu có thể duy trì các mô thức bất bình đẳng trong quá khứ, còn các thước đo fairness khác nhau có thể chỉ ra những vấn đề khác nhau.
- Ý nghĩa thực tế: Đừng cho rằng hệ thống công bằng chỉ vì không dùng thông tin nhạy cảm hoặc đáp ứng một thước đo. Hãy xác định ai bị ảnh hưởng, kết quả nào cần xem xét và bằng chứng nào hỗ trợ đánh giá.
AI Fairness có nghĩa là gì?
AI Fairness là việc thiết kế, đánh giá và giám sát hệ thống AI nhằm ngăn kết quả gây ra tác hại có thể tránh được hoặc thiếu căn cứ một cách có hệ thống cho một số nhóm người. Trọng tâm là tác động đến con người, không phải vẻ ngoài trung lập hay hiệu quả tổng thể của hệ thống. Tổng quan của Snowflake về AI Fairness mô tả fairness là thực hành xem xét tác động của kết quả đối với các nhóm người.
Ví dụ, một công ty dùng AI hỗ trợ sàng lọc hồ sơ xin việc cần xem liệu đề xuất của hệ thống có khiến một số ứng viên chịu bất lợi thiếu căn cứ hay không. Đánh giá này tập trung vào tác động và cách sử dụng hệ thống, không chỉ vào việc hệ thống xử lý hồ sơ nhất quán.
Fairness là mục tiêu cần được đánh giá và hướng tới, không phải điều AI mặc nhiên bảo đảm. Mô hình có thể đưa ra kết quả nhất quán nhưng vẫn góp phần tạo ra khác biệt gây hại giữa các nhóm. Việc một kết quả có thiếu căn cứ hay không phụ thuộc vào mục đích sử dụng và những người có thể bị ảnh hưởng.
Vì sao AI Fairness quan trọng?
AI Fairness quan trọng vì các quyết định có AI hỗ trợ có thể ảnh hưởng đến cơ hội và cách con người được đối xử. Nếu công cụ tuyển dụng giúp quyết định ai được mời phỏng vấn, đề xuất của công cụ có thể tác động đến cơ hội tiếp cận việc làm. Không phải mọi khác biệt về kết quả đều tự động bất công; cần xem hệ thống có tạo ra hoặc duy trì tác hại thiếu căn cứ hay không.
Fairness cần được xem xét ngay cả khi AI chỉ là một phần trong quy trình do con người điều hành. Đề xuất của hệ thống có thể ảnh hưởng đến điều người đánh giá chú ý hoặc hồ sơ nào được xem xét thêm. Hiểu cách công cụ được sử dụng giúp xác định tác động nào cần được xem xét kỹ hơn.
AI Fairness liên quan thế nào đến AI Bias?
AI Bias và AI Fairness có liên quan nhưng không đồng nghĩa. AI Bias ở đây chỉ những mô thức trong dữ liệu hoặc cách hệ thống hoạt động có thể góp phần tạo ra kết quả lệch. AI Fairness tập trung vào việc xem xét và xử lý tác động thiếu công bằng đối với con người hoặc các nhóm. Bias có thể góp phần dẫn đến kết quả bất công, nhưng không phải yếu tố duy nhất cần xem xét.
Hệ thống có thể học từ hồ sơ được tạo ra qua những quyết định trong quá khứ. Nếu hồ sơ phản ánh cơ hội tiếp cận không bình đẳng hoặc tình trạng thiếu đại diện, các mô thức đó có thể ảnh hưởng đến kết quả. Chẳng hạn, nếu dữ liệu tuyển dụng trước đây phản ánh việc một số người ít có cơ hội tiếp cận những vị trí nhất định, AI được huấn luyện trên dữ liệu ấy có thể đưa một phần mô thức này vào đề xuất. Đây là rủi ro cần kiểm tra, không phải bằng chứng rằng mọi hệ thống dùng dữ liệu lịch sử đều tạo ra kết quả bất công. Phần giải thích của SS&C Blue Prism về fairness và bias bàn về cách dữ liệu lịch sử có thể phản ánh những quyết định và bất bình đẳng trong quá khứ.
Tìm kiếm bias có thể giúp xác định một nguồn tiềm ẩn gây ra kết quả bất công. Đánh giá fairness còn cần xem xét tác động của hệ thống trong bối cảnh sử dụng cụ thể và liệu những tác động đó có hợp lý hay không.
Vì sao fairness phụ thuộc vào cách sử dụng hệ thống AI?
Câu hỏi về fairness phụ thuộc vào quyết định mà hệ thống hỗ trợ, những người có thể bị ảnh hưởng và các tác hại có thể xảy ra. Mục tiêu phù hợp với ứng dụng này có thể không giải quyết được mối quan ngại chính trong ứng dụng khác. Phần thảo luận của Snowflake về AI Fairness cũng nhấn mạnh rằng việc xem xét fairness phụ thuộc vào chức năng của hệ thống.
| Ví dụ về cách sử dụng | Quyết định hệ thống có thể hỗ trợ | Câu hỏi cần cân nhắc |
|---|---|---|
| Sàng lọc tuyển dụng | Ứng viên nào được vào vòng tiếp theo | Ứng viên đủ tiêu chuẩn thuộc các nhóm khác nhau có bị ảnh hưởng theo cách thiếu căn cứ không? |
| Phân bổ nguồn lực | Hỗ trợ hoặc dịch vụ hạn chế nên được dành cho đâu | Quyết định có thể bỏ sót những người có nhu cầu chưa được thể hiện đầy đủ trong dữ liệu hiện có không? |
Đây là câu hỏi khởi đầu, không phải phép thử phổ quát có sẵn đáp án. Nhóm cần hiểu quyết định và tác động trước khi chọn kết quả phù hợp để đánh giá. Xem mọi ứng dụng như cùng đặt ra một vấn đề fairness có thể khiến các tác hại riêng của từng bối cảnh bị bỏ qua.
Vì sao các thước đo fairness có thể đưa ra những kết luận khác nhau?
Không có một thước đo fairness duy nhất giải quyết được mọi câu hỏi về tính công bằng của AI. Các thước đo phản ánh những quan niệm khác nhau về đối xử công bằng, và một số mục tiêu fairness có thể mâu thuẫn. Kết quả cân bằng theo một thước đo vẫn có thể gây quan ngại theo thước đo khác. SS&C Blue Prism giải thích rằng fairness không có một định nghĩa phổ quát duy nhất và các mục tiêu khác nhau có thể xung đột.
Hãy xét một hệ thống tuyển dụng giả định. Hai phiên bản có thể đề xuất đưa tỷ lệ ứng viên tương tự từ các nhóm khác nhau vào vòng tiếp theo, nhưng khác nhau về tần suất mắc lỗi với từng nhóm. Chỉ nhìn vào tỷ lệ được chọn sẽ không cho thấy mọi khác biệt về hiệu quả. Đây là ví dụ minh họa, không phải kết quả từ một hệ thống tuyển dụng có thật.
Một thước đo có thể cung cấp bằng chứng hữu ích, nhưng không thể tự quyết định sự đánh đổi nào là chấp nhận được hoặc liệu đã xem xét mọi tác hại liên quan hay chưa. Đánh giá cần căn cứ vào mục đích của hệ thống, những người chịu ảnh hưởng và hậu quả của các lỗi.
Loại bỏ thông tin nhạy cảm có làm hệ thống AI công bằng không?
Không. Loại các đặc điểm được pháp luật bảo vệ khỏi đầu vào mô hình không đủ để chứng minh hệ thống công bằng. Thông tin khác có thể liên quan đến các đặc điểm đó và mang theo những mô thức ảnh hưởng đến kết quả. Tổng quan của Persistent về tính công bằng trong hệ thống AI giải thích vì sao chỉ bỏ các thuộc tính được bảo vệ có thể không loại bỏ bias khỏi mô hình.
Ví dụ, đơn xin việc có thể thu thập thông tin thông thường về hoàn cảnh của một người. Tùy dữ liệu và cách sử dụng, một số thông tin có thể liên quan đến các đặc điểm được bảo vệ. Điều này không có nghĩa mọi thông tin liên quan đều không phù hợp để sử dụng; nó cho thấy chỉ bỏ một vài trường thông tin chưa phải là đánh giá fairness đầy đủ.
Nên đặt câu hỏi nào khi xem xét AI Fairness?
Khi bắt đầu, hãy hỏi hệ thống tác động đến quyết định nào, ai có thể bị ảnh hưởng, kết quả nào cần quan tâm và bằng chứng nào giúp đánh giá các kết quả đó. Những câu hỏi này hỗ trợ việc xem xét ban đầu; chúng không thay thế một cuộc kiểm toán đầy đủ hay chứng minh hệ thống công bằng.
Với một công cụ sàng lọc tuyển dụng giả định, nhóm có thể xem xét:
1. Xác định quyết định. Công cụ xếp hạng ứng viên, lọc hồ sơ hay đưa ra gợi ý cho nhà tuyển dụng?
2. Xác định những người có thể bị ảnh hưởng. Ứng viên nào có thể được hoặc mất cơ hội vì kết quả của công cụ?
3. Nêu rõ tác hại có thể xảy ra. Ứng viên đủ tiêu chuẩn có thể bị bất lợi, hoặc kinh nghiệm phù hợp có thể bị bỏ qua không?
4. Chọn bằng chứng phù hợp với câu hỏi. Thông tin nào giúp so sánh tác động của hệ thống giữa các nhóm trong bối cảnh tuyển dụng này?
5. Xem xét những gì bằng chứng chưa thể cho biết. Đánh giá chỉ xem xét một kết quả hoặc một thước đo, khiến các tác hại khác chưa được kiểm tra không?
Câu trả lời giúp xác định điều cần đánh giá và lý do. Chúng không tự giải quyết các đánh đổi khó khăn. Kết quả tốt theo một thước đo cũng không chứng minh hệ thống công bằng trên mọi khía cạnh.
AI Fairness cho bạn biết và không thể cho bạn biết điều gì?
Đánh giá fairness có thể giúp xem xét liệu hệ thống AI có gây tác hại thiếu căn cứ cho các nhóm trong một bối cảnh cụ thể hay không. Tuy nhiên, áp dụng một định nghĩa, kiểm tra một thước đo hoặc loại bỏ thuộc tính nhạy cảm không thể tự bảo đảm tính công bằng. Những lựa chọn đó cung cấp thông tin cho đánh giá, nhưng ý nghĩa phụ thuộc vào quyết định và những người liên quan.
Trong ví dụ tuyển dụng, so sánh một kết quả giữa các nhóm có thể cung cấp thông tin hữu ích nhưng chưa trả lời mọi câu hỏi về lỗi, cơ hội tiếp cận hoặc cách nhà tuyển dụng dùng đề xuất. Hãy xác định quyết định, xem ai có thể bị ảnh hưởng và theo cách nào, rồi diễn giải bằng chứng trong đúng bối cảnh. Như vậy, đánh giá AI Fairness tập trung vào tác động thực tế thay vì coi fairness là nhãn mà mô hình đạt được một lần rồi giữ nguyên trong mọi tình huống sử dụng.