Tóm tắt cốt lõi (Key Takeaways)
- Dùng để định hướng: Phần giải thích giúp xác định điểm cần kiểm tra, nhưng không tự chứng minh kết quả AI chính xác hay đáng tin cậy.
- Đối chiếu hồ sơ: Khi hóa đơn bị đánh dấu, hãy so sánh hóa đơn với đơn đặt hàng và tài liệu liên quan trước khi hành động.
- Áp dụng quy trình: Xem xét khác biệt theo quy định nghiệp vụ và nhờ người phù hợp đánh giá nếu phần giải thích chưa rõ hoặc quyết định có thể gây hậu quả đáng kể.
- Kiểm tra thuật ngữ: Cách dùng explainability và interpretability có thể khác nhau; hãy xem tác giả định nghĩa chúng thế nào trong từng bối cảnh.
Explainable AI là gì?
Explainable AI (AI có thể giải thích) là tập hợp các phương pháp và quy trình giúp con người hiểu cách hệ thống AI hoạt động và vì sao hệ thống đưa ra một kết quả hoặc quyết định. Các phương pháp này hỗ trợ xem xét kết quả mà không nhất thiết phải tiết lộ mọi phép tính bên trong hệ thống. Viện Kỹ thuật Phần mềm thuộc Đại học Carnegie Mellon mô tả khả năng giải thích là cách giúp con người hiểu kết quả và đầu ra của các hệ thống học máy.
Ví dụ, nếu một công cụ AI đánh dấu hóa đơn cần được xem xét, phần giải thích có thể nêu những chi tiết liên quan. Nhân viên có thể dùng thông tin đó để bắt đầu kiểm tra, nhưng phần giải thích không tự xác định việc đánh dấu có hợp lý hay không.
Phần giải thích của AI có thể cho biết điều gì?
Phần giải thích có thể giúp người dùng xem xét cách hệ thống hoạt động hoặc lý do đứng sau một kết quả cụ thể. Nội dung phụ thuộc vào hệ thống, phương pháp giải thích và câu hỏi cần trả lời.
Với hóa đơn bị đánh dấu, phần giải thích có thể chỉ ra sự không khớp giữa hóa đơn và đơn đặt hàng. Nhân viên cần kiểm tra hồ sơ để xác định khác biệt đó có thật và có liên quan hay không. Phần giải thích gợi ý điều cần xem xét, chứ không chứng minh kết luận của hệ thống là đúng.
Nhà phát triển và người thực hành có thể dùng phần giải thích để xem xét hoạt động của hệ thống trong quá trình phát triển và đánh giá. Người sử dụng cũng có thể dựa vào đó để đặt câu hỏi về một kết quả. Viện Kỹ thuật Phần mềm mô tả cả hai cách sử dụng này.
Phần giải thích của Explainable AI có hình thức nào?
Phần giải thích có thể là mô tả bằng văn bản hoặc đánh dấu trực quan, nhưng không hình thức nào giải thích đầy đủ mọi hệ thống hay nhiệm vụ.
- Mô tả bằng văn bản: Công cụ có thể cho biết hóa đơn bị đánh dấu vì số tiền khác với số tiền trên đơn đặt hàng. Người kiểm tra có thể dùng thông tin này để tìm hồ sơ liên quan.
- Đánh dấu trực quan: Hệ thống phân tích hình ảnh có thể đánh dấu những vùng ảnh ảnh hưởng đến kết quả. Ví dụ của Viện Kỹ thuật Phần mềm mô tả báo cáo hình ảnh y tế có bản đồ nhiệt (heat map) thể hiện các vùng ảnh liên quan đến chẩn đoán của mô hình.
Một hình thức giải thích hữu ích khi phù hợp với người xem xét kết quả. Ngay cả phần giải thích có vẻ rõ ràng cũng cần được đánh giá trong bối cảnh nhiệm vụ và bằng chứng hiện có.
Vì sao Explainable AI hữu ích?
Phần giải thích có thể hỗ trợ việc phát triển, kiểm thử và xem xét cách hệ thống AI hoạt động. Chúng cũng có thể giúp người dùng không chuyên về kỹ thuật hiểu kết quả đủ để đặt câu hỏi cụ thể.
Người thực hành có thể dùng phần giải thích để kiểm tra hệ thống có đáp ứng yêu cầu của dự án hay không hoặc tìm hiểu hành vi bất ngờ. Nhân viên văn phòng có thể dựa vào lý do hóa đơn bị đánh dấu để tìm hồ sơ cần xem xét. Đây là những cách sử dụng có thể có, không phải bảo đảm rằng phần giải thích sẽ giải quyết được vấn đề.
Phần giải thích cũng có thể hỗ trợ theo dõi hoặc đánh giá hệ thống. Mức độ hữu ích tùy thuộc vào việc thông tin có liên quan và dễ hiểu với người đánh giá hay không. Phần giải thích khó hiểu hoặc không gắn với quyết định đang được xem xét có thể ít hữu ích.
Phần giải thích có chứng minh quyết định của AI là đúng không?
Không. Phần giải thích có thể giúp bạn hiểu hoặc đặt câu hỏi về kết quả của AI, nhưng tự nó không chứng minh kết quả chính xác hay đáng tin cậy.
Nếu công cụ xử lý hóa đơn báo có điểm không khớp, hãy so sánh hóa đơn với đơn đặt hàng và các hồ sơ liên quan trước khi hành động. Phần giải thích chỉ ra điều cần kiểm tra; hồ sơ và quy định nghiệp vụ áp dụng giúp xác định bước tiếp theo.
Nghiên cứu về khả năng giải thích cũng phân biệt giữa việc giúp người dùng hiểu hơn và việc tạo dựng niềm tin. Liệu phần giải thích có xây dựng được niềm tin ở những người không có chuyên môn về AI hay không vẫn còn là vấn đề được tranh luận. Viện Kỹ thuật Phần mềm lưu ý sự khác biệt này. Hãy xem phần giải thích là công cụ hỗ trợ đánh giá, không phải vật thay thế cho việc kiểm tra bằng chứng.
Khả năng giải thích và khả năng diễn giải có giống nhau không?
Explainability (khả năng giải thích) và interpretability (khả năng diễn giải) có liên quan, nhưng chưa có cách phân biệt duy nhất được mọi người thống nhất sử dụng. Một số nhà nghiên cứu dùng hai thuật ngữ thay thế cho nhau; những người khác định nghĩa chúng khác nhau tùy bối cảnh. Viện Kỹ thuật Phần mềm mô tả sự khác biệt trong cách sử dụng thuật ngữ.
Một nhóm có thể dùng explainability để chỉ thông tin về một đầu ra cụ thể, còn interpretability để chỉ cách hệ thống được thiết kế. Đây là một cách phân biệt, không phải quy tắc phổ quát. Khi đọc báo cáo hoặc đánh giá dự án, hãy kiểm tra cách tác giả định nghĩa các thuật ngữ.
Các phương pháp Explainable AI được dùng khi nào?
Các phương pháp giúp con người hiểu hành vi của AI có thể được dùng ở nhiều giai đoạn phát triển và vận hành hệ thống: kiểm tra dữ liệu trước khi xây dựng mô hình, tính đến khả năng diễn giải trong thiết kế hoặc giải thích hành vi sau khi xây dựng mô hình.
1. Trước khi xây dựng mô hình: Kiểm tra dữ liệu được dùng để phát triển hệ thống.
2. Trong quá trình thiết kế hệ thống: Xây dựng mô hình hoặc hệ thống có tính đến khả năng diễn giải.
3. Sau khi xây dựng mô hình: Tạo phần giải thích về hoạt động của hệ thống hoặc một đầu ra cụ thể.
Đây là cách phân nhóm khái quát, không phải danh sách kỹ thuật cụ thể. Viện Kỹ thuật Phần mềm mô tả các phương pháp được sử dụng ở nhiều giai đoạn trong vòng đời học máy.
Nên sử dụng phần giải thích của AI như thế nào?
Hãy dùng phần giải thích để định hướng việc kiểm tra, không phải để tự động đưa ra quyết định. Xác định phần giải thích nêu điều gì, rồi đối chiếu thông tin đó với bằng chứng liên quan và yêu cầu của nhiệm vụ.
Với một hóa đơn bị đánh dấu:
1. Xác định lý do được nêu. Ghi lại điểm không khớp hoặc chi tiết cụ thể mà hệ thống chỉ ra.
2. Kiểm tra hồ sơ gốc. Đối chiếu hóa đơn với đơn đặt hàng và các tài liệu liên quan khác.
3. Áp dụng quy định phù hợp. Xác định khác biệt đó có ý nghĩa gì theo quy trình của tổ chức.
4. Yêu cầu người khác xem xét nếu cần. Nếu phần giải thích chưa rõ hoặc quyết định có thể gây hậu quả đáng kể, hãy nhờ người phù hợp tham gia.
Phần giải thích hướng sự chú ý vào điểm cần kiểm tra; bằng chứng và đánh giá của con người là cơ sở để quyết định bước tiếp theo.
Điểm chính: Phần giải thích hỗ trợ việc xem xét, không bảo đảm kết luận chắc chắn
Explainable AI giúp con người hiểu hệ thống AI và các đầu ra hoặc quyết định của hệ thống. Phần giải thích có thể hỗ trợ kiểm tra hoạt động, đặt câu hỏi và xem xét kết quả, nhưng tự nó không chứng minh quyết định chính xác hay đáng tin cậy.
Với một hóa đơn bị đánh dấu, phần giải thích cho biết cần kiểm tra điều gì. Hồ sơ và việc xem xét cẩn thận giúp xác định nên làm gì.