AI hallucination là câu trả lời do AI tạo ra nhưng sai, gây hiểu lầm, bịa đặt hoặc không có căn cứ, dù nghe hợp lý và giống thông tin thực tế.
Thuật ngữ này không có nghĩa hệ thống AI có nhận thức hay trải nghiệm như con người. *Hallucination* được dùng theo nghĩa ẩn dụ để mô tả một đầu ra trông đáng tin nhưng không dựa trên bằng chứng phù hợp.
Ví dụ, khi được yêu cầu tìm nguồn cho một báo cáo, trợ lý AI có thể đưa ra tên báo cáo, tác giả, trích dẫn và đường dẫn nghe rất chuyên nghiệp dù báo cáo đó không tồn tại. Đây là một AI hallucination.
Tóm tắt cốt lõi (Key Takeaways)
- Đó là gì: AI hallucination là đầu ra sai, bịa đặt, gây hiểu lầm hoặc không có căn cứ nhưng vẫn có thể rất thuyết phục.
- Vì sao xảy ra: Generative AI tạo câu trả lời dựa trên các mẫu đã học và không tự động kiểm tra mọi phát biểu với thực tế.
- Nên làm gì: Xem AI là trợ lý, không phải cơ quan có thẩm quyền. Kiểm tra các khẳng định quan trọng bằng nguồn đáng tin cậy và nhờ con người đánh giá khi sai sót có thể gây hại.
AI hallucination có nghĩa là gì?
AI hallucination là thông tin không chính xác hoặc gây hiểu lầm do mô hình AI tạo ra. Đầu ra này có thể chứa sự kiện, nguồn, trích dẫn, tên, ngày tháng hoặc lời giải thích được bịa ra nhưng trình bày như thông tin đáng tin cậy. Google Cloud định nghĩa AI hallucination là các kết quả không chính xác hoặc gây hiểu lầm do mô hình AI tạo ra.
Trong AI, *hallucination* không hàm ý hệ thống nhìn thấy, cảm nhận hoặc trải nghiệm điều gì. Đây là cách gọi một đầu ra không có đủ căn cứ thực tế.
Một câu trả lời không cần kỳ quặc hoặc khó đọc mới là hallucination. Câu trả lời càng trau chuốt và cụ thể, người đọc càng dễ chấp nhận mà không kiểm tra. IBM mô tả AI hallucination là đầu ra có thể nghe hợp lý nhưng sai về mặt thực tế, không liên quan hoặc hoàn toàn bịa đặt. Đọc giải thích của IBM.
AI hallucination trông như thế nào?
AI hallucination có thể trông như một câu trả lời hữu ích, được viết tốt, thay vì nội dung vô nghĩa rõ ràng.
Ví dụ, bạn yêu cầu AI chuẩn bị bản tóm tắt bối cảnh cho một bài thuyết trình:
1. Bạn yêu cầu bằng chứng. Bạn yêu cầu công cụ tìm một báo cáo ngành gần đây và tóm tắt các phát hiện trong đó.
2. Công cụ đưa ra câu trả lời trau chuốt. Công cụ nêu tên báo cáo, cho biết báo cáo do một tổ chức có uy tín thực hiện và thêm một trích dẫn có vẻ liên quan.
3. Bạn kiểm tra nguồn. Tên báo cáo không xuất hiện trên website của tổ chức hoặc trích dẫn không có trong tài liệu thật.
Báo cáo hoặc trích dẫn được bịa ra chính là hallucination. Phần còn lại của văn bản vẫn có thể rõ ràng và một số ý vẫn chính xác. Vấn đề nằm ở khẳng định cụ thể được trình bày như có căn cứ dù thực tế không phải vậy.
Các dấu hiệu cần kiểm tra gồm:
- Trích dẫn không có nguồn hoạt động hoặc không liên quan
- Trích dẫn trực tiếp rất cụ thể nhưng không thể xác minh xuất xứ
- Một chính sách, quy định hoặc tính năng sản phẩm chưa quen thuộc được khẳng định chắc chắn
- Ngày tháng, số liệu hoặc nghiên cứu cụ thể không thể xác nhận
- Câu trả lời không khớp với tài liệu hoặc thông tin bạn đã cung cấp
Sự tự tin trong cách viết không phải là bằng chứng. Nội dung bịa đặt có thể giống thông tin thật đến mức trông như có thẩm quyền. IBM lưu ý rằng hallucination có thể “nghe có vẻ đúng” dù sai hoặc không thể xác minh.
Vì sao mô hình AI có thể tạo ra hallucination?
Mô hình AI có thể tạo ra hallucination vì Generative AI xây dựng câu trả lời từ các mẫu đã học, thay vì tự kiểm tra từng phát biểu với bằng chứng hiện tại và đáng tin cậy.
Generative AI là hệ thống AI tạo ra nội dung mới như văn bản, hình ảnh, âm thanh hoặc mã. Large Language Model (mô hình ngôn ngữ lớn) là một loại Generative AI được thiết kế để xử lý và tạo văn bản. Khi viết câu trả lời, mô hình ước tính phần văn bản có khả năng xuất hiện tiếp theo dựa trên ngữ cảnh và các mẫu học được trong quá trình huấn luyện.
Cách hoạt động này hữu ích khi soạn email, tóm tắt biên bản họp hoặc giải thích khái niệm. Tuy nhiên, viết một câu nghe hợp lý khác với xác minh một khẳng định thực tế. Chẳng hạn, AI có thể tạo mô tả thuyết phục về chính sách nghỉ phép của công ty dựa trên cách diễn đạt quen thuộc trong các chính sách, nhưng điều đó không có nghĩa AI đã kiểm tra tài liệu hiện hành được tổ chức phê duyệt.
Một số yếu tố có thể góp phần gây ra hallucination gồm training data (dữ liệu huấn luyện) không đầy đủ hoặc có sai sót, các giả định không chính xác, thiên lệch trong dữ liệu và thiếu thông tin nguồn phù hợp với nhiệm vụ. Đây là những yếu tố góp phần, không phải lời giải thích duy nhất cho mọi đầu ra không chính xác. Google Cloud liệt kê dữ liệu huấn luyện không đầy đủ, giả định không chính xác và dữ liệu thiên lệch trong số các nguyên nhân có thể xảy ra.
Với người dùng, điểm cần nhớ là AI có thể tạo ra điểm khởi đầu hữu ích nhưng không tự động biến điểm khởi đầu đó thành kiến thức đã được xác minh.
Hallucination khác gì một lỗi AI thông thường?
Hallucination là một loại lỗi AI, không phải tên gọi cho mọi câu trả lời chưa hoàn hảo của AI.
Lỗi AI là phạm vi rộng hơn, bao gồm mọi đầu ra không chính xác, không phù hợp hoặc không hoàn thành nhiệm vụ. Hallucination hẹp hơn: hệ thống tạo ra thông tin sai, bịa đặt, gây hiểu lầm hoặc không có căn cứ như thể thông tin đó đáng tin cậy. IBM phân biệt hallucination với phạm vi lỗi AI nói chung.
| Tình huống | Lỗi AI thông thường | AI hallucination |
|---|---|---|
| Soạn email | Dùng giọng điệu quá trang trọng | Khẳng định khách hàng đã phê duyệt điều khoản dù không có phê duyệt nào |
| Định dạng báo cáo | Bỏ qua kiểu tiêu đề bạn yêu cầu | Bịa ra một nguồn để hỗ trợ một khẳng định |
| Tóm tắt tài liệu | Bỏ sót một phần quan trọng | Gán một trích dẫn cho tài liệu dù tài liệu không có trích dẫn đó |
| Hỗ trợ bảng tính | Đề xuất công thức có phạm vi ô sai | Khẳng định bảng tính cho thấy một xu hướng mà dữ liệu không hỗ trợ |
Lỗi định dạng thường dễ nhìn ra và sửa. Ngược lại, nguồn hoặc chi tiết chính sách bị bịa ra có thể khó nhận biết hơn và ảnh hưởng đến quyết định nếu được tin tưởng.
Vì sao AI hallucination có thể khó nhận biết?
AI hallucination khó nhận biết vì thường tuân theo các mẫu ngôn ngữ quen thuộc và chứa nhiều chi tiết có vẻ thực tế.
Câu trả lời có thể đúng ngữ pháp, logic, dùng thuật ngữ chuyên môn và có giọng điệu chắc chắn. Nó thậm chí có thể chứa tên, ngày tháng và trích dẫn. Không đặc điểm nào trong số đó xác nhận nội dung là chính xác.
Khi xem xét nội dung do AI tạo ra, hãy chú ý đến các khẳng định có thể kiểm tra độc lập:
- Tên người, tổ chức, báo cáo và sản phẩm
- Ngày tháng, con số, số liệu thống kê và yêu cầu pháp lý hoặc chính sách
- Trích dẫn trực tiếp
- Đường dẫn và trích dẫn nguồn
- Khẳng định về nội dung một tài liệu, khách hàng hoặc hệ thống nội bộ đề cập
Trước khi đưa một trích dẫn do AI tạo ra vào báo cáo, hãy mở nguồn gốc. Xác nhận nguồn đó tồn tại, thực sự nói điều AI đã nêu và hỗ trợ đúng luận điểm bạn đang trình bày.
Ngôn ngữ trôi chảy có thể giúp bạn làm việc nhanh hơn, nhưng không thể thay thế bằng chứng.
Khi nào cần xác minh câu trả lời của AI?
Hãy xác minh câu trả lời của AI khi các khẳng định trong đó ảnh hưởng đến quyết định, được chia sẻ như sự thật hoặc trở thành một phần của sản phẩm công việc quan trọng.
Mức độ kiểm tra nên tương xứng với rủi ro:
1. Bắt đầu với các trường hợp rủi ro thấp. Động não tiêu đề email, lập dàn ý chương trình họp hoặc tạo bản nháp đầu tiên thường chỉ cần chỉnh sửa, không đòi hỏi kiểm tra thực tế quá sâu.
2. Kiểm tra các khẳng định có hệ quả. Xác minh sự kiện, nguồn, trích dẫn, phép tính, chính sách và khuyến nghị trước khi sử dụng trong tài liệu gửi khách hàng, báo cáo chính thức, thông tin công khai hoặc quyết định.
3. Thêm bước đánh giá của con người khi chi phí sai sót cao. Người có chuyên môn phù hợp nên xem xét đầu ra có thể ảnh hưởng đến con người, nghĩa vụ tuân thủ, tài chính, an toàn hoặc quyết định kinh doanh quan trọng.
Thực hành này được gọi là AI verification (xác minh AI): kiểm tra đầu ra của AI bằng bằng chứng đáng tin cậy và đối chiếu với yêu cầu của nhiệm vụ. Điều đó không có nghĩa mọi câu trả lời đều vô dụng; mức độ kiểm tra cần phù hợp với hậu quả nếu câu trả lời sai.
IBM khuyến nghị có sự giám sát của con người ở nơi hallucination có thể gây hại đáng kể, đồng thời khuyên xem Generative AI là trợ lý soạn thảo và nghiên cứu thay vì cơ quan có thẩm quyền. Xem hướng dẫn của IBM về giám sát của con người.
Với một báo cáo chính thức, hãy kiểm tra tài liệu gốc hoặc website có thẩm quyền. Với câu hỏi về chính sách nội bộ, hãy tham khảo chính sách đã được phê duyệt và đội ngũ chịu trách nhiệm. Với một phép tính, hãy tự thực hiện lại hoặc kiểm tra dữ liệu nguồn.
AI hallucination có nghĩa toàn bộ câu trả lời đều sai không?
Không. Một câu trả lời của AI có thể chứa đồng thời các phát biểu chính xác, không chính xác và không có căn cứ.
Ví dụ, AI có thể tóm tắt đúng mục tiêu và các mốc của một dự án nhưng thêm một ngày hoàn thành được bịa ra. Những phần chính xác không khiến ngày đó trở nên đáng tin; ngày sai cũng không tự động chứng minh mọi câu khác đều sai.
Hãy đánh giá các khẳng định liên quan đến nhiệm vụ của bạn. Nếu câu trả lời có nguồn không được hỗ trợ, con số không chính xác hoặc chi tiết bị bịa ra, hãy thận trọng hơn với các khẳng định có hệ quả khác thay vì mặc định toàn bộ câu trả lời an toàn hoặc không an toàn.
Có thể ngăn chặn hoàn toàn AI hallucination không?
Không nên mặc định rằng có thể ngăn chặn hoàn toàn AI hallucination. Bằng chứng hiện có không ủng hộ khẳng định rằng một prompt, công cụ hoặc cách viết có thể bảo đảm mọi phát biểu do AI tạo ra đều chính xác.
Prompt rõ ràng và tài liệu nguồn phù hợp có thể cải thiện mức độ hữu ích của câu trả lời nhưng không chứng minh đầu ra đã được xác minh. Yêu cầu AI “hãy chính xác” hoặc “hãy đưa nguồn” cũng không xác nhận nguồn được trích dẫn tồn tại hay thực sự hỗ trợ khẳng định đó.
Cách tiếp cận thực tế là dùng AI cho những việc nó làm tốt như soạn thảo, sắp xếp, giải thích và khám phá ý tưởng. Với các sự thật quan trọng, hãy dựa vào bằng chứng đáng tin cậy và phán đoán của con người. Nhờ đó, AI vẫn hữu ích mà không bị xem là cơ quan có thẩm quyền không cần chất vấn.
Để xem hướng dẫn liên quan, hãy đọc vì sao AI mắc lỗi và cách xác minh câu trả lời của AI.