Context Engineering là cách chủ động lựa chọn và sắp xếp thông tin, tài nguyên để hệ thống AI sử dụng khi hoàn thành một nhiệm vụ. Ngữ cảnh có thể gồm chỉ dẫn, tài liệu tham khảo, lịch sử hội thoại và kết quả từ công cụ liên quan, thay vì chỉ một yêu cầu ngắn.
Kết quả AI tốt hơn không phải lúc nào cũng đến từ một câu lệnh khéo hơn. Hệ thống còn cần thông tin đúng và được trình bày hữu ích. Context Engineering không bảo đảm câu trả lời chính xác, nhưng có thể làm rõ nhiệm vụ và giảm những thiếu sót hoặc yếu tố gây xao nhãng có thể tránh được.
> Điểm chính
> – Là gì: Context Engineering định hình phạm vi thông tin rộng hơn mà hệ thống AI có thể sử dụng cho một nhiệm vụ.
> – Hoạt động ra sao: Kết hợp chỉ dẫn, yêu cầu của người dùng, tài liệu nguồn liên quan và – khi có – lịch sử hội thoại hoặc kết quả từ công cụ.
> – Vì sao hữu ích: Thông tin liên quan, được sắp xếp tốt thường hữu ích hơn việc đưa vào mọi tài liệu hoặc chi tiết bạn có.
Tóm tắt cốt lõi (Key Takeaways)
- Làm rõ nhiệm vụ: Nêu AI cần tạo nội dung gì, cho ai và theo định dạng nào. Bổ sung giọng điệu, độ dài và các ràng buộc cần thiết.
- Chọn nguồn phù hợp: Cung cấp tài liệu liên quan, đáng tin cậy và hiện hành. Loại bỏ thông tin trùng lặp, lỗi thời hoặc không liên quan.
- Sắp xếp ngữ cảnh: Kết hợp chỉ dẫn, tài liệu tham khảo, lịch sử hội thoại và kết quả công cụ phù hợp với nhiệm vụ. Context Engineering rộng hơn việc chỉ tinh chỉnh prompt.
- Kiểm tra câu trả lời: Đối chiếu kết quả với nguồn đáng tin cậy vì ngữ cảnh tốt không bảo đảm phản hồi chính xác hoặc đầy đủ.
Context Engineering là gì?
Context Engineering là việc chủ động thiết kế, lựa chọn và sắp xếp ngữ cảnh cung cấp cho mô hình AI để xử lý nhiệm vụ hiệu quả hơn. Nói đơn giản, đó là xác định AI cần biết gì, cần làm gì và cần sử dụng thông tin nào.
Ví dụ, yêu cầu “tóm tắt báo cáo này” chỉ xác định nhiệm vụ. Khi bổ sung báo cáo, đối tượng đọc, độ dài và định dạng mong muốn, bạn tạo ra ngữ cảnh làm việc hữu ích hơn.
Khái niệm này rộng hơn việc viết prompt. Nó có thể gồm chỉ dẫn hệ thống, tài liệu liên quan, tin nhắn trước đó, dữ liệu có cấu trúc và kết quả từ công cụ khác. IBM mô tả Context Engineering là việc chủ động thiết kế và cấu trúc ngữ cảnh cung cấp cho mô hình ngôn ngữ để tạo ra kết quả phù hợp và đáng tin cậy hơn (IBM). LangChain cũng mô tả đây là việc xây dựng hệ thống cung cấp đúng thông tin và công cụ, theo đúng định dạng, cho một nhiệm vụ (LangChain).
Mục tiêu không phải là tạo ngữ cảnh lớn nhất, mà là cung cấp ngữ cảnh hữu ích cho nhiệm vụ cụ thể.
“Ngữ cảnh” có nghĩa là gì khi bạn dùng AI?
Trong AI, ngữ cảnh là thông tin mà mô hình có thể sử dụng khi xử lý một yêu cầu cụ thể. Thành phần của ngữ cảnh phụ thuộc vào sản phẩm, nhiệm vụ và thiết kế hệ thống.
Có thể hình dung quy trình qua bốn bước:
1. Bắt đầu từ nhiệm vụ. Nêu rõ bạn muốn AI tạo ra nội dung gì, chẳng hạn bản tóm tắt dự án, câu trả lời cho khách hàng hoặc lời giải thích.
2. Thêm chỉ dẫn. Cho biết đối tượng đọc, giọng điệu, định dạng, độ dài hoặc quy tắc cần tuân theo.
3. Cung cấp thông tin liên quan. Đưa vào báo cáo, ghi chú, trích đoạn chính sách, dữ liệu hoặc tài liệu khác mà AI cần.
4. Bổ sung hỗ trợ sẵn có. Khi phù hợp, hệ thống có thể sử dụng lịch sử hội thoại, tài liệu được truy xuất hoặc kết quả từ công cụ.
Ví dụ, hệ thống AI hỗ trợ soạn email có thể nhận yêu cầu của người dùng, chỉ dẫn về giọng điệu, ghi chú về vấn đề và kết quả tra cứu từ lịch hoặc tài liệu liên quan. Tất cả tạo thành ngữ cảnh làm việc cho nhiệm vụ đó.
Không phải ứng dụng AI nào cũng sử dụng mọi loại đầu vào. Một cuộc trò chuyện đơn giản có thể chỉ gồm yêu cầu hiện tại và tin nhắn trước đó. Trợ lý được kết nối với tài liệu đã phê duyệt có thể truy cập thêm các nguồn này. Context Engineering tập trung vào việc xác định đầu vào phù hợp, không mặc định mọi hệ thống hoạt động giống nhau.
Context Engineering khác Prompt Engineering như thế nào?
Prompt Engineering tập trung vào thiết kế và tinh chỉnh prompt – chỉ dẫn hoặc yêu cầu gửi đến hệ thống AI. Context Engineering xem xét tập hợp thông tin và tài nguyên rộng hơn mà mô hình có thể sử dụng khi xử lý nhiệm vụ.
| Khía cạnh | Prompt Engineering | Context Engineering |
|---|---|---|
| Trọng tâm chính | Cách diễn đạt chỉ dẫn hoặc yêu cầu | Định hình toàn bộ tập hợp thông tin làm việc |
| Đầu vào thường gặp | Nhiệm vụ, ràng buộc, định dạng, ví dụ | Chỉ dẫn, tài liệu, lịch sử, dữ liệu và kết quả từ công cụ |
| Câu hỏi chính | “Nên yêu cầu như thế nào?” | “AI cần được truy cập những gì?” |
| Ví dụ | “Tóm tắt nội dung này cho quản lý bằng năm gạch đầu dòng.” | Chọn đúng báo cáo, loại bỏ tài liệu lỗi thời, bổ sung thông tin về đối tượng đọc và đưa ra chỉ dẫn tóm tắt |
| Phạm vi | Hẹp hơn | Rộng hơn; có thể bao gồm thiết kế prompt |
Prompt Engineering là một phần của Context Engineering. Cải thiện chỉ dẫn có thể hữu ích, nhưng không thể thay thế thông tin nguồn còn thiếu hoặc không phù hợp.
Giả sử bạn yêu cầu AI chuẩn bị bản cập nhật dự án. Đổi “viết bản cập nhật” thành “viết bản cập nhật dài 150 từ cho quản lý cấp cao, với giọng điệu trung lập và dựa trên sự kiện” là Prompt Engineering. Chọn ghi chú hiện tại của dự án, xác định đúng kỳ báo cáo và loại bỏ bản nháp không liên quan là các quyết định thuộc Context Engineering.
Để xem hướng dẫn chi tiết về cách viết chỉ dẫn, hãy đọc Prompt Engineering là gì?. Bài viết này tập trung vào câu hỏi rộng hơn: hệ thống nên nhận những thông tin và tài nguyên nào.
Những thông tin nào có thể nằm trong ngữ cảnh của hệ thống AI?
Ngữ cảnh của hệ thống AI có thể gồm chỉ dẫn, tài liệu tham khảo, lịch sử hội thoại và kết quả từ công cụ. Đây là các đầu vào có thể có, không phải danh sách mà mọi sản phẩm đều cung cấp.
Chỉ dẫn và yêu cầu của người dùng
Hệ thống có thể nhận các quy tắc chung, chỉ dẫn cụ thể cho nhiệm vụ và yêu cầu của người dùng. Những thông tin này xác định đầu ra mong muốn, đối tượng đọc, định dạng, giọng điệu hoặc giới hạn cần tuân theo.
Với bản tóm tắt cuộc họp, chỉ dẫn có thể là: “Viết cho người bảo trợ dự án, phân biệt quyết định với câu hỏi còn bỏ ngỏ và giữ nội dung dưới một trang.” Yêu cầu của người dùng có thể bổ sung: “Dùng ghi chú cuộc họp hôm qua.”
Thông tin tham khảo
Hệ thống có thể nhận tài liệu, ghi chú, bảng, hồ sơ hoặc dữ liệu liên quan đến nhiệm vụ. Những nguồn này cung cấp thông tin cụ thể để AI sử dụng, thay vì chỉ dựa vào các khuôn mẫu chung.
Trợ lý dịch vụ khách hàng có thể nhận chính sách đổi trả đã được phê duyệt. Người học có thể cung cấp một đoạn sách giáo khoa và yêu cầu giải thích ở mức nhập môn.
Lịch sử hội thoại
Các tin nhắn trước đó có thể trở thành một phần ngữ cảnh hiện tại. Chúng cho biết người dùng đã yêu cầu gì, định dạng nào đã được chọn hoặc những chi tiết nào đã được cung cấp.
Lịch sử giúp duy trì mạch hội thoại, nhưng cũng có thể chứa giả định lỗi thời hoặc nội dung không liên quan. Thiết kế ngữ cảnh tốt có thể đòi hỏi giữ lại phần hữu ích và bỏ phần còn lại.
Kết quả từ công cụ hoặc hệ thống
Hệ thống có thể nhận thông tin do công cụ hoặc dịch vụ khác tạo ra. Công cụ tìm kiếm tài liệu có thể trả về một trích đoạn chính sách, công cụ lịch có thể trả về thời gian họp còn trống, hoặc quy trình xử lý bảng tính có thể cung cấp một phép tính.
Mô hình có thể dùng kết quả đó làm một phần ngữ cảnh cho nhiệm vụ. Điều này không có nghĩa mô hình có quyền truy cập không giới hạn vào hệ thống nền, hoặc mọi ứng dụng AI đều có thể sử dụng công cụ.
IBM liệt kê chỉ dẫn hệ thống, truy vấn của người dùng, tài liệu được truy xuất, dữ liệu có cấu trúc, lịch sử tương tác và đầu ra từ công cụ trong số các loại thông tin có thể được cung cấp cho mô hình ngôn ngữ (IBM).
Context Engineering hỗ trợ một nhiệm vụ thực tế như thế nào?
Context Engineering giúp biến một nhiệm vụ AI thành chuỗi lựa chọn và sắp xếp thông tin, thay vì chỉ là một yêu cầu đơn lẻ.
Hãy xét việc soạn bản cập nhật tình hình dự án hằng tuần từ ghi chú cuộc họp:
1. Xác định đầu ra. Quyết định ai sẽ đọc, nên dùng định dạng nào và nội dung bao quát giai đoạn nào.
2. Cung cấp nguồn liên quan. Đưa cho AI ghi chú cuộc họp đã được phê duyệt và thông tin hiện tại về các mốc dự án.
3. Sắp xếp tài liệu. Gắn nhãn quyết định, rủi ro, công việc đã hoàn thành và bước tiếp theo để các mối liên hệ rõ ràng.
4. Loại bỏ yếu tố gây xao nhãng. Bỏ các cuộc trao đổi không liên quan, kế hoạch đã bị thay thế và ghi chú trùng lặp.
5. Rà soát bản nháp. Đối chiếu kết quả với tài liệu nguồn trước khi gửi.
Người thực hiện những lựa chọn này vẫn chịu trách nhiệm suy xét nhiệm vụ. AI hỗ trợ tạo hoặc chuyển đổi nội dung, nhưng không tự xác định phiên bản nào của kế hoạch dự án là có thẩm quyền, trừ khi hệ thống được thiết kế và chỉ dẫn để làm việc đó.
Cách tiếp cận này cũng hữu ích cho việc học. Thay vì hỏi “Hãy giải thích nội dung này”, người học có thể cung cấp đoạn văn, nêu trình độ hiện tại, chỉ ra phần khó hiểu và yêu cầu một ví dụ. Cách diễn đạt yêu cầu quan trọng, nhưng tài liệu và thông tin nền đi kèm cũng vậy.
Vì sao thông tin liên quan tốt hơn việc đưa vào nhiều thông tin?
Đưa thêm tài liệu không mặc nhiên giúp hệ thống AI tạo ra kết quả tốt hơn. Context Engineering bao gồm việc chọn thông tin liên quan và lọc bỏ tài liệu không liên quan, trùng lặp, lỗi thời hoặc có khả năng gây hiểu lầm.
Nếu yêu cầu AI tóm tắt một dự án hiện tại và đính kèm mọi tài liệu trong hai năm qua, hệ thống có thể gặp nhiều phiên bản kế hoạch, ghi chú lặp lại và quyết định không còn áp dụng. Một tập tài liệu nhỏ hơn, cập nhật và đáng tin cậy có thể tạo cơ sở rõ ràng hơn.
Nguyên tắc hữu ích là cung cấp tập hợp thông tin đáng tin cậy nhỏ nhất nhưng vẫn đủ cho nhiệm vụ. Điều này không có nghĩa bỏ qua bối cảnh quan trọng; hãy kiểm tra từng tài liệu có giúp trả lời yêu cầu hiện tại hay không.
Mức độ liên quan còn phụ thuộc vào cách trình bày. Tiêu đề rõ ràng, ngày tháng, nhãn nguồn hoặc lời giải thích ngắn có thể giúp phân biệt thông tin hiện tại với tài liệu nền. Sắp xếp nội dung không thay thế việc xác minh, nhưng làm rõ cách sử dụng thông tin dự kiến.
Truy xuất, công cụ và bộ nhớ liên quan đến nhau như thế nào?
Truy xuất, công cụ và bộ nhớ đều có thể liên quan đến Context Engineering, nhưng mỗi khái niệm mô tả một chức năng khác nhau.
Truy xuất (Retrieval) là cách đưa thông tin liên quan từ nguồn bên ngoài vào nhiệm vụ hiện tại. Ví dụ, hệ thống có thể tìm kiếm trong bộ sưu tập tài liệu đã được phê duyệt rồi cung cấp một trích đoạn chính sách cho mô hình ngôn ngữ. Cách tiếp cận tổng quát này thường được gọi là Retrieval-Augmented Generation.
Công cụ (Tools) cho phép hệ thống AI tiếp cận thông tin hoặc khả năng nằm ngoài việc tạo văn bản trực tiếp của mô hình. Công cụ có thể trả về một hồ sơ trong cơ sở dữ liệu, tính một giá trị hoặc tìm tài liệu. Kết quả đó có thể trở thành một phần ngữ cảnh cho bước tiếp theo.
Bộ nhớ (Memory) là các cơ chế lưu giữ hoặc truy xuất thông tin qua nhiều lần tương tác. Bộ nhớ khác với cửa sổ ngữ cảnh (Context Window). Cửa sổ ngữ cảnh là thông tin mô hình có thể xem xét trong một yêu cầu hoặc lần tương tác cụ thể; không nên xem nó như bộ nhớ dài hạn, tồn tại vĩnh viễn. Xem Hệ thống bộ nhớ AI để tìm hiểu riêng về chủ đề này.
Ví dụ, trợ lý có thể truy xuất chính sách công tác hiện hành để trả lời một câu hỏi. Điều đó không có nghĩa trợ lý sẽ nhớ chính sách này trong cuộc trò chuyện sau. Việc thông tin có được lưu giữ hay không phụ thuộc vào thiết kế hệ thống và chính sách của nhà cung cấp.
Khi làm việc với tệp hoặc dữ liệu nơi làm việc, hãy kiểm tra cách công cụ xử lý dữ liệu. Việc dùng dữ liệu để huấn luyện mô hình và việc lưu giữ dữ liệu là hai vấn đề riêng: nhà cung cấp có thể tuyên bố nội dung người dùng không được dùng để huấn luyện mô hình nhưng vẫn lưu nhật ký trong một khoảng thời gian được nêu rõ; hoặc chính sách có thể khác nhau tùy loại tài khoản. Không tải lên mật khẩu, khóa API, hợp đồng bảo mật, dữ liệu cá nhân hoặc thông tin nhạy cảm của khách hàng, trừ khi tổ chức và công cụ cụ thể cho phép.
Context Engineering có chỉ dành cho nhà phát triển không?
Không. Người dùng không chuyên về kỹ thuật vẫn có thể áp dụng Context Engineering bằng cách lựa chọn và sắp xếp thông tin AI nên sử dụng; nhà phát triển có thể tự động hóa quy trình này trong các hệ thống phức tạp hơn.
Người học có thể cung cấp một đoạn văn, nêu trình độ và giải thích kết quả mong muốn. Nhân viên có thể đính kèm ghi chú đã được phê duyệt, xác định đối tượng đọc và nêu định dạng cần thiết. Cả hai đều đang lựa chọn và sắp xếp ngữ cảnh cho AI.
Việc một hành động cá nhân có chính thức được gọi là “Context Engineering” hay không có thể tùy vào hệ thống và cách sử dụng thuật ngữ. Dù vậy, nguyên tắc thực tế vẫn giống nhau: cung cấp tài liệu liên quan, giải thích nhiệm vụ và nêu trực tiếp những chi tiết quan trọng thay vì để AI tự suy đoán.
Điều này đặc biệt hữu ích trong các hệ thống nhiều bước, nơi mô hình nhận thông tin từ nhiều nguồn hoặc sử dụng công cụ trong quá trình thực hiện nhiệm vụ. IBM lưu ý Context Engineering đặc biệt phù hợp với các hệ thống tác nhân (agentic systems) và những nhiệm vụ khác trong đó ngữ cảnh có thể được đọc và cập nhật qua nhiều bước (IBM).
Context Engineering có những giới hạn nào?
Context Engineering không bảo đảm phản hồi chính xác hoặc đầy đủ, ngay cả khi ngữ cảnh được thiết kế tốt. Thông tin cung cấp có thể sai, lỗi thời, thiếu sót hoặc mơ hồ. Mô hình cũng có thể hiểu nhầm nhiệm vụ hoặc đưa ra câu trả lời nghe có vẻ hợp lý nhưng không được nguồn hỗ trợ.
Ví dụ, một tài liệu chính sách được sắp xếp rõ ràng vẫn có thể đã lỗi thời. Nếu AI dùng tài liệu đó để trả lời, phản hồi có thể được viết tốt nhưng không phù hợp với cách làm hiện tại. Vẫn cần kiểm tra ngày ban hành, thẩm quyền và phạm vi áp dụng của tài liệu.
Context Engineering cũng không loại bỏ nhu cầu phán đoán của con người trong công việc quan trọng. Hãy đối chiếu nội dung liên quan đến pháp lý, tài chính, y tế, việc làm, bảo mật và giao tiếp với khách hàng với các nguồn đáng tin cậy cũng như quy trình phù hợp của tổ chức.
Kỳ vọng thực tế nên ở mức vừa phải: ngữ cảnh tốt cung cấp cho AI cơ sở tốt hơn để thực hiện nhiệm vụ, nhưng không biến đầu ra thành sự thật đã được xác minh.
Danh sách kiểm tra Context Engineering đơn giản
Trước khi giao nhiệm vụ cho hệ thống AI, hãy dùng danh sách kiểm tra sau:
1. Làm rõ nhiệm vụ. AI cần tạo ra nội dung gì, cho ai và theo định dạng nào?
2. Cung cấp chỉ dẫn liên quan. Nêu giọng điệu, độ dài, phạm vi và những ràng buộc cần thiết.
3. Thêm tài liệu nguồn đáng tin cậy. Đưa vào ghi chú, tài liệu, dữ liệu hoặc đoạn văn hiện hành mà nhiệm vụ dựa trên đó.
4. Loại bỏ tài liệu không liên quan. Bỏ thông tin trùng lặp, lỗi thời, không liên quan hoặc chưa được phê duyệt.
5. Nêu rõ điều chưa chắc chắn. Cho hệ thống biết không nên tự giả định điều gì và thông tin có thể còn thiếu ở đâu.
6. Rà soát kết quả. Kiểm tra các nhận định quan trọng dựa trên tài liệu nguồn và yêu cầu của nhiệm vụ.
7. Bảo vệ dữ liệu nhạy cảm. Trước khi chia sẻ thông tin cá nhân, bảo mật hoặc độc quyền, hãy làm theo chính sách của tổ chức và điều khoản hiện hành của nhà cung cấp AI.
Ví dụ, khi yêu cầu tóm tắt cuộc họp với khách hàng, hãy cung cấp ghi chú đã được phê duyệt, nêu đối tượng đọc và định dạng, loại bỏ bản nháp không liên quan, rồi đối chiếu bản tóm tắt cuối cùng với ghi chú trước khi chia sẻ.
Tóm tắt Context Engineering trong một câu
Context Engineering là việc cân nhắc thông tin mà hệ thống AI có thể sử dụng cho một nhiệm vụ và cách sắp xếp thông tin đó. Prompt được viết tốt là một phần của công việc này; tài liệu, chỉ dẫn, lịch sử và kết quả từ công cụ liên quan cũng có thể quan trọng không kém.
Trước khi thêm nhiều từ hơn vào yêu cầu, hãy hỏi: AI cần biết gì, và nên bỏ qua thông tin nào? Sau đó, đối chiếu kết quả với các nguồn đáng tin cậy.