Cửa sổ ngữ cảnh là gì? Vì sao AI “quên” đầu cuộc trò chuyện

Bạn từng trò chuyện thật dài với AI rồi thấy nó "quên" điều đã dặn từ đầu? Nguyên nhân thường nằm ở cửa sổ ngữ cảnh. Đọc xong bài này, bạn sẽ hiểu cửa sổ ngữ cảnh là gì, chuyện gì xảy ra khi nó đầy, và vài thói quen đơn giản để AI trả lời chính xác hơn trong các cuộc trò chuyện dài.

Hiểu nhanh trong một câu

Cửa sổ ngữ cảnh (context window) là lượng nội dung tối đa, tính bằng token, mà mô hình AI có thể "nhìn" cùng một lúc khi tạo câu trả lời.

Tài liệu của Anthropic gọi đây là "bộ nhớ làm việc" của mô hình, khác với kiến thức nó học được lúc huấn luyện.

Ví dụ đời thường: cái bàn làm việc

Hình dung AI ngồi ở một cái bàn có diện tích cố định. Mọi thứ nó cần để trả lời phải bày được lên bàn:

• hướng dẫn chung của ứng dụng;
• toàn bộ các tin nhắn trước đó trong cuộc trò chuyện;
• tài liệu, hình ảnh bạn gửi kèm;
• và cả câu trả lời nó đang viết.

Bàn đầy thì phải dọn bớt: cất đi giấy tờ cũ, hoặc ghi tóm tắt rồi bỏ bản gốc. Những gì đã bị cất đi, AI không còn "thấy" nữa.

Cửa sổ ngữ cảnh lớn cỡ nào?

Mỗi mô hình, mỗi gói có kích thước khác nhau, và con số thay đổi khá nhanh. Một vài ví dụ theo trang chính thức, kiểm tra ngày 14/10/2026:

"K" nghĩa là nghìn: 128K là khoảng 128.000 token. Nhớ rằng tiếng Việt thường tốn nhiều token hơn tiếng Anh, nên cùng một cửa sổ sẽ chứa được ít trang tiếng Việt hơn.

Khi cửa sổ đầy thì chuyện gì xảy ra?

Tuỳ ứng dụng mà cách xử lý khác nhau. Thường gặp:

• Báo lỗi hoặc không nhận tiếp khi một lần gửi quá dài (ví dụ dán một tài liệu khổng lồ).
• Bỏ bớt tin nhắn cũ để có chỗ cho tin nhắn mới.
• Tự tóm tắt phần đầu. Ví dụ, theo trang trợ giúp của Claude, ở gói trả phí có bật chạy mã (code execution), khi cuộc trò chuyện gần chạm giới hạn, Claude tóm tắt các tin nhắn trước để lấy chỗ cho nội dung mới.

Bản tóm tắt thì không đầy đủ như bản gốc. Đó là lúc AI "quên" một chi tiết bạn dặn từ đầu.

Cửa sổ lớn hơn chưa chắc tốt hơn

Nghe thì có vẻ cửa sổ càng to càng tốt, nhưng không hẳn:

• Tài liệu của Anthropic ghi rằng khi số token tăng, độ chính xác và khả năng nhớ lại thông tin có thể giảm, hiện tượng được gọi là context rot (ngữ cảnh "mục" dần). Vì vậy, chọn lọc đưa gì vào quan trọng không kém dung lượng.
• Nghiên cứu Lost in the Middle (Liu và cộng sự, 2023) cho thấy với các mô hình được thử nghiệm khi đó, kết quả thường tốt nhất khi thông tin cần dùng nằm ở đầu hoặc cuối phần nội dung, và giảm rõ khi nó nằm ở giữa.

Đừng nhầm với tính năng "bộ nhớ"

Nhiều ứng dụng có tính năng bộ nhớ (memory): ghi lại vài thông tin về bạn để dùng ở các cuộc trò chuyện sau. Đó là chuyện khác:

Khi bộ nhớ được dùng, những ghi chú đó cũng được đưa vào cửa sổ ngữ cảnh, nên vẫn chiếm chỗ.

5 thói quen giúp AI không "quên"

1. Mỗi việc một cuộc trò chuyện. Đổi chủ đề thì mở cuộc mới, đừng để lịch sử cũ chiếm chỗ.
2. Nhắc lại điều quan trọng. Trò chuyện dài thì thỉnh thoảng nhắc lại yêu cầu chính, hoặc đặt nó ở đầu tin nhắn mới.
3. Tóm tắt rồi đi tiếp. Nhờ AI tóm tắt các quyết định đã chốt, rồi dán bản tóm tắt sang cuộc trò chuyện mới.
4. Chỉ đưa phần liên quan. Cần hỏi chương 3 thì gửi chương 3, không gửi cả cuốn sách.
5. Đặt thông tin then chốt ở đầu hoặc cuối, đừng giấu giữa một đoạn dài.

Nguồn tham khảo

Kiểm tra ngày 14/10/2026.

• Context windows: Anthropic, định nghĩa "bộ nhớ làm việc", những gì được tính và hiện tượng context rot.
• How large is the context window on paid Claude plans?: Anthropic, kích thước cửa sổ trong ứng dụng Claude và việc tự tóm tắt.
• ChatGPT Plans and Pricing: OpenAI, bảng so sánh kích thước ngữ cảnh theo gói.
• Lost in the Middle: How Language Models Use Long Contexts: Liu và cộng sự, 2023.