LLM tiếng Việt: cách chọn mô hình ngôn ngữ lớn cho doanh nghiệp

Trả lời nhanh: chọn LLM tiếng Việt thế nào?

Không có một mô hình "tốt nhất cho tiếng Việt" dùng được cho mọi doanh nghiệp. Cách chọn đáng tin cậy là: xác định rõ tác vụ, lọc ứng viên theo ràng buộc cứng (dữ liệu được phép đi đâu, giấy phép, ngân sách hạ tầng), rồi chấm điểm vài mô hình trên chính bộ câu hỏi tiếng Việt của bạn trước khi quyết định.

Bảng xếp hạng công khai như VMLU là điểm khởi đầu tốt, nhưng điểm số thay đổi theo phiên bản mô hình, cách viết prompt và không phản ánh dữ liệu nội bộ của bạn. Bài viết này gồm bảng tiêu chí, so sánh API với tự triển khai, các mô hình và bộ đánh giá tiếng Việt có công bố khoa học, cách tự xây bộ kiểm thử và lưu ý theo Luật 91/2025/QH15.

Vì sao tiếng Việt cần đánh giá riêng

Phần lớn dữ liệu huấn luyện của các LLM phổ biến là tiếng Anh. Nhóm tác giả SeaLLMs mô tả các mô hình lớn vẫn thiên lệch về ngôn ngữ nhiều tài nguyên, và họ phải tiếp tục huấn luyện với bộ từ vựng mở rộng để xử lý tốt hơn các ngôn ngữ Đông Nam Á, trong đó có tiếng Việt.

Trong thực tế, điều này lộ ra ở những lỗi cụ thể: sai hoặc mất dấu, dùng từ Hán Việt gượng gạo, xưng hô sai ngữ cảnh (anh/chị/em, quý khách), hiểu sai thuật ngữ pháp lý, kế toán Việt Nam, hoặc câu văn mang giọng dịch máy. Tokenizer tối ưu cho tiếng Anh cũng có thể tách từ tiếng Việt thành nhiều token hơn, làm tăng chi phí và giảm độ dài ngữ cảnh thực tế. Vì vậy hãy đo trực tiếp trên văn bản tiếng Việt của bạn.

Bảng tiêu chí chọn LLM cho tiếng Việt

Dùng bảng dưới đây như một checklist. Mỗi tiêu chí nên có cách kiểm tra cụ thể, không chỉ dựa vào mô tả của nhà cung cấp.

Dùng API hay tự triển khai mô hình mở?

Đây thường là quyết định ảnh hưởng nhiều nhất đến chi phí, rủi ro dữ liệu và tốc độ triển khai. Hai hướng không loại trừ nhau: nhiều hệ thống dùng API cho tác vụ khó và mô hình mở cho tác vụ đơn giản hoặc dữ liệu nhạy cảm.

Mô hình và bộ đánh giá tiếng Việt có tài liệu khoa học

Phần này chỉ liệt kê những gì đã được công bố trong bài báo hoặc báo cáo kỹ thuật mà chúng tôi đã đọc. Đây không phải bảng xếp hạng; hãy coi đây là danh sách ứng viên và công cụ để bạn tự kiểm tra.

Tự xây bộ đánh giá tiếng Việt cho doanh nghiệp

Bộ đánh giá riêng là tài sản giá trị nhất khi chọn và thay mô hình. Một bộ 100–300 câu được chọn kỹ thường hữu ích hơn nhiều so với điểm benchmark chung. Quy trình gợi ý:

• Bước 1 — Liệt kê tác vụ thật: trả lời câu hỏi khách hàng, tóm tắt hợp đồng, trích xuất hóa đơn, phân loại phản hồi, soạn nội dung… Mỗi tác vụ một nhóm câu hỏi.
• Bước 2 — Lấy mẫu từ dữ liệu thật, đã khử nhận dạng: xóa hoặc thay tên, số điện thoại, số giấy tờ trước khi đưa vào bộ kiểm thử, nhất là khi sẽ gửi qua API bên ngoài.
• Bước 3 — Viết đáp án chuẩn và rubric: chuyên gia nghiệp vụ duyệt đáp án; rubric chấm riêng độ đúng nội dung, tiếng Việt tự nhiên, đúng định dạng, và việc mô hình biết nói "không có thông tin" khi tài liệu không trả lời.
• Bước 4 — Thêm câu khó: câu không dấu, viết tắt, phương ngữ, câu hỏi mập mờ, câu cố tình gài bẫy (prompt injection) nếu hệ thống đọc tài liệu từ bên ngoài.
• Bước 5 — Cố định điều kiện thử: cùng prompt, cùng nhiệt độ, cùng ngữ cảnh RAG cho mọi mô hình; ghi lại phiên bản mô hình và ngày thử.
• Bước 6 — Chấm kết hợp: chấm tự động (so khớp, kiểm tra JSON, LLM làm giám khảo) để lọc nhanh, nhưng luôn có người chấm một mẫu. Bài báo VMLU gợi ý mô hình mở có thể làm giám khảo với chi phí thấp; vẫn nên kiểm tra độ khớp với người chấm.
• Bước 7 — Chạy lại định kỳ: mỗi khi đổi mô hình, đổi prompt hoặc nhà cung cấp cập nhật phiên bản.

Dữ liệu cá nhân và Luật 91/2025/QH15 khi dùng LLM

Luật Bảo vệ dữ liệu cá nhân số 91/2025/QH15 có hiệu lực từ ngày 01/01/2026. Nếu prompt, tài liệu RAG hoặc nhật ký hội thoại có chứa dữ liệu cá nhân, việc chọn mô hình gắn trực tiếp với nghĩa vụ pháp lý.

Điều 20 khoản 1 điểm c coi việc sử dụng nền tảng ở ngoài lãnh thổ Việt Nam để xử lý dữ liệu cá nhân thu thập tại Việt Nam là chuyển dữ liệu cá nhân xuyên biên giới. Khoản 2 yêu cầu lập hồ sơ đánh giá tác động chuyển dữ liệu xuyên biên giới và gửi cơ quan chuyên trách trong 60 ngày kể từ lần chuyển đầu tiên, trừ các trường hợp tại khoản 6. Vì vậy, gọi API LLM đặt ở nước ngoài với dữ liệu cá nhân của khách hàng cần được đánh giá trước.

Điều 30 quy định riêng cho trí tuệ nhân tạo và điện toán đám mây: xử lý đúng mục đích, trong phạm vi cần thiết (khoản 1); tích hợp biện pháp bảo mật, xác thực và phân quyền truy cập (khoản 3); xử lý dữ liệu cá nhân bằng AI phải phân loại theo mức độ rủi ro (khoản 4). Theo khoản 4 Điều 8, mức phạt tối đa với tổ chức vi phạm quy định chuyển dữ liệu cá nhân xuyên biên giới là 5% doanh thu năm trước liền kề.

• Phân loại dữ liệu trước khi đưa vào LLM; loại bỏ hoặc che dữ liệu cá nhân khi tác vụ không cần đến.
• Ghi rõ trong hồ sơ: mô hình nào, nhà cung cấp nào, dữ liệu xử lý ở đâu, lưu bao lâu, có được dùng để huấn luyện không.
• Ưu tiên mô hình tự triển khai hoặc vùng xử lý phù hợp cho dữ liệu nhạy cảm, sau khi đã được tư vấn pháp lý.
• Xem thêm checklist chi tiết tại bài Luật Bảo vệ dữ liệu cá nhân 2025 cho hệ thống AI và SaaS và nguyên tắc quản trị dữ liệu.

Quy trình chọn mô hình gợi ý cho doanh nghiệp

Với trợ lý tri thức nội bộ, chất lượng thường phụ thuộc vào phần truy xuất tài liệu nhiều như vào bản thân mô hình; xem thêm RAG là gì. Nếu bạn cần một nhóm cùng thiết kế bộ đánh giá và thử nghiệm mô hình, tham khảo dịch vụ R&D AI ứng dụng của EYC.

• Viết một trang mô tả bài toán: người dùng, tác vụ, khối lượng, yêu cầu độ trễ, loại dữ liệu.
• Lọc theo ràng buộc cứng: dữ liệu được phép xử lý ở đâu, giấy phép, ngân sách hạ tầng.
• Chọn 3–5 ứng viên gồm cả API và mô hình mở; tham khảo VMLU, SEA-HELM để có danh sách ban đầu.
• Chạy bộ đánh giá riêng; đo thêm độ trễ và số token trên văn bản tiếng Việt thật.
• Thử nghiệm có kiểm soát với người dùng thật, có người duyệt ở các bước quan trọng (human-in-the-loop).
• Thiết kế để có thể thay mô hình: tách lớp gọi mô hình, giữ bộ đánh giá, theo dõi chi phí API.