Trong mùa tuyển sinh, học sinh và phụ huynh thường cần tìm hiểu cùng lúc nhiều thông tin như ngành học, điều kiện đầu vào, học phí hay học bổng. Khi lượng câu hỏi tăng lên, bài toán đặt ra không đơn thuần là phản hồi nhanh, mà còn phải bảo đảm câu trả lời bám sát nguồn dữ liệu và hạn chế tình trạng AI tạo ra thông tin không chính xác.
Từ thực tế đó, nhóm Hoàng Minh Thống, Trần Thành Tiến, Nguyễn Quang Vinh, Nguyễn Quốc Bảo và Nguyễn Lê Hoàng Dũng, dưới sự hướng dẫn của ThS. Nguyễn Trọng Hoàng, lựa chọn xây dựng một hệ thống tư vấn tuyển sinh ứng dụng AI.
Mục tiêu của nhóm là thử nghiệm khả năng tự động xử lý một phần câu hỏi thường gặp, đồng thời kiểm soát nguồn thông tin mà mô hình AI sử dụng để tạo phản hồi.
Để AI trả lời đúng, trước hết phải giải bài toán dữ liệu
Một trong những vấn đề đầu tiên nhóm phải xử lý là xác định AI sẽ sử dụng nguồn thông tin nào để trả lời người dùng.
Từ một nguồn dữ liệu tuyển sinh công khai được lựa chọn cho mô hình thử nghiệm, nhóm xây dựng công cụ tự động thu thập các nội dung liên quan đến chương trình đào tạo, điều kiện đầu vào, học phí và học bổng. Dữ liệu sau đó được làm sạch, chuẩn hóa và lưu dưới dạng JSON có cấu trúc.
Điểm đáng chú ý nằm ở cách nhóm kiểm soát dữ liệu đầu vào cho mô hình. AI không được để tự do tạo câu trả lời hoàn toàn dựa trên kiến thức có sẵn. Mỗi khi người dùng đặt câu hỏi, hệ thống cung cấp nguồn dữ liệu đã được thu thập và xử lý làm ngữ cảnh để mô hình căn cứ vào đó đưa ra phản hồi.
Qua cách tiếp cận này, sinh viên phải giải quyết một vấn đề quan trọng khi phát triển các hệ thống hỏi đáp bằng AI: làm thế nào để câu trả lời bám sát nguồn thông tin được xác định trước.
Khi dữ liệu tuyển sinh thay đổi, quy trình thu thập có thể được chạy lại để cập nhật nội dung mà không cần huấn luyện lại toàn bộ mô hình AI.
Nhóm cũng lựa chọn một cách tổ chức dữ liệu riêng cho phiên bản thử nghiệm. Thay vì sử dụng Vector Database hay chia dữ liệu thành nhiều đoạn nhỏ để truy xuất riêng lẻ, toàn bộ dữ liệu JSON được đưa trực tiếp vào ngữ cảnh của mô hình ngôn ngữ. Nhờ đó, AI có thể đồng thời đối chiếu nhiều trường thông tin khi xử lý những câu hỏi cần tổng hợp dữ liệu.
Đằng sau một câu hỏi được nhập trên giao diện chat là chuỗi xử lý liên tiếp gồm thu thập dữ liệu – làm sạch và chuẩn hóa – tiếp nhận câu hỏi – kết nối mô hình AI – tạo và trả kết quả.
Khi một mô hình AI gặp lỗi, hệ thống tự tìm tuyến xử lý khác
Xây dựng được chatbot có thể trả lời câu hỏi mới chỉ giải quyết một phần bài toán. Nhóm tiếp tục đặt ra tình huống gần hơn với quá trình vận hành thực tế: Điều gì xảy ra nếu dịch vụ AI đang sử dụng đột ngột không thể phản hồi?
Để xử lý tình huống này, nhóm thiết kế kiến trúc gồm tuyến AI chính và một tuyến dự phòng.
Gemini API được sử dụng làm mô hình xử lý chính. FastAPI đóng vai trò tiếp nhận yêu cầu từ người dùng, kết hợp câu hỏi với dữ liệu đã chuẩn bị và chuyển đến mô hình AI.
Tuy nhiên, dịch vụ AI có thể gặp các tình huống như vượt giới hạn truy cập, lỗi máy chủ hoặc quá thời gian kết nối. Vì vậy, nhóm tích hợp thêm OpenRouter API làm tuyến xử lý dự phòng.
Khi Gemini phát sinh lỗi, hệ thống có khả năng nhận diện sự cố và tự động chuyển yêu cầu sang OpenRouter để tiếp tục xử lý. Quá trình này diễn ra ở phía hệ thống, hạn chế việc gián đoạn trải nghiệm của người sử dụng.
Để kiểm tra cơ chế trên, nhóm chủ động tạo lỗi ở tuyến AI chính và theo dõi khả năng chuyển đổi sang tuyến dự phòng. Theo báo cáo dự án, 100% yêu cầu gặp lỗi tại tuyến chính trong bài kiểm thử được chuyển sang tuyến dự phòng, với thời gian chuyển đổi trung bình khoảng 180 mili giây.
Nếu cả hai tuyến AI đều không thể xử lý yêu cầu, hệ thống còn được thiết kế để hướng người dùng tới kênh tư vấn trực tiếp. Các sự kiện lỗi và dữ liệu liên quan được lưu trên Neon DB – cơ sở dữ liệu PostgreSQL trên nền tảng đám mây, phục vụ quá trình theo dõi và đánh giá hoạt động.
Qua đó, yêu cầu mà sinh viên phải giải quyết được mở rộng từ “làm sao để AI trả lời được?” sang một câu hỏi khó hơn: “làm sao để một hệ thống ứng dụng AI vẫn có thể duy trì hoạt động khi một thành phần gặp sự cố?”
Kiểm thử bằng 200 câu hỏi thay vì dừng ở một bản demo
Sau khi hoàn thiện các thành phần chính, nhóm tiếp tục xây dựng bộ kiểm thử gồm 200 câu hỏi tuyển sinh để đánh giá hệ thống trong nhiều tình huống khác nhau.
Bộ câu hỏi được chia thành ba nhóm, gồm câu hỏi thông tin cơ bản, câu hỏi tư vấn có yếu tố cá nhân hóa và những câu hỏi ngoài phạm vi nhằm kiểm tra khả năng AI tạo ra thông tin không có trong nguồn dữ liệu.
Theo báo cáo của nhóm, trong phạm vi môi trường kiểm thử, hệ thống ghi nhận:
- 81,2% câu hỏi có thể được xử lý tự động;
- 98% độ chính xác thông tin;
- 0,5% tỷ lệ thông tin không chính xác do AI tạo ra;
- thời gian phản hồi trung bình khoảng 3–9 giây;
- mức duy trì hoạt động đạt 99,8% trong quá trình thử nghiệm.
Những con số trên phản ánh kết quả trong phạm vi bộ dữ liệu và điều kiện kiểm thử của dự án. Giá trị đáng chú ý hơn nằm ở việc sinh viên không dừng lại sau khi sản phẩm “có thể chạy”, mà tiếp tục xây dựng các tiêu chí để đánh giá độ chính xác, khả năng tự động hóa, thời gian phản hồi và mức độ ổn định của hệ thống.
Đằng sau một giao diện chatbot tương đối quen thuộc là nhiều lớp kiến thức phải được kết nối cùng lúc. Sinh viên tham gia từ xử lý dữ liệu, phát triển backend, tích hợp API và mô hình AI đến xây dựng cơ chế dự phòng, lưu trữ dữ liệu, thiết kế giao diện và kiểm thử sản phẩm.
Đây cũng là cách học phần Advanced Computer Programming tại Asia University Program đưa kiến thức lập trình vào một bài toán có dữ liệu, người dùng và yêu cầu vận hành cụ thể.
Thông qua dự án, sinh viên trải nghiệm các bước của quá trình phát triển một sản phẩm công nghệ ở quy mô thử nghiệm: xác định vấn đề, tổ chức dữ liệu, thiết kế kiến trúc, lựa chọn công nghệ, tích hợp hệ thống, kiểm thử và đánh giá hiệu quả.
Từ một bài toán tư vấn tuyển sinh, nhóm sinh viên đã phải đi xa hơn việc “tạo một chatbot bằng AI”. Điều các bạn thực hành là tư duy xây dựng một hệ thống có nguồn dữ liệu được kiểm soát, có phương án xử lý sự cố và có tiêu chí để kiểm chứng hiệu quả – những yêu cầu ngày càng quan trọng khi AI được đưa từ mô hình thử nghiệm vào các sản phẩm phục vụ người dùng thực tế.
