Chương trình có sự đồng hành của ISC2 Vietnam Chapter và Themis Labs, với phần chia sẻ chuyên môn từ Tiến sĩ Nguyễn Đức Cường – Nhà sáng lập Themis Labs, Tiến sĩ chuyên ngành An ninh Thông tin và ông Robert Leyba – Phó Chủ tịch ISC2 Vietnam Chapter.
Khi AI Agent đặt ra những bài toán bảo mật mới
Khác với những hệ thống AI chủ yếu tạo hoặc phản hồi nội dung, AI Agent có thể được kết nối với dữ liệu, công cụ và những chức năng cho phép hệ thống thực hiện hành động theo yêu cầu. Khả năng này mở rộng phạm vi ứng dụng của AI, đồng thời khiến việc kiểm soát quyền truy cập và hành vi của hệ thống trở nên quan trọng hơn.
Tại workshop, sinh viên được các diễn giả phân tích những rủi ro có thể xuất hiện khi AI Agent truy cập web, thực thi mã hoặc xử lý các yêu cầu thiếu an toàn. Qua những tình huống cụ thể, người học có cơ hội nhìn bảo mật AI như một bài toán tổng thể, thay vì chỉ tập trung vào bản thân mô hình.
Một AI Agent an toàn vì thế cần được xem xét trên nhiều lớp: cách hệ thống tiếp nhận yêu cầu, những công cụ được phép sử dụng, phạm vi quyền truy cập và khả năng phát hiện các hành động bất thường. Đây cũng là những vấn đề ngày càng được quan tâm khi AI chuyển từ vai trò hỗ trợ thông tin sang thực hiện những chuỗi tác vụ phức tạp hơn.
Nhìn một hệ thống từ cả phía tấn công và phòng thủ
Một trong những nội dung trọng tâm của workshop là tư duy Red Team – Blue Team trong an ninh mạng.
Nếu Red Team đặt mình vào vị trí của bên tấn công để kiểm thử hệ thống, tìm kiếm điểm yếu và mô phỏng cách lỗ hổng có thể bị khai thác, Blue Team tập trung vào phát hiện nguy cơ, giám sát hệ thống và xây dựng những lớp phòng thủ phù hợp.
Việc tiếp cận đồng thời hai góc nhìn giúp sinh viên hiểu rằng bảo mật không bắt đầu khi một cuộc tấn công đã xảy ra. Người phát triển hệ thống cần chủ động đặt câu hỏi: hệ thống có thể bị khai thác ở đâu, hậu quả của một lỗ hổng có thể đi xa đến mức nào và đâu là cơ chế cần có để giới hạn rủi ro?
Với AI Agent, cách tư duy này càng có ý nghĩa khi một hành động của hệ thống có thể kéo theo nhiều bước xử lý liên tiếp. Thay vì chỉ quan tâm AI có thể “làm được gì”, người phát triển còn cần xác định rõ AI được phép làm gì và trong giới hạn nào.
Kiểm chứng kiến thức qua những tình huống tương tác
Bên cạnh phần chia sẻ chuyên môn, sinh viên Asia University Program còn tham gia hoạt động quiz tương tác xoay quanh AI và an ninh mạng. Các câu hỏi được đưa ra ngay trong chương trình giúp người học kiểm tra mức độ nắm bắt kiến thức, đồng thời phản xạ trước những tình huống liên quan đến bảo mật hệ thống.
Không khí trao đổi trực tiếp giúp những khái niệm kỹ thuật trở nên dễ tiếp cận hơn. Thay vì chỉ nghe về các nguy cơ trên lý thuyết, sinh viên được đặt vào tình huống cần phân tích, lựa chọn và lý giải cách xử lý phù hợp.
Qua đó, workshop cũng gợi mở một cách học công nghệ chủ động hơn: hiểu cách hệ thống hoạt động, đồng thời luôn đặt câu hỏi về những điểm yếu và hệ quả có thể xuất hiện khi công nghệ được đưa vào sử dụng thực tế.
Mở rộng cách nhìn về việc học AI
Sự phát triển của AI đang tạo ra nhu cầu ngày càng lớn đối với những người có khả năng xây dựng và ứng dụng công nghệ. Tuy nhiên, cùng với năng lực phát triển hệ thống, hiểu biết về an toàn thông tin và quản trị rủi ro cũng trở thành một phần quan trọng trong cách người học tiếp cận AI.
Với sinh viên quan tâm đến Trí tuệ nhân tạo, an ninh mạng và các lĩnh vực công nghệ liên quan, những chủ đề như bảo mật AI Agent giúp mở rộng góc nhìn vượt ra ngoài câu chuyện thuật toán hay khả năng của mô hình. Người học cần hiểu cả cách một sản phẩm công nghệ được vận hành, bảo vệ và kiểm soát khi đi vào môi trường thực tế.
Workshop “Hack the Agent” tiếp tục mở rộng chuỗi hoạt động học thuật giúp sinh viên Asia University Program tiếp cận những vấn đề đang được đặt ra cùng sự phát triển của công nghệ. Qua việc quan sát một hệ thống từ cả góc nhìn xây dựng, tấn công và phòng thủ, sinh viên có thêm nền tảng để tiếp cận AI một cách toàn diện hơn, trong đó an toàn và độ tin cậy là những yếu tố cần được tính đến ngay từ quá trình phát triển hệ thống.
Thiên Hương
