Bề mặt tấn công mới

AI tạo sinh mở ra những bề mặt tấn công mà các hệ thống truyền thống không có. Kẻ tấn công không cần phá vỡ tường lửa — đôi khi chỉ cần một dòng chữ khéo léo trong nội dung mà AI đọc được.

Ba vector đáng chú ý:

  • Prompt injection: chèn chỉ dẫn độc hại vào văn bản, email hay trang web mà AI sẽ xử lý.
  • Rò rỉ qua RAG: hệ thống truy xuất có thể vô tình trả về tài liệu nội bộ nhạy cảm nếu phân quyền không chặt.
  • Đầu độc dữ liệu: chèn dữ liệu sai lệch vào nguồn mà mô hình học từ đó.

Phòng thủ theo lớp

Không có biện pháp đơn lẻ nào đủ. Cách làm hiệu quả là xếp lớp: lọc đầu vào, phân quyền chặt cho nguồn dữ liệu, kiểm tra đầu ra trước khi hiển thị, và ghi nhật ký đầy đủ để truy vết khi có sự cố.

Nguyên tắc quan trọng nhất: coi mọi nội dung từ bên ngoài như dữ liệu, không bao giờ như chỉ dẫn. AI chỉ nên nhận chỉ dẫn từ hệ thống và từ người dùng đã xác thực.

Kết luận

Bảo mật AI không phải tính năng thêm sau, mà là một phần của kiến trúc. Đội nào thiết kế an toàn từ đầu sẽ tốn ít chi phí hơn nhiều so với đội phải vá lỗi sau khi sự cố xảy ra.