Chèn lệnh ẩn (prompt injection): rủi ro khi để AI đọc email và trang web thay bạn
Chèn lệnh ẩn là khi chữ giấu trong email, trang web hay tệp đính kèm lái trợ lý AI làm việc bạn không giao. Cơ chế, chỗ hay gặp và cách dùng AI an toàn hơn.
Rủi ro của chính hệ AI
Những điểm yếu riêng của AI: chèn lệnh ẩn (prompt injection) qua email/trang web, chatbot của doanh nghiệp lộ dữ liệu, ảo giác (bịa) trong lời khuyên bảo mật, tác tử AI tự thao tác có quyền quá rộng, mô hình/plugin không rõ nguồn, dữ liệu huấn luyện bị đầu độc — góc người dùng và chủ doanh nghiệp cần biết.
Chatbot bán hàng lộ dữ liệu khách: những đường rò hay gặp và cách bịt cho shop nhỏ
Chatbot trả lời khách trên fanpage, website có thể để lộ đơn hàng, số điện thoại, giá vốn. Các đường rò hay gặp và cách cấu hình để chatbot chỉ nói điều nên nói
AI bịa trong lời khuyên bảo mật: khi nào không nên làm theo chatbot
Chatbot có thể trả lời tự tin nhưng sai về cài đặt bảo mật, kênh báo cáo hay cách xử lý sự cố. Nhận ra lời khuyên bịa và cách kiểm trước khi làm theo.
Cấp quyền cho tác tử AI: nguyên tắc quyền tối thiểu để AI tự làm mà không gây hoạ
Tác tử AI tự đọc thư, đặt lịch, sửa tệp, mua hàng thay bạn. Cấp quyền rộng là rủi ro lớn. Cách chia mức quyền, đặt chốt duyệt và theo dõi việc AI đã làm.
Mô hình AI và plugin không rõ nguồn gốc: rủi ro chuỗi cung ứng doanh nghiệp ít để ý
Tải mô hình AI về máy, cài plugin, dùng trợ lý tuỳ chỉnh của bên thứ ba đều là nhận thêm một mắt xích lạ. Cách đánh giá nguồn gốc trước khi đưa vào công ty.
Đầu độc dữ liệu AI: khi chatbot học nhầm nguồn bị cài bẫy và cách giữ dữ liệu sạch
Đầu độc dữ liệu là cài thông tin sai vào nguồn AI học hoặc tra cứu để nó trả lời theo ý kẻ xấu. Các tầng bị đầu độc và cách doanh nghiệp giữ dữ liệu sạch.
Website, ứng dụng do AI viết mã: lỗ hổng hay gặp và cách chủ shop nghiệm thu
AI viết được trang đặt lịch, trang bán hàng chạy ngay, nhưng chạy được chưa chắc an toàn. Lỗ hổng hay gặp trong mã do AI viết và câu hỏi nghiệm thu cho chủ shop
Trợ lý AI nội bộ đọc tài liệu công ty: rủi ro phân quyền sai và cách thiết lập
Trợ lý AI tìm kiếm trong ổ tài liệu công ty có thể trả lời nhân viên bằng bảng lương hay hồ sơ nhân sự. Cách dọn quyền chia sẻ và thiết lập trước khi bật.
Đánh giá rủi ro trước khi triển khai AI: sổ rủi ro một trang cho doanh nghiệp nhỏ
Trước khi đưa chatbot, trợ lý hay công cụ AI vào kinh doanh, năm câu hỏi và một trang ghi chép giúp bạn thấy rủi ro, chọn biện pháp và biết khi nào chưa nên làm
Phụ thuộc một dịch vụ AI: rủi ro gián đoạn, khoá tài khoản và cách dự phòng
Khi chatbot, trợ lý AI gánh việc hằng ngày, một lần dịch vụ sập hay tài khoản bị khoá là cả quy trình đứng. Cách đo mức phụ thuộc và lập phương án dự phòng.
Bạn cần hỗ trợ thêm?
Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.