Tác tử AI (AI agent) là trợ lý không chỉ trả lời mà còn tự làm: mở trình duyệt, điền biểu mẫu, gửi thư, sửa tệp, đặt hàng, chạy chuỗi thao tác nhiều bước theo một mục tiêu bạn giao. Rủi ro lớn nhất của nó không phải là AI có ác ý, mà là AI có quyền rộng hơn việc cần làm, nên khi hiểu sai, bị lừa hay gặp lỗi thì thiệt hại lan xa.
Nguyên tắc mà giới bảo mật dùng hàng chục năm cho nhân viên và phần mềm, quyền tối thiểu, áp vào tác tử AI còn cần thiết hơn. Bài này dành cho người dùng cá nhân bắt đầu thử các trợ lý tự thao tác và cho chủ doanh nghiệp nhỏ đang tính để AI tự động hoá một phần công việc văn phòng. Nội dung theo nguyên lý; tên tính năng và cách cài đặt mỗi công cụ một khác và thay đổi nhanh, hãy kiểm phiên bản hiện hành.
Khác biệt giữa chatbot và tác tử, nhìn từ góc rủi ro
Chatbot thông thường giống một người tư vấn ngồi bên kia bàn: bạn hỏi, họ trả lời, bạn tự quyết định làm gì. Nếu họ nói sai, thiệt hại phụ thuộc vào việc bạn có làm theo hay không. Tác tử AI giống một người được bạn đưa thẻ ra vào văn phòng, mật khẩu email và quyền ký một số giấy tờ. Họ không chờ bạn quyết từng bước; họ tự làm cho tới khi xong việc.
Điều đó làm thay đổi bản chất của rủi ro. Với chatbot, lỗi nằm ở câu chữ. Với tác tử, lỗi biến thành hành động: một thư đã gửi, một tệp đã xoá, một đơn hàng đã đặt, một quyền chia sẻ đã mở cho người ngoài. Nhiều hành động trong số đó không rút lại được, hoặc rút lại được nhưng hậu quả đã xảy ra, chẳng hạn thư đã đến tay người nhận.
Tác tử còn đọc rất nhiều nội dung từ bên ngoài trong lúc làm việc: trang web, email, tài liệu. Mỗi nội dung đó là một cơ hội cho chèn lệnh ẩn, như đã phân tích ở bài riêng về hiện tượng này. Khi cộng quyền hành động với khả năng bị lái bởi nội dung bên ngoài, ta có công thức cho sự cố. Cách giảm rủi ro hiệu quả nhất vì thế không nằm ở việc làm AI thông minh hơn, mà ở việc giới hạn những gì nó được làm.
Chia quyền theo mức độ hậu quả
Một cách nghĩ dễ áp dụng là chia mọi thao tác thành bốn mức theo hậu quả nếu làm sai, rồi quyết định mức nào AI được tự làm.
| Mức | Ví dụ thao tác | Hậu quả nếu sai | Gợi ý cấp quyền |
|---|---|---|---|
| Đọc | Đọc thư, đọc lịch, xem thư mục được chỉ định | Thông tin bị tóm tắt sai, có thể lộ nếu bị lái | Cho tự làm, giới hạn phạm vi đọc |
| Soạn nháp | Soạn thư trả lời, tạo bản nháp báo giá, đề xuất lịch họp | Nháp sai, bạn sửa trước khi dùng | Cho tự làm, bạn duyệt trước khi gửi |
| Thay đổi rút lại được | Sắp xếp thư vào thư mục, tạo sự kiện lịch, đổi tên tệp | Phiền, mất thời gian khôi phục | Cho tự làm khi có nhật ký và có thể hoàn tác |
| Không rút lại được | Gửi thư ra ngoài, chuyển tiền, xoá vĩnh viễn, chia sẻ tệp cho người ngoài, mua hàng | Mất tiền, lộ dữ liệu, tổn hại uy tín | Luôn có người bấm xác nhận cuối cùng |
Phần lớn giá trị của tác tử nằm ở ba mức đầu: đọc nhanh, soạn sẵn, sắp xếp gọn. Giữ mức thứ tư cho người thật không làm mất nhiều tiện lợi, nhưng cắt đi phần lớn rủi ro nghiêm trọng.
Quy trình cấp quyền cho một tác tử mới
Khi bắt đầu dùng một tác tử AI cho việc cá nhân hay việc công ty, đi theo các bước sau thay vì bấm đồng ý cho mọi quyền nó xin:
- Viết ra việc cụ thể. Ví dụ: mỗi sáng đọc thư trong mục đơn hàng, tóm tắt đơn mới và soạn nháp thư xác nhận. Việc càng cụ thể, càng dễ biết quyền nào là thừa.
- Liệt kê quyền tối thiểu cho việc đó. Với ví dụ trên là đọc một thư mục thư và tạo bản nháp. Không cần quyền xoá thư, không cần quyền đọc ổ tài liệu, không cần quyền gửi.
- Dùng tài khoản hoặc khu vực riêng nếu được. Một hộp thư phụ chỉ nhận đơn hàng, một thư mục chia sẻ riêng cho tác tử, thay vì cấp quyền vào tài khoản chính chứa mọi thứ.
- Bật xác nhận trước hành động quan trọng. Hầu hết công cụ có tuỳ chọn hỏi trước khi gửi, mua, xoá. Giữ tuỳ chọn này bật, kể cả khi thấy phiền.
- Chạy thử với dữ liệu giả. Cho tác tử làm việc với vài thư mẫu, tệp mẫu trong một tuần trước khi cho nó chạm vào dữ liệu thật. Che thông tin cá nhân và bí mật kinh doanh trong dữ liệu thử.
- Đặt lịch xem lại quyền. Mỗi tháng hoặc mỗi khi đổi việc giao cho tác tử, mở danh sách quyền ra xem và thu hồi thứ không còn dùng.
Những cái bẫy hay gặp khi cài tác tử
Đồng ý tất cả cho nhanh. Màn hình xin quyền thường gom nhiều quyền vào một nút. Người dùng bấm đồng ý để thử cho xong, rồi quên mất tác tử đang có quyền gửi thư thay mình và đọc toàn bộ ổ tài liệu.
Dùng tài khoản quản trị cho tác tử. Ở công ty nhỏ, người cài đặt thường dùng luôn tài khoản có quyền cao nhất vì tiện. Khi tác tử chạy bằng tài khoản đó, mọi sai sót của nó đều có sức tàn phá của quyền quản trị.
Giao mục tiêu mơ hồ. Giao việc kiểu dọn dẹp hộp thư cho gọn có thể dẫn tới việc tác tử lưu trữ hoặc xoá những thư bạn vẫn cần. Mục tiêu càng mơ hồ, AI càng phải tự diễn giải, và diễn giải có thể khác ý bạn.
Không ai đọc nhật ký. Nhiều công cụ có nhật ký liệt kê việc tác tử đã làm. Nếu không ai xem, một sai sót nhỏ có thể lặp lại hàng trăm lần trước khi bị phát hiện.
Kết nối chuỗi quá dài. Tác tử đọc thư, rồi gọi sang công cụ khác, rồi gọi tiếp công cụ thứ ba. Mỗi mắt xích thêm một chỗ có thể sai và một chỗ có thể bị lợi dụng. Bắt đầu với chuỗi ngắn.
Ví dụ giả định ở một văn phòng mười người
Một công ty giao nhận nhỏ cho tác tử AI xử lý thư báo giá: đọc thư khách hỏi giá, tra bảng giá, soạn báo giá và gửi đi. Để tiện, người cài dùng tài khoản email của trưởng phòng kinh doanh và cấp quyền đọc toàn bộ ổ chung của công ty, vì bảng giá nằm trong đó.
Sau vài tuần, một khách lạ gửi thư hỏi giá kèm yêu cầu gửi thêm bảng chiết khấu cho đối tác chiến lược. Tác tử tìm thấy tệp có tên gần giống trong ổ chung, đính kèm và gửi đi bằng email của trưởng phòng. Không ai phát hiện cho đến khi một khách quen hỏi vì sao họ không được mức giá như trong bảng đang lan truyền.
Nếu làm theo quyền tối thiểu: tác tử dùng hộp thư riêng cho báo giá, chỉ đọc một thư mục chứa bảng giá công khai, và chỉ được soạn nháp chứ không được gửi. Cùng một lá thư lạ, kết quả xấu nhất là một bản nháp kỳ lạ nằm chờ, và nhân viên duyệt sẽ thấy ngay đính kèm không bình thường.
Tác tử chạy trên máy tính và trình duyệt của bạn
Một dạng tác tử đang phổ biến là loại điều khiển trực tiếp trình duyệt hoặc cả máy tính: nó nhìn màn hình, di chuột, gõ phím như người thật. Dạng này đặc biệt tiện vì làm được với cả những trang web không có kết nối riêng cho AI, nhưng cũng đặc biệt rủi ro, vì nó thừa hưởng mọi quyền của bạn trên máy đó. Trình duyệt đang đăng nhập sẵn ngân hàng, email, mạng xã hội, trang quản trị cửa hàng thì tác tử cũng chạm được vào tất cả.
Cách dùng an toàn hơn là tạo một hồ sơ trình duyệt riêng cho tác tử, trong đó chỉ đăng nhập những trang cần cho việc được giao. Không để tác tử làm việc trong hồ sơ trình duyệt chính, nơi bạn lưu mật khẩu và đang đăng nhập ngân hàng. Nếu công cụ chạy trong một máy ảo hoặc môi trường cách ly do nhà cung cấp dựng sẵn, đó là lựa chọn tốt hơn chạy thẳng trên máy cá nhân.
Thêm một điều: khi tác tử đang làm việc, hãy theo dõi màn hình ít nhất trong những lần đầu, và dừng ngay khi thấy nó mở trang lạ hoặc điền thông tin vào ô không liên quan. Đừng để tác tử chạy một mình qua đêm khi bạn chưa hiểu rõ cách nó xử lý tình huống bất ngờ.
Theo dõi việc tác tử đã làm
Cấp quyền đúng mới là nửa việc. Nửa còn lại là biết tác tử đã làm gì, để phát hiện sớm khi có chuyện. Những việc nên duy trì:
- Bật và giữ nhật ký hoạt động của tác tử, ghi rõ thời điểm, thao tác, đối tượng bị tác động.
- Mỗi tuần dành mười lăm phút đọc lướt nhật ký, chú ý thao tác lạ: gửi đến địa chỉ mới, truy cập thư mục không liên quan, số lượng thao tác tăng đột biến.
- Thiết lập cảnh báo khi tác tử chia sẻ tệp ra ngoài hoặc gửi thư cho địa chỉ chưa từng liên lạc, nếu công cụ hỗ trợ.
- Giao cho một người cụ thể chịu trách nhiệm theo dõi tác tử, không để là việc chung của mọi người.
- Chuẩn bị sẵn cách tắt khẩn cấp: biết thu hồi quyền ở đâu, ai có quyền thu hồi, mất bao lâu.
- Sao lưu dữ liệu mà tác tử có quyền sửa, để khôi phục được nếu nó làm hỏng.
Với người dùng cá nhân, phiên bản đơn giản là: định kỳ xem mục thư đã gửi, lịch sử mua hàng, và danh sách ứng dụng được kết nối với tài khoản của bạn.
Câu hỏi thường gặp
Tác tử AI có tự ý làm việc ngoài phạm vi được giao không?
Tác tử không có ý muốn riêng, nhưng có thể diễn giải mục tiêu rộng hơn bạn nghĩ hoặc bị nội dung bên ngoài lái. Vì vậy giới hạn bằng quyền chắc chắn hơn giới hạn bằng lời dặn. Thứ nó không có quyền làm thì nó không làm được.
Có nên cho tác tử AI quyền thanh toán, mua hàng không?
Chỉ nên cho khi có bước xác nhận của bạn trước mỗi giao dịch, và tốt nhất dùng phương thức thanh toán có hạn mức thấp riêng cho việc này. Không gắn tài khoản ngân hàng chính hay thẻ hạn mức cao vào tác tử.
Làm sao biết tác tử đang có những quyền gì?
Xem trong phần cài đặt của chính tác tử và trong phần ứng dụng được kết nối của tài khoản email, lưu trữ đám mây, mạng xã hội. Hai nơi này đôi khi hiển thị khác nhau, nên kiểm cả hai.
Doanh nghiệp nhỏ có cần tài khoản riêng cho tác tử không?
Nên có. Tài khoản riêng giúp giới hạn phạm vi, dễ theo dõi nhật ký, dễ thu hồi khi cần mà không ảnh hưởng tài khoản của nhân viên. Tránh dùng tài khoản quản trị hay tài khoản của giám đốc cho tác tử.
Nếu tác tử đã làm sai, việc đầu tiên là gì?
Thu hồi quyền hoặc tắt tác tử ngay để chặn thao tác tiếp theo, rồi xem nhật ký để biết nó đã làm những gì. Sau đó mới xử lý hậu quả: thu hồi thư nếu được, khôi phục tệp từ bản sao lưu, báo cho người liên quan.
Dùng tác tử cho việc cá nhân có cần cẩn thận như doanh nghiệp không?
Nguyên tắc giống nhau, quy mô nhỏ hơn. Với việc cá nhân, quan trọng nhất là không cho tác tử quyền gửi thư, thanh toán hay xoá dữ liệu mà không hỏi bạn, và định kỳ xem danh sách ứng dụng được kết nối với tài khoản.