Mỗi mô hình AI tải về máy, mỗi plugin hay kết nối gắn thêm vào chatbot, mỗi trợ lý tuỳ chỉnh do người khác tạo đều là một mắt xích mà bạn không viết ra nhưng phải tin. Nếu mắt xích đó do người xấu làm hoặc bị chỉnh sửa, nó có thể gửi dữ liệu ra ngoài, cài mã độc, hoặc âm thầm trả lời sai theo ý đồ của ai đó. Giới bảo mật gọi đây là rủi ro chuỗi cung ứng, và AI làm chuỗi này dài thêm.
Doanh nghiệp nhỏ ít khi nghĩ tới chuyện này vì quen tư duy dùng phần mềm nào tiện là cài. Bài viết giúp bạn nhận diện các mắt xích, hiểu rủi ro của từng loại, và có một quy trình kiểm đơn giản trước khi cho một thành phần AI mới vào máy công ty. Riêng chuyện tiện ích trình duyệt và ứng dụng AI đòi quyền đọc dữ liệu cá nhân thuộc chuyên mục dữ liệu khi dùng chatbot; ở đây tập trung vào góc doanh nghiệp tự cài, tự tích hợp.
Chuỗi cung ứng AI gồm những mắt xích nào
Khi bạn dùng một chatbot quen thuộc qua trình duyệt, phần lớn chuỗi do một hãng lớn chịu trách nhiệm. Chuỗi bắt đầu dài ra khi doanh nghiệp muốn làm nhiều hơn: chạy một mô hình mã nguồn mở trên máy chủ riêng để dữ liệu không ra ngoài, gắn plugin để chatbot đọc phần mềm kế toán, dùng một trợ lý tuỳ chỉnh có sẵn trên chợ ứng dụng của nền tảng, hoặc thuê một người làm tự do cài cho văn phòng một phần mềm đọc hoá đơn bằng AI.
Mỗi tình huống kéo theo nhiều mắt xích: người huấn luyện mô hình gốc, người chỉnh sửa và đăng lại mô hình, tệp trọng số được tải từ đâu, thư viện phần mềm dùng để chạy mô hình, plugin do ai viết và được cập nhật thế nào, trợ lý tuỳ chỉnh do ai tạo và họ nhìn thấy gì trong cuộc trò chuyện, đơn vị tích hợp có giữ quyền truy cập từ xa không. Bạn có thể không biết tên hết những người này, nhưng dữ liệu của bạn đi qua tay họ.
Không có nghĩa là phải tránh mọi thứ ngoài các hãng lớn. Nhiều mô hình mã nguồn mở và plugin cộng đồng rất tốt. Vấn đề là phân biệt được nguồn có trách nhiệm với nguồn trôi nổi, và biết mình đang tin ai cho việc gì.
Những rủi ro cụ thể của từng loại mắt xích
Tệp mô hình mang theo mã độc. Một số định dạng tệp mô hình cũ cho phép chạy mã khi được nạp. Tải một tệp như vậy từ nguồn lạ rồi mở lên là cho người lạ chạy chương trình trên máy bạn. Các định dạng mới hơn được thiết kế để chỉ chứa dữ liệu, an toàn hơn, nhưng vẫn cần tải từ nơi có uy tín.
Mô hình bị cài hành vi ẩn. Người đăng lại mô hình có thể đã huấn luyện thêm để nó trả lời bình thường trong hầu hết trường hợp, nhưng cư xử khác khi gặp một tín hiệu nhất định. Kiểu cài cắm này rất khó phát hiện bằng cách dùng thử vài lần.
Plugin gửi dữ liệu đi đâu không rõ. Plugin nhận nội dung cuộc trò chuyện hoặc dữ liệu từ phần mềm của bạn để xử lý. Nếu người viết plugin lưu lại hoặc gửi sang máy chủ khác, bạn khó biết. Chính sách quyền riêng tư của plugin nhỏ thường sơ sài hoặc không có.
Trợ lý tuỳ chỉnh thu thập thông tin. Trợ lý tuỳ chỉnh do bên thứ ba tạo có thể được cấu hình để gọi sang dịch vụ của họ, nhận những gì bạn gõ. Tên và mô tả trợ lý không cho bạn biết điều đó, cần đọc kỹ phần thông tin về hành động và nhà phát triển.
Phần mềm AI bản lậu, bản bẻ khoá. Phần mềm mang tên AI được chia sẻ miễn phí trong các nhóm mạng xã hội, kèm hướng dẫn tắt phần mềm diệt virus để cài, là kênh phát tán mã độc rất phổ biến. Lời hứa dùng miễn phí bản trả phí là mồi nhử.
Cập nhật tự động đổi hành vi. Plugin hay trợ lý đang ổn có thể đổi chủ hoặc được cập nhật thêm quyền mới. Lần kiểm đầu tiên không bảo đảm cho mãi về sau.
Đánh giá mức tin cậy theo nguồn
Bảng dưới gợi ý cách nhìn nhanh mức tin cậy của các nguồn thành phần AI thường gặp. Đây là gợi ý chung, không phải phán xét từng nhà cung cấp cụ thể.
| Nguồn | Mức tin cậy ban đầu | Cần kiểm thêm |
|---|---|---|
| Tính năng AI tích hợp sẵn trong phần mềm công ty đã dùng | Khá cao | Điều khoản dữ liệu của tính năng mới, có bật mặc định không |
| Mô hình mã nguồn mở do tổ chức có tên tuổi phát hành, tải từ trang chính thức | Khá cao | Định dạng tệp, giấy phép sử dụng, thư viện chạy kèm |
| Bản mô hình do cá nhân chỉnh sửa và đăng lại | Trung bình đến thấp | Người đăng là ai, có cộng đồng đánh giá không, có thật cần bản chỉnh sửa không |
| Plugin, trợ lý tuỳ chỉnh trên chợ ứng dụng của nền tảng | Trung bình | Nhà phát triển, quyền xin, dữ liệu gửi đi đâu, chính sách quyền riêng tư |
| Phần mềm AI do người làm tự do tự viết cài cho văn phòng | Tuỳ người | Mã nguồn có giao lại không, có giữ quyền truy cập từ xa không, ai cập nhật |
| Tệp cài đặt chia sẻ qua nhóm mạng xã hội, bản bẻ khoá | Rất thấp | Không cài |
Lưu ý rằng mức tin cậy cao không có nghĩa là không cần cấu hình cẩn thận. Một tính năng AI chính hãng vẫn có thể được bật quá rộng.
Quy trình kiểm trước khi đưa thành phần AI mới vào công ty
Quy trình này dành cho cửa hàng, văn phòng không có phòng IT riêng. Một người phụ trách làm được trong một buổi chiều:
- Trả lời câu hỏi cần gì. Viết một câu về việc thành phần đó sẽ làm. Nếu không viết ra được, có lẽ chưa cần cài.
- Truy nguồn gốc. Ai phát hành, tải từ đâu, trang tải có phải trang chính thức của người phát hành không. Không tải lại từ đường dẫn người khác chuyển tiếp qua tin nhắn.
- Đọc quyền xin và dữ liệu đi đâu. Plugin xin đọc những gì, gửi đến máy chủ nào, có lưu lại không. Nếu không tìm thấy thông tin này, coi như câu trả lời là không rõ.
- Thử ở môi trường riêng. Chạy trên một máy hoặc tài khoản thử, với dữ liệu giả, che thông tin cá nhân và bí mật kinh doanh. Không thử ngay trên máy kế toán.
- Ghi vào danh sách thành phần được phép. Tên, phiên bản, ai phê duyệt, ngày cài. Danh sách này giúp bạn biết phải gỡ gì khi có cảnh báo.
- Đặt lịch xem lại. Ba hoặc sáu tháng một lần kiểm xem thành phần đó còn được duy trì không, có đổi chủ, đổi quyền không.
Ví dụ giả định: phần mềm AI đọc hoá đơn miễn phí
Chị kế toán của một công ty thương mại mười lăm người thấy trong một nhóm mạng xã hội về kế toán có người chia sẻ phần mềm dùng AI đọc hoá đơn và nhập liệu tự động, bản đầy đủ tính năng, miễn phí, kèm hướng dẫn cài. Hướng dẫn có một bước tắt phần mềm diệt virus vì bị báo nhầm. Chị cài trên máy kế toán, máy có phần mềm kế toán và thiết bị ký số.
Phần mềm đọc hoá đơn thật, khá nhanh. Song song đó, nó cài thêm một chương trình chạy ngầm ghi lại thao tác bàn phím và chụp màn hình gửi đi. Vài tuần sau, công ty phát hiện có người đăng nhập dịch vụ ngân hàng doanh nghiệp từ nơi lạ. Không có lỗ hổng phức tạp nào ở đây; chỉ có một mắt xích không rõ nguồn được mời vào đúng chiếc máy quan trọng nhất.
Bài học của tình huống này không phải là cấm dùng AI để đọc hoá đơn. Rất nhiều phần mềm kế toán chính hãng đã có tính năng tương tự, và nếu cần, có thể hỏi nhà cung cấp phần mềm đang dùng. Bài học là: bất kỳ hướng dẫn nào bảo tắt phần mềm diệt virus để cài là lý do đủ để dừng lại.
Một quy định nội bộ ngắn về nguồn AI được phép
Doanh nghiệp nhỏ không cần bộ quy chế dày. Vài dòng sau, dán ở nơi mọi người thấy và nhắc lại khi có nhân viên mới, đã giảm được phần lớn rủi ro:
- Chỉ dùng công cụ AI có trong danh sách được phép; muốn dùng thêm thì đề xuất cho người phụ trách.
- Không cài phần mềm AI từ đường dẫn trong nhóm chat, nhóm mạng xã hội, kể cả khi người gửi là người quen.
- Không tắt phần mềm diệt virus hay tường lửa để cài bất cứ thứ gì.
- Không gắn plugin, kết nối mới vào tài khoản công ty mà chưa hỏi.
- Máy kế toán, máy giữ thiết bị ký số và máy quản trị không dùng để thử phần mềm mới.
- Báo ngay khi một công cụ AI đang dùng bỗng xin thêm quyền hoặc hành xử lạ.
Việc soạn và phổ biến quy định dùng AI chung trong công ty được bàn kỹ ở chuyên mục bảo mật cho doanh nghiệp nhỏ; danh sách trên chỉ là phần liên quan đến nguồn gốc thành phần.
Chạy mô hình trên máy riêng không tự động an toàn hơn
Nhiều người chọn chạy mô hình mã nguồn mở trên máy chủ riêng với lý do dữ liệu không rời khỏi công ty. Lý do đó đúng ở một khía cạnh: bạn không gửi dữ liệu cho hãng AI. Nhưng đổi lại, bạn nhận về toàn bộ trách nhiệm mà hãng vẫn gánh thay: chọn đúng tệp mô hình sạch, cập nhật thư viện khi có lỗ hổng, cấu hình để máy chủ không mở ra internet, phân quyền ai được dùng.
Một máy chủ chạy mô hình mà cổng quản trị mở công khai, không đặt mật khẩu, là chuyện không hiếm ở những nơi tự cài theo hướng dẫn trên mạng. Lúc đó dữ liệu tuy không đi sang hãng AI nhưng lại nằm phơi cho bất kỳ ai dò thấy. Trước khi chọn hướng tự chạy, hãy hỏi thật lòng: công ty có người đủ thời gian và hiểu biết để duy trì nó an toàn không. Nếu không, một dịch vụ có tài khoản doanh nghiệp và điều khoản dữ liệu rõ ràng thường là lựa chọn an toàn hơn.
Câu hỏi thường gặp
Mô hình mã nguồn mở có an toàn không?
Mã nguồn mở không đồng nghĩa với an toàn hay nguy hiểm. Mô hình do tổ chức có uy tín phát hành, tải từ trang chính thức, ở định dạng chỉ chứa dữ liệu thì rủi ro thấp. Bản chỉnh sửa do cá nhân lạ đăng lại thì cần thận trọng hơn.
Làm sao biết một plugin gửi dữ liệu đi đâu?
Đọc mô tả quyền và chính sách quyền riêng tư của plugin trong chợ ứng dụng. Nếu không có thông tin rõ ràng về dữ liệu được gửi đến đâu và lưu bao lâu, coi như không rõ và không dùng cho dữ liệu công ty.
Trợ lý tuỳ chỉnh trên các nền tảng chatbot có nhìn thấy cuộc trò chuyện không?
Tuỳ cấu hình. Trợ lý tuỳ chỉnh có hành động gọi sang dịch vụ bên ngoài thì dịch vụ đó nhận được phần dữ liệu được gửi. Hãy xem phần thông tin của trợ lý và kiểm theo chính sách hiện hành của nền tảng bạn dùng.
Phần mềm AI miễn phí trên nhóm mạng xã hội có nên dùng không?
Không nên cài trên máy làm việc, nhất là khi hướng dẫn yêu cầu tắt phần mềm diệt virus. Nếu cần tính năng đó, tìm phiên bản từ trang chính thức của nhà phát hành hoặc hỏi nhà cung cấp phần mềm bạn đang dùng.
Đơn vị tích hợp AI có cần giao lại gì khi xong việc?
Nên yêu cầu bàn giao danh sách thành phần đã cài, tài khoản quản trị, cách cập nhật, và xác nhận đã gỡ quyền truy cập từ xa của họ. Ghi các yêu cầu này vào hợp đồng ngay từ đầu để tránh tranh cãi về sau.
Có cần kiểm lại plugin đã cài từ lâu không?
Có. Plugin có thể đổi chủ, được cập nhật thêm quyền hoặc ngừng được duy trì. Mỗi vài tháng nên xem lại danh sách, gỡ những thứ không còn dùng và kiểm quyền của những thứ còn giữ.