Công cụ phát hiện deepfake dùng chính AI để tìm dấu vết mà AI tạo ảnh, tạo giọng thường để lại: điểm bất thường ở vùng da và viền khuôn mặt, khẩu hình lệch với âm thanh, đặc trưng tần số của giọng tổng hợp, hay thông tin nguồn gốc gắn trong tệp. Kết quả chúng trả về là một mức khả năng, không phải phán quyết thật hay giả.
Những công cụ này có ích khi bạn có trong tay một đoạn video hay ghi âm và có thời gian kiểm tra. Chúng gần như không giúp được trong một cuộc gọi video trực tiếp đang diễn ra, và có thể sai cả hai chiều: coi video thật là giả, coi video giả là thật. Bài này giải thích công cụ làm việc thế nào, đọc kết quả ra sao, và vì sao luôn cần một bước kiểm chứng bên ngoài. Các dấu hiệu nhận ra cuộc gọi lừa bằng mắt thường được viết riêng ở mục "Lừa đảo dùng AI".
Công cụ phát hiện nhìn vào những gì
Dấu vết trong hình ảnh. Mô hình tạo hoặc ghép mặt thường để lại điểm không tự nhiên ở viền tóc, tai, răng, đồ trang sức, vùng chuyển giữa mặt và cổ, ánh sáng trên mặt không khớp với phần còn lại của khung hình. Công cụ phát hiện được huấn luyện trên nhiều video thật và giả để nhận ra những dấu vết này, kể cả khi mắt người không thấy.
Sự ăn khớp giữa tiếng và hình. Khẩu hình môi với âm thanh, nhịp chớp mắt, chuyển động đầu với giọng nói. Một số công cụ đo độ đồng bộ theo từng khung hình.
Đặc trưng của giọng tổng hợp. Giọng do máy tạo có thể sạch bất thường, thiếu tiếng thở, thiếu tiếng ồn phòng, hoặc có những dấu vết ở dải tần số mà tai người không nghe ra nhưng phân tích phổ thì thấy.
Thông tin nguồn gốc trong tệp. Một số công cụ tạo ảnh, máy ảnh và nền tảng gắn thông tin nguồn gốc hoặc thuỷ vân ẩn vào nội dung. Công cụ kiểm có thể đọc thông tin này để biết tệp được tạo hay chỉnh sửa bằng gì.
Dấu vết nén và chỉnh sửa. Phần được ghép vào thường có lịch sử nén khác phần nền. Đây là kỹ thuật pháp y hình ảnh có từ trước thời AI tạo sinh, nay được kết hợp với học máy.
Vì sao kết quả không bao giờ chắc chắn
Phát hiện deepfake là một cuộc đua không có vạch đích. Mỗi khi công cụ phát hiện học được một loại dấu vết, những mô hình tạo nội dung thế hệ sau lại được cải tiến để bớt để lại dấu vết đó. Một công cụ hoạt động tốt với video tạo bằng mô hình năm ngoái có thể bỏ sót video tạo bằng mô hình mới ra.
Chất lượng tệp cũng ảnh hưởng lớn. Video chia sẻ qua mạng xã hội và ứng dụng nhắn tin bị nén nhiều lần, giảm độ phân giải, mất phần lớn những chi tiết nhỏ mà công cụ dựa vào. Một đoạn ghi âm qua điện thoại có tiếng ồn và bị nén mạnh. Trên những tệp như vậy, độ chính xác của công cụ giảm đáng kể, và cả video thật cũng dễ bị chấm là đáng ngờ.
Cuối cùng, nhiều công cụ trả về một con số như "khả năng bị chỉnh sửa 73%". Con số đó không có nghĩa là bảy mươi ba phần trăm nội dung bị làm giả, cũng không có nghĩa là chắc chắn giả. Nó chỉ là mức tin của mô hình, được tính theo cách riêng của từng công cụ. Hai công cụ khác nhau chấm cùng một video có thể ra hai con số rất khác nhau.
Thông tin nguồn gốc và thuỷ vân: hướng đi bổ sung
Thay vì đoán xem một nội dung có bị làm giả không, một hướng khác là ghi lại nguồn gốc ngay từ lúc tạo ra. Một số tổ chức công nghệ và truyền thông đã cùng xây dựng các chuẩn gắn "chứng nhận nội dung" vào ảnh và video: thiết bị nào chụp, phần mềm nào chỉnh sửa, có dùng AI tạo sinh không. Một số công cụ tạo ảnh và giọng nói cũng gắn thuỷ vân ẩn vào sản phẩm của mình.
Hướng này hữu ích khi thông tin có mặt: một bức ảnh mang chứng nhận nguồn gốc đầy đủ từ máy ảnh tới nơi đăng thì đáng tin hơn. Nhưng chiều ngược lại không đúng. Thiếu thông tin nguồn gốc không có nghĩa nội dung là giả, vì phần lớn ảnh và video hiện nay chưa gắn thông tin này, và thông tin dễ bị mất khi chụp lại màn hình hay tải lên một nền tảng không hỗ trợ. Kẻ làm giả có chủ đích cũng chọn công cụ không gắn thuỷ vân.
Vì vậy hãy coi thông tin nguồn gốc như một điểm cộng khi có, không phải bằng chứng khi thiếu. Mức độ phổ biến của các chuẩn này đang thay đổi; nếu bạn làm truyền thông hay quản lý nội dung cho doanh nghiệp, hãy kiểm thông tin hiện hành về những nền tảng đã hỗ trợ.
Công cụ phát hiện giúp được trong tình huống nào
Bảng dưới gợi ý mức hữu ích của công cụ phát hiện theo từng tình huống người dùng hay gặp, và cách kiểm chắc hơn đi kèm:
| Tình huống | Công cụ phát hiện có giúp không | Cách kiểm chắc hơn |
|---|---|---|
| Cuộc gọi video trực tiếp của "người thân" mượn tiền | Gần như không, vì không kịp và không có tệp | Cúp máy, gọi lại số đã lưu, hỏi câu chỉ người thật biết |
| Video người nổi tiếng quảng cáo đầu tư | Có thể gợi ý, nhưng không cần | Tìm trên kênh chính thức của người đó; quảng cáo hứa lợi nhuận cao vốn đã là dấu hiệu lừa |
| Đoạn ghi âm "sếp" yêu cầu chuyển tiền | Có ích một phần nếu có tệp gốc | Gọi lại sếp qua số nội bộ; áp quy trình duyệt hai người |
| Ảnh, video ghép dùng để bôi nhọ hoặc tống tiền | Có ích làm thêm căn cứ | Giữ bằng chứng, báo nền tảng và cơ quan chức năng; không trả tiền |
| Video lan truyền về một sự kiện | Có ích, kết hợp kiểm chứng tin tức | Đối chiếu nhiều nguồn tin chính thống, tìm bản gốc sớm nhất |
Quy luật chung: công cụ phát hiện hợp với việc kiểm tra sau, có thời gian, có tệp. Với mọi tình huống đòi tiền gấp, bước quyết định là kiểm chứng qua kênh khác, không phải chạy công cụ.
Dùng công cụ phát hiện đúng cách
Nếu bạn có một tệp video hay ghi âm cần kiểm, các bước sau giúp kết quả có giá trị hơn và không gây thêm rắc rối:
- Tìm bản gốc chất lượng cao nhất có thể, thay vì bản đã qua nhiều lần chia sẻ hay quay lại màn hình. Mỗi lần nén là mất thêm dấu vết.
- Cân nhắc trước khi tải lên. Video riêng tư, video có trẻ em, nội dung nhạy cảm của người khác không nên tải lên dịch vụ trực tuyến không rõ chính sách lưu trữ. Đọc điều khoản xem tệp có được giữ lại hay dùng để huấn luyện không.
- Chọn công cụ có nguồn gốc rõ ràng, của tổ chức nghiên cứu, hãng công nghệ hay đơn vị kiểm chứng tin tức có uy tín. Cẩn thận với trang "kiểm tra deepfake miễn phí" đòi đăng nhập bằng mạng xã hội hay cài tiện ích.
- Thử với hai công cụ khác nhau nếu có thể. Hai kết quả cùng hướng thì đáng tin hơn; hai kết quả trái nhau là tín hiệu cần kiểm chứng bằng cách khác.
- Đọc kết quả là mức khả năng. Ghi lại cả con số, tên công cụ, thời điểm kiểm, nếu sau này cần làm căn cứ.
- Luôn kết hợp với kiểm chứng ngoài: hỏi trực tiếp người trong video, tìm nguồn đăng đầu tiên, đối chiếu với thông tin chính thức.
Văn phòng và cửa hàng nên dùng công cụ này ở đâu
Với tổ chức nhỏ, giá trị lớn nhất của công cụ phát hiện không nằm ở việc bắt kẻ lừa giữa cuộc gọi, mà ở những chỗ có thời gian kiểm tra. Bộ phận truyền thông hay người quản lý trang mạng xã hội của cửa hàng có thể kiểm một video "khách hàng phản ánh" trước khi trả lời công khai, hoặc kiểm một đoạn ghi âm được gửi tới kèm lời đe doạ. Người làm nhân sự có thể kiểm thêm khi một ứng viên phỏng vấn trực tuyến có dấu hiệu bất thường.
Điều không nên làm là xây quy trình duyệt tiền dựa trên việc "nhận ra giọng sếp" hay "thấy mặt sếp trên video". Khi giọng và mặt đều có thể làm giả, quy trình chuyển tiền phải dựa vào những thứ khó giả hơn: gọi lại qua số đã lưu sẵn, hai người cùng duyệt khoản lớn, mã xác nhận nội bộ thay đổi định kỳ. Công cụ phát hiện là lớp kiểm thêm, không phải cổng chính.
Nếu công ty có quy trình xác minh danh tính khách hàng bằng khuôn mặt hay giấy tờ, phần chống giả mạo trong quy trình đó là chủ đề riêng, thường do nhà cung cấp giải pháp định danh đảm nhận; hãy hỏi họ về khả năng phát hiện giả mạo và cách cập nhật.
Những hiểu lầm hay gặp về công cụ phát hiện deepfake
Vì được quảng bá là "AI chống AI", các công cụ này hay bị kỳ vọng quá mức. Một số hiểu lầm nên tránh:
- "Công cụ nói thật là thật." Kết quả "không phát hiện bất thường" chỉ có nghĩa là công cụ không tìm thấy dấu vết nó biết. Deepfake chất lượng cao hoặc bị nén mạnh có thể qua mặt.
- "Chụp màn hình rồi kiểm cũng được." Ảnh chụp màn hình mất phần lớn dấu vết và mọi thông tin nguồn gốc, kết quả gần như không còn ý nghĩa.
- "Hỏi chatbot là biết video giả hay không." Chatbot đa năng không phải công cụ phát hiện chuyên dụng. Nó có thể mô tả điểm đáng ngờ khi xem ảnh, nhưng không nên dùng lời nhận xét đó làm kết luận.
- "Có công cụ rồi thì không cần cảnh giác." Kẻ lừa dùng deepfake trong cuộc gọi trực tiếp chính vì lúc đó nạn nhân không kịp kiểm tra gì. Quy ước gọi lại và câu hỏi riêng của gia đình vẫn là lớp bảo vệ chính.
- "Kết quả của công cụ là bằng chứng pháp lý." Khi cần làm việc với cơ quan chức năng, thứ có giá trị là tệp gốc, nguồn nhận, thời gian. Kết quả công cụ chỉ là thông tin tham khảo; giám định chính thức thuộc về đơn vị có thẩm quyền.
Câu hỏi thường gặp
Công cụ phát hiện deepfake có kiểm được cuộc gọi video đang diễn ra không?
Hầu hết là không. Một số giải pháp cho doanh nghiệp đang thử nghiệm kiểm trong thời gian thực, nhưng người dùng thường không có công cụ đó trong cuộc gọi. Với cuộc gọi mượn tiền hay đòi chuyển khoản, cách chắc nhất là cúp máy và gọi lại số đã lưu.
Công cụ báo video có khả năng bị chỉnh sửa cao thì có chắc là giả không?
Không chắc. Video thật bị nén nhiều lần, quay trong ánh sáng kém, hoặc đã qua bộ lọc làm đẹp cũng có thể bị chấm điểm cao. Hãy coi kết quả là lý do để kiểm chứng thêm, không phải kết luận.
Tải video của người khác lên công cụ kiểm tra trực tuyến có vấn đề gì không?
Có thể có, nhất là video riêng tư, có trẻ em hay nội dung nhạy cảm. Dịch vụ có thể lưu tệp hoặc dùng để huấn luyện. Đọc chính sách lưu trữ của dịch vụ, chỉ dùng công cụ có nguồn gốc rõ ràng, và cân nhắc quyền riêng tư của người trong video.
Ảnh không có thông tin nguồn gốc thì có phải ảnh do AI tạo không?
Không. Phần lớn ảnh hiện nay chưa gắn thông tin nguồn gốc, và thông tin này dễ mất khi chụp lại màn hình hay đăng lên nền tảng không hỗ trợ. Thông tin nguồn gốc là điểm cộng khi có, không phải bằng chứng giả khi thiếu.
Bị người khác ghép mặt vào video xấu thì công cụ phát hiện giúp được gì?
Kết quả từ công cụ có thể làm thêm căn cứ khi báo cáo nội dung với nền tảng. Việc quan trọng hơn là giữ bằng chứng gồm đường dẫn, ảnh chụp, thời gian, báo nền tảng gỡ bỏ, báo cơ quan chức năng, và không trả tiền nếu bị đe doạ. Chi tiết ở mục "Khi bị lừa, bị hack, lộ dữ liệu".
Giọng nói giả có dễ phát hiện hơn video giả không?
Thường khó hơn với tai người, vì cuộc gọi điện thoại vốn đã méo tiếng và có tạp âm, che đi những điểm bất thường. Công cụ phân tích âm thanh có thể giúp với tệp ghi âm chất lượng tốt, nhưng trong cuộc gọi thật, câu hỏi kiểm chứng và gọi lại vẫn hiệu quả hơn.