Nếu bạn có dùng internet một chút, rất có thể bạn đã thấy một hình ảnh hoặc video được AI tạo ra. Tôi biết mình đã từng bị lừa, giống như tôi đã bị lừa bởi video lan truyền về những chú thỏ trên tấm bạt lò xo. Nhưng Sora đang đưa video AI lên một tầm cao mới, khiến việc biết cách phát hiện AI trở nên quan trọng hơn bao giờ hết.
Sora là ứng dụng chị em của ChatGPT, được tạo ra bởi cùng công ty mẹ, OpenAI. Nó được đặt tên theo trình tạo video AI của mình, ra mắt vào năm 2024. Nhưng gần đây nó đã được đại tu lớn với mẫu Sora 2 mới, cùng với một ứng dụng mạng xã hội hoàn toàn mới cùng tên. Ứng dụng giống TikTok này đã lan truyền mạnh mẽ, với những người đam mê AI quyết tâm săn lùng mã mời. Nhưng nó không giống bất kỳ nền tảng mạng xã hội nào khác. Mọi thứ bạn thấy trên Sora đều là giả; tất cả các video đều do AI tạo ra. Sử dụng Sora là một giấc mơ sốt deepfake AI: thoạt nhìn có vẻ vô hại, nhưng ẩn chứa những rủi ro nguy hiểm ngay bên dưới bề mặt.
Đừng bỏ lỡ bất kỳ nội dung công nghệ khách quan và đánh giá dựa trên phòng thí nghiệm nào của chúng tôi. Thêm CNET làm nguồn ưu tiên trên Google.
Từ góc độ kỹ thuật, các video của Sora rất ấn tượng so với các đối thủ cạnh tranh như V1 của Midjourney và Veo 3 của Google. Video của Sora có độ phân giải cao, âm thanh đồng bộ và khả năng sáng tạo đáng ngạc nhiên. Tính năng phổ biến nhất của Sora, được gọi là "cameo," cho phép bạn sử dụng hình ảnh của người khác và chèn họ vào hầu hết mọi cảnh do AI tạo ra. Đây là một công cụ ấn tượng, tạo ra những video chân thực đến đáng sợ. 
Đó là lý do tại sao rất nhiều chuyên gia lo ngại về Sora, thứ có thể giúp bất kỳ ai tạo deepfake, phát tán thông tin sai lệch và làm mờ ranh giới giữa thực và ảo dễ dàng hơn bao giờ hết. Những người của công chúng và người nổi tiếng đặc biệt dễ bị tổn thương trước những deepfake tiềm ẩn nguy hiểm này, đó là lý do tại sao các nghiệp đoàn như SAG-AFTRA đã thúc đẩy OpenAI tăng cường các rào cản bảo vệ của mình.
Nhận diện nội dung AI là một thách thức liên tục đối với các công ty công nghệ, nền tảng mạng xã hội và tất cả chúng ta những người sử dụng chúng. Nhưng không phải là hoàn toàn vô vọng. Dưới đây là một số điều cần chú ý để nhận biết liệu một video có được tạo bằng Sora hay không.
Tìm kiếm hình mờ Sora
Mỗi video được tạo trên ứng dụng Sora iOS đều bao gồm một hình mờ khi bạn tải xuống. Đó là biểu tượng Sora màu trắng -- một biểu tượng đám mây -- di chuyển quanh các cạnh của video. Nó tương tự như cách các video TikTok được gắn hình mờ.
Gắn hình mờ nội dung là một trong những cách lớn nhất mà các công ty AI có thể giúp chúng ta nhận diện nội dung do AI tạo ra bằng mắt thường. Mô hình Gemini "nano banana" của Google, chẳng hạn, tự động gắn hình mờ vào hình ảnh của nó. Hình mờ rất hữu ích vì chúng là dấu hiệu rõ ràng cho thấy nội dung được tạo ra với sự trợ giúp của AI.
Nhưng hình mờ không hoàn hảo. Thứ nhất, nếu hình mờ là tĩnh (không di chuyển), nó có thể dễ dàng bị cắt bỏ. Ngay cả đối với các hình mờ chuyển động như của Sora, vẫn có những ứng dụng được thiết kế đặc biệt để loại bỏ chúng, vì vậy không thể hoàn toàn tin tưởng vào hình mờ đơn thuần. Khi Giám đốc điều hành OpenAI Sam Altman được hỏi về điều này, ông cho biết xã hội sẽ phải thích nghi với một thế giới mà bất kỳ ai cũng có thể tạo ra video giả mạo về bất kỳ ai. Tất nhiên, trước khi có Sora của OpenAI, không có cách nào phổ biến, dễ tiếp cận, không cần kỹ năng để tạo ra những video đó. Nhưng lập luận của ông ấy đưa ra một quan điểm hợp lý về sự cần thiết phải dựa vào các phương pháp khác để xác minh tính xác thực.
Kiểm tra siêu dữ liệu
Tôi biết, bạn có lẽ đang nghĩ rằng không đời nào bạn lại kiểm tra siêu dữ liệu của video để xác định xem nó có thật hay không. Tôi hiểu ý bạn; đó là một bước bổ sung, và bạn có thể không biết bắt đầu từ đâu. Nhưng đây là một cách tuyệt vời để xác định xem một video có được tạo bằng Sora hay không, và nó dễ thực hiện hơn bạn nghĩ.
Metadata là tập hợp thông tin tự động gắn vào một phần nội dung khi nó được tạo ra. Nó cung cấp cho bạn cái nhìn sâu sắc hơn về cách một hình ảnh hoặc video được tạo ra. Nó có thể bao gồm loại máy ảnh được sử dụng để chụp ảnh, vị trí, ngày giờ video được quay và tên tệp. Mọi ảnh và video đều có metadata, bất kể nó được tạo bởi con người hay AI. Và nhiều nội dung do AI tạo ra cũng sẽ có các chứng chỉ nội dung để chỉ rõ nguồn gốc AI của nó.
OpenAI là một phần của Liên minh về Nguồn gốc và Tính xác thực Nội dung (Coalition for Content Provenance and Authenticity), điều đó, đối với bạn, có nghĩa là các video của Sora bao gồm metadata C2PA. Bạn có thể sử dụng công cụ xác minh của Content Authenticity Initiative để kiểm tra siêu dữ liệu của video, hình ảnh hoặc tài liệu. Đây là cách thực hiện. (Content Authenticity Initiative là một phần của C2PA.)
Cách kiểm tra siêu dữ liệu của ảnh, video hoặc tài liệu:
1. Truy cập URL này: https://verify.contentauthenticity.org/ 
2. Tải lên tệp bạn muốn kiểm tra.
3. Nhấp vào Mở.
4. Kiểm tra thông tin trong bảng điều khiển bên phải. Nếu nó do AI tạo ra, thông tin này sẽ được bao gồm trong phần tóm tắt nội dung.
Khi bạn chạy một video Sora qua công cụ này, nó sẽ cho biết video được "phát hành bởi OpenAI," và sẽ bao gồm thông tin rằng nó do AI tạo ra. Tất cả các video của Sora nên chứa các chứng chỉ này cho phép bạn xác nhận rằng nó được tạo bằng Sora. 
Công cụ này, giống như tất cả các trình phát hiện AI, không hoàn hảo. Có rất nhiều cách để video AI có thể tránh bị phát hiện. Nếu bạn có các video khác không phải của Sora, chúng có thể không chứa các tín hiệu cần thiết trong siêu dữ liệu để công cụ xác định xem chúng có phải do AI tạo ra hay không. Ví dụ, các video AI được tạo bằng Midjourney không bị gắn cờ, như tôi đã xác nhận trong thử nghiệm của mình. Ngay cả khi video được tạo bởi Sora, nhưng sau đó được xử lý qua ứng dụng bên thứ ba (như ứng dụng xóa hình mờ) và tải xuống lại, điều đó làm giảm khả năng công cụ sẽ gắn cờ nó là AI.
Công cụ xác minh của Content Authenticity Initiative đã gắn cờ chính xác rằng một video tôi tạo bằng Sora là do AI tạo ra, cùng với ngày và giờ tôi tạo ra nó. Ảnh chụp màn hình của Katelyn Chedraoui/CNET
Tìm kiếm các nhãn AI khác và tự gắn nhãn cho mình
Nếu bạn đang sử dụng một trong các nền tảng mạng xã hội của Meta, như Instagram hoặc Facebook, bạn có thể nhận được một chút trợ giúp để xác định xem nội dung nào đó có phải là AI hay không. Meta có các hệ thống nội bộ để giúp gắn cờ nội dung AI và dán nhãn tương ứng. Các hệ thống này không hoàn hảo, nhưng bạn có thể thấy rõ nhãn cho các bài đăng đã được gắn cờ. TikTok và YouTube có các chính sách tương tự về việc dán nhãn nội dung AI.
Cách duy nhất thực sự đáng tin cậy để biết liệu một nội dung có do AI tạo ra hay không là nếu người tạo tiết lộ điều đó. Nhiều nền tảng mạng xã hội hiện nay cung cấp cài đặt cho phép người dùng gắn nhãn bài đăng của họ là do AI tạo ra. Ngay cả một ghi chú hoặc tiết lộ đơn giản trong chú thích của bạn cũng có thể giúp mọi người hiểu rõ cách một nội dung được tạo ra. 
Bạn biết khi cuộn trên Sora thì không có gì là thật. Nhưng một khi bạn rời khỏi ứng dụng và chia sẻ các video do AI tạo ra, đó là trách nhiệm chung của chúng ta khi phải tiết lộ cách video đó được tạo ra. Khi các mô hình AI như Sora tiếp tục làm mờ ranh giới giữa thực tế và AI, tùy thuộc vào tất cả chúng ta phải làm cho rõ ràng nhất có thể khi một thứ gì đó là thật hay do AI.
Quan trọng nhất, hãy luôn cảnh giác
Không có phương pháp hoàn hảo nào để phân biệt chính xác ngay lập tức liệu một video là thật hay do AI tạo ra. Điều tốt nhất bạn có thể làm để tránh bị lừa là không tự động, không nghi ngờ tin vào mọi thứ bạn thấy trên mạng. Hãy làm theo trực giác của bạn -- nếu một điều gì đó có vẻ không thật, thì có lẽ nó đúng là như vậy. Trong những thời điểm chưa từng có, tràn ngập nội dung AI này, cách phòng thủ tốt nhất của bạn là kiểm tra kỹ hơn các video bạn đang xem. Đừng chỉ lướt qua nhanh chóng và cuộn đi mà không suy nghĩ. Hãy kiểm tra các văn bản bị méo mó, các vật thể biến mất và các chuyển động phi vật lý. Và đừng tự trách mình nếu thỉnh thoảng bạn bị lừa; ngay cả các chuyên gia cũng có lúc sai.
(Tiết lộ: Ziff Davis, công ty mẹ của CNET, vào tháng 4 đã đệ đơn kiện OpenAI, cáo buộc công ty này vi phạm bản quyền của Ziff Davis trong việc đào tạo và vận hành các hệ thống AI của mình.)
"
