Google đang đặt cược rằng các hình mờ AI vô hình cũng hiệu quả như các hình mờ hữu hình. Công ty tiếp tục tuần tin tức về Gemini 3 với thông báo rằng họ đang đưa công cụ phát hiện nội dung AI của mình, SynthID detector, ra khỏi giai đoạn thử nghiệm riêng tư để mọi người cùng sử dụng.
Tin tức này ra mắt cùng với việc phát hành nano banana pro, trình chỉnh sửa hình ảnh AI cực kỳ phổ biến của Google. Mô hình chuyên nghiệp mới đi kèm với nhiều nâng cấp, bao gồm khả năng tạo văn bản dễ đọc và nâng cấp hình ảnh của bạn lên 4K. Điều đó thật tuyệt vời cho những nhà sáng tạo sử dụng AI, nhưng nó cũng có nghĩa là việc xác định nội dung do AI tạo ra sẽ khó hơn bao giờ hết.
Chúng ta đã có deepfake từ rất lâu trước khi có AI tạo sinh. Nhưng các công cụ AI, như những công cụ mà Google và OpenAI phát triển, cho phép bất kỳ ai tạo ra nội dung giả mạo thuyết phục nhanh hơn và rẻ hơn bao giờ hết. Điều đó đã dẫn đến một lượng lớn nội dung AI tràn ngập trực tuyến, từ nội dung AI kém chất lượng đến các deepfake trông rất thật. Ứng dụng video AI lan truyền của OpenAI, Sora, là một công cụ quan trọng khác cho thấy các công cụ AI này dễ dàng bị lạm dụng như thế nào. Đây không phải là một vấn đề mới, nhưng AI đã dẫn đến sự leo thang đáng kể của cuộc khủng hoảng deepfake.
Đó là lý do tại sao SynthID được tạo ra. Google đã giới thiệu SynthID vào năm 2023, và mọi mô hình AI mà họ phát hành kể từ đó đều gắn các hình mờ vô hình này vào nội dung AI. Google cũng thêm một hình mờ nhỏ, dễ nhìn, có hình ngôi sao lấp lánh, nhưng cả hai đều không thực sự hữu ích khi bạn lướt nhanh qua các bài đăng trên mạng xã hội mà không phân tích kỹ lưỡng từng bài. Để giúp ngăn chặn cuộc khủng hoảng deepfake (mà chính công ty đã góp phần tạo ra) trở nên tồi tệ hơn, Google đang giới thiệu một công cụ mới để xác định nội dung AI.
Giờ đây bạn có thể hỏi Gemini liệu một hình ảnh có được tạo bằng AI hay không. Nhưng nó sẽ chỉ nhận diện được nếu hình ảnh đó được tạo bằng AI của Google. Google/Ảnh chụp màn hình của CNET
SynthID Detector thực hiện chính xác những gì tên gọi của nó ám chỉ; nó phân tích hình ảnh và có thể nhận ra hình mờ SynthID vô hình. Vì vậy, về lý thuyết, bạn có thể tải hình ảnh lên Gemini và hỏi chatbot liệu nó có được tạo bằng AI hay không. Nhưng có một hạn chế lớn — Gemini chỉ có thể xác nhận liệu một hình ảnh có được tạo bằng AI của Google hay không, chứ không phải của bất kỳ công ty nào khác. Bởi vì có rất nhiều mô hình hình ảnh và video AI có sẵn, điều đó có nghĩa là Gemini có thể không thể cho bạn biết liệu hình ảnh đó có được tạo bằng AI bằng một chương trình không phải của Google hay không.
Hiện tại, bạn chỉ có thể hỏi về hình ảnh, nhưng Google cho biết trong một bài đăng trên blog rằng họ có kế hoạch mở rộng khả năng này sang video và âm thanh. Dù có những hạn chế, các công cụ như thế này vẫn là một bước đi đúng hướng. Có rất nhiều công cụ phát hiện AI, nhưng không có công cụ nào hoàn hảo. Các mô hình phương tiện tạo sinh đang cải thiện nhanh chóng, đôi khi quá nhanh khiến các công cụ phát hiện không thể theo kịp. Đó là lý do tại sao việc gắn nhãn bất kỳ nội dung AI nào bạn chia sẻ trực tuyến và luôn nghi ngờ bất kỳ hình ảnh hoặc video đáng ngờ nào bạn thấy trên nguồn cấp dữ liệu của mình là cực kỳ quan trọng.
Đừng bỏ lỡ bất kỳ nội dung công nghệ không thiên vị và các bài đánh giá dựa trên thử nghiệm của chúng tôi. Thêm CNET làm nguồn Google ưu tiên.
Để biết thêm, hãy xem mọi thứ trong Gemini 3 và những gì mới trong nano banana pro.
"
