Youtube tung ra công cụ mới để giúp nhận dạng deepfake và nội dung tạo bởi AI

Công cụ mới trong Creator Studio sẽ giúp người dùng Youtube nhận diện deepfake và nội dung AI.

• Team Falcons chuẩn bị đón chào tân binh từ Astralis?

• Helldivers 2 là game bán chạy nhất châu Âu trong tháng 2

Với sự tiến bộ ngày một cao hơn của AI thì các quan ngại về việc lợi dụng chúng để tạo nội dung cho mục đích xấu cũng ngày càng lớn hơn. Hiện tại cũng đã có nhiều trường hợp như vậy xảy ra khiến cho vấn đề nhức nhối này cần sớm có biện pháp xử lý. Nền tảng video trực tuyến Youtube hồi năm ngoái đã cho phép người dùng báo cáo các nội dung AI có tính mạo danh họ, giờ đây nền tảng này đang tiến thêm một bước nữa.

Theo đó công cụ mới trong Creator Studio sẽ yêu cầu chủ nội dung phải công khai các nội dung AI hay qua chỉnh sửa có thể gây nhầm lẫn với người, địa điểm hay sự vật cùng sự kiện có thật. Các video có sử dụng AI giờ đây sẽ phải được gắn nhãn mác cho thấy các yếu tố có sự điều chỉnh bởi AI. Điển hình như việc deepfake người có thật trong video, chủ nội dung phải khai báo và video đó sẽ có nhãn thông báo cho người xem biết.

“Nhà sáng tạo phải phải nêu rõ nội dung: Khiến một người có thật xuất hiện để nói hay làm một điều gì đó mà họ không thật sự làm, thay đổi đoạn phim của một sự kiện hay nơi có thật, tạo các cảnh trong giống thật nhưng không thật sự diễn ra.” Công ty này cho biết.

Thêm vào đó nếu chủ nội dung không khai báo đầy đủ về nội dung AI trong video, Youtube sẽ thêm các nhãn mác cảnh báo nếu nhận thấy nội dung đó có thể gây nhầm lẫn cho người xem. Tuy nhiên với những nội dung được cho là không gây nguy hại gì thì sẽ không yêu cầu gắn nhãn mác.

Youtube dự kiến sẽ cập nhật tính năng mới này trong vài tuần tới cho ứng dụng di động, sau đó sẽ là máy tính và TV.