Microsoft đang dùng AI để quản lý thái độ độc hại của game thủ nhưng mới chỉ là khởi đầu

Trong một bài đăng trên blog cho Báo cáo minh bạch Xbox, công ty Microsoft đã nhắc lại những “tiến bộ trong việc thúc đẩy an toàn cho người chơi” và “cam kết minh bạch”, cũng như “cách tiếp cận dần dần để tận dụng AI”.

• Genshin Impact rò rỉ về những nhân vật sắp tới tại Natlan

• Nhóm làm series Nier lại tập hợp cho một dự án mới có thể liên quan đến thương hiệu này

Có hai cách cụ thể mà AI đang được sử dụng: dán nhãn tự động và so khớp mẫu hình ảnh.

Cách đầu tiên sử dụng AI để xác định các từ hoặc cụm từ gây hại từ báo cáo của người chơi, cho phép người điều hành cộng đồng nhanh chóng phân loại các báo cáo sai và tập trung vào các trường hợp quan trọng nhất.

Tương tự, cách thứ hai sử dụng các kỹ thuật so khớp hình ảnh để nhanh chóng xác định và loại bỏ hình ảnh có hại và độc hại.

Việc sử dụng AI ở đây tiếp nối việc giới thiệu tính năng báo cáo giọng nói mới vào năm ngoái, cho phép người chơi Xbox ghi lại các clip video về trò chuyện thoại trong trò chơi để gửi cho Nhóm An toàn Xbox để xem xét.

Xbox cho biết họ đã ghi lại được 138.000 bản ghi âm giọng nói kể từ khi ra mắt tính năng này. Khi các báo cáo đó dẫn đến việc thực thi trừng phạt, 98% người chơi cho thấy hành vi được cải thiện và không bị mắc lỗi thêm.

Năm ngoái, Xbox đã giới thiệu một hệ thống thực thi trừng phạt, kết hợp hành vi xấu với mức độ nghiêm trọng thích hợp. Kể từ khi ra mắt, 88% người chơi nhận được án phạt đã không bị mắc lỗi thêm.

Do đó, đây là một bước tích cực, với AI giúp giảm chi phí của con người trong việc xem xét nội dung độc hại.

Tuy nhiên, sự độc hại và kỳ thị giới tính vẫn lan rộng trong trò chuyện thoại bằng giọng nói trong game. Một bài đăng từ streamer Twitch là Taylor Morgan đã lan truyền trên mạng xã hội trong tuần này do những lời lạm dụng độc hại mà cô nhận được khi chơi một trận Valorant của Riot.

“Việc đình chỉ là không đủ. Sẽ không có gì ngăn cản những người đàn ông này hành động theo cách này cho đến khi lệnh cấm phần cứng được thực hiện. Họ không bao giờ nên có thể chơi lại trò chơi,” cô ấy đăng trên Twitter.

Trong một bài đăng tiếp theo, cô tiết lộ rằng mình đã bị phạt vì rời khỏi trò chơi sớm.

Những ví dụ như thế này nhấn mạnh rằng vẫn còn một chặng đường dài để cải thiện tính an toàn khi chơi game online. Và trong khi việc sử dụng AI của Microsoft có vẻ tích cực, thì điều đáng nhớ là công ty này đã sa thải toàn bộ nhóm đạo đức và xã hội về AI vào năm ngoái như một phần của việc cắt giảm 10.000 việc làm trên toàn công ty (như được The Verge đưa tin vào thời điểm đó). Tuy nhiên, Văn phòng Trí tuệ Nhân tạo Có trách nhiệm của họ vẫn hoạt động và đã xuất bản hướng dẫn Tiêu chuẩn Trí tuệ Nhân tạo Có trách nhiệm.

Thật vậy, Microsoft chắc chắn đang thúc đẩy những lợi ích của AI. Vào tháng 11 năm ngoái, họ đã thông báo về “đối tác đồng phát triển nhiều năm” với Inworld AI để cung cấp cho các studio của Xbox các công cụ AI như đồng tác giả thiết kế và engine runtime nhân vật.

Gần đây hơn, một báo cáo của Unity tuyên bố rằng 62% các studio đã sử dụng AI, với hoạt hình là ứng dụng hàng đầu.