Reddit Tăng Cường Quyền Lực AI Trong Kiểm Duyệt Nội Dung

Trong một bước đi táo bạo, Reddit đã ra mắt Rules Hub, một hệ thống mới sử dụng công nghệ mô hình ngôn ngữ lớn (LLM) nhằm cải thiện khả năng quản lý nội dung của các quản trị viên trên nền tảng này. Đặc biệt, AI không chỉ dừng lại ở việc gắn cờ các bài viết mà còn có thể tự động xóa các bình luận hoặc bài viết vi phạm nội quy nếu được quản trị viên đồng ý.

Trước khi có sự xuất hiện của Rules Hub, Reddit chủ yếu dựa vào đội ngũ quản trị viên tình nguyện và công cụ Automoderator (Automod). Hệ thống này hoạt động bằng cách sử dụng các quy tắc do quản trị viên thiết lập và tự động áp dụng khi phát hiện từ khóa hay mẫu nội dung nhất định.

Gần đây, Reddit đã dần đưa AI vào quy trình kiểm duyệt, với một ví dụ tiêu biểu là tính năng Post Check, cho phép hệ thống cảnh báo người dùng về nguy cơ vi phạm quy định khi họ soạn thảo nội dung nhưng vẫn cho phép họ quyết định có đăng bài hay không.

Với sự ra mắt của Rules Hub, AI giờ đây được giao thêm nhiều quyền hạn. Theo thông tin từ The Verge, hệ thống mới này có khả năng đánh giá nội dung xem có phù hợp với tinh thần của quy định hay không, mà không chỉ giới hạn ở việc tìm kiếm các từ khóa cố định như trước đây.

Reddit cho biết rằng cách tiếp cận mới này giúp AI hiểu được ngữ nghĩa của ngôn ngữ tự nhiên cũng như các ngữ cảnh khác nhau mà không nhất thiết phải chứa các từ khóa mà trước đây đã được quy định.

Chính vì thế, mặc dù AI có thể tự động thực hiện nhiều tác vụ, quyết định cuối cùng vẫn thuộc về quản trị viên. Họ sẽ xác định những quy định nào AI có thể thực thi và hành động ra sao đối với nội dung vi phạm, bao gồm cả việc báo cáo để con người xem xét, tự động xóa nội dung hoặc không làm gì cả.

Trong quá trình thử nghiệm trong vài tháng qua, Rules Hub đã được áp dụng tại hơn 700 cộng đồng với sự tham gia của cả những quản trị viên mới lẫn những người có kinh nghiệm, bao gồm nhiều thành viên của Mod Council Network.

Hiện tại, công cụ này đã được triển khai mặc định cho tất cả subreddit mới và dự kiến sẽ được mở rộng ra toàn bộ nền tảng trong năm 2026, mặc dù thời điểm cụ thể vẫn chưa được công bố.

Các phản hồi từ quản trị viên cho thấy nhiều ý kiến trái chiều. Một số người cảm thấy hệ thống hiệu quả không đồng đều, trong khi những người khác cho rằng họ chưa đủ tin tưởng vào khả năng xử lý tự động của AI mà chỉ sử dụng nó như một công cụ hỗ trợ cho việc kiểm tra thủ công.

Nhìn về tương lai, Reddit kỳ vọng rằng Rules Hub có thể đảm nhận nhiều chức năng mà Automod hiện đang thực hiện, kết hợp cùng các công cụ như Post and Comment Guidance và Safety Filters. Tuy vậy, công ty khẳng định rằng AI không thể thay thế vai trò của quản trị viên; con người vẫn phải xây dựng quy định cộng đồng và theo dõi các quyết định mà AI đưa ra.

Động thái này diễn ra chỉ vài tháng sau khi Reddit phải đối mặt với sự phản đối từ cộng đồng quản trị viên do việc thay đổi chính sách, gây khó khăn cho khả năng của bot trong việc cấm người dùng dựa trên hoạt động của họ trên các subreddit khác nhau.