Vấn đề này đã nổi bật lên khi báo chí đưa tin rằng một trong những kẻ tấn công London Bridge đã trở nên cực đoan bằng cách xem các video trên YouTube của một nhà truyền giáo Hồi giáo Mỹ, những bài giảng của ông được mô tả là sử dụng ngôn ngữ tôn giáo và tôn giáo cực đoan.
Vào Chủ Nhật, Google, công ty mẹ của YouTube, đã công bố một loạt các chính sách nhằm hạn chế các video cực đoan trên nền tảng này. Đối với các video rõ ràng vi phạm nguyên tắc cộng đồng, chẳng hạn như những chủ đề khủng bố, Google cho biết họ sẽ nhanh chóng xác định và xóa chúng. Quá trình xử lý các video không nhất thiết vi phạm các quy tắc hành xử cụ thể phức tạp hơn.
Theo thay đổi chính sách, Google cho biết các video xúc phạm không đáp ứng được tiêu chuẩn xóa bỏ của nó - ví dụ như các video quảng bá việc chinh phục các tôn giáo hoặc chủng tộc mà không kích động bạo lực sẽ có cảnh báo và không thể kiếm tiền bằng quảng cáo hoặc được khuyến khích, Được xác nhận hoặc nhận xét bởi người dùng. Những video như vậy đã không được phép bao gồm quảng cáo, nhưng chúng không bị hạn chế dưới bất kỳ hình thức nào khác.
Kent Walker, cố vấn tổng hợp và phó chủ tịch cao cấp của Google, đã viết trong một bài đăng trên blog của công ty vào hôm Chủ nhật rằng 'Điều đó có nghĩa là những video này sẽ có ít tham gia hơn và khó tìm ra hơn'. 'Chúng tôi nghĩ rằng điều này làm đúng sự cân bằng giữa tự do ngôn luận và tiếp cận thông tin mà không cần thúc đẩy các quan điểm cực kỳ xúc phạm.'
Google, hãng đã dựa vào phân tích video dựa trên máy tính để loại bỏ hầu hết các nội dung liên quan đến khủng bố, cho biết họ sẽ dành nhiều tài nguyên kỹ thuật hơn để giúp xác định và loại bỏ những đoạn video có vấn đề. Nó cũng cho biết sẽ mời các chuyên gia từ các tổ chức phi chính phủ để giúp xác định những đoạn video nào là tuyên truyền bạo lực và đó là những bài phát biểu tôn giáo hoặc có thông tin.
Google cho biết họ sẽ dựa vào kiến thức chuyên môn của các nhóm với các chuyên gia về các vấn đề như ngôn từ kích động thù địch, tự gây tổn thương và khủng bố. Công ty cũng cho biết họ dự định làm việc với các nhóm chống cực đoan để giúp xác định nội dung nhằm mục đích radicalizing hoặc tuyển dụng cực đoan.
Bằng cách cho phép bất kỳ ai tải video lên YouTube, Google đã tạo ra một nền tảng video phát đạt nhằm thu hút người có nhiều sở thích. Nhưng nó cũng đã trở thành nam châm cho các nhóm cực đoan có thể tiếp cận được nhiều đối tượng vì quan điểm phân biệt chủng tộc hoặc không khoan dung của họ. Từ lâu, Google đã phải vật lộn với cách hạn chế loại nội dung đó mà không ngăn cản sự tự do làm cho YouTube trở nên phổ biến.
Một phần của thách thức là khối lượng tuyệt đối của video được tải lên YouTube. Công ty cho biết, mỗi phút có hơn 400 giờ nội dung video được tải lên trang web và YouTube đã không thể cảnh báo nội dung đó trong thời gian thực. Người dùng đánh dấu các video xúc phạm để xem xét, trong khi các thuật toán của công ty lại lôi trang web cho các vấn đề tiềm ẩn. Video có hình ảnh khỏa thân, bạo lực đồ hoạ hoặc tài liệu có bản quyền thường bị gỡ xuống nhanh chóng.
