Công nghệ trí tuệ nhân tạo “phát hiện chủ động” của Facebook sẽ quét tất cả các bài viết có liên quan đến ý nghĩ tự tử của người dùng và nếu cần thiết, hệ thống sẽ gửi thông tin này đến bạn bè của họ hoặc những đơn vị có chức trách ở khu vực.

Sử dụng AI để phát hiện các bài post đáng lo ngại và chuyển đến cho người kiểm duyệt, Facebook có thể sẽ nhanh chong đưa ra phản ứng kịp thời trước khi mọi thứ quá muộn. Trước đây, Facebook từng thử nghiệm dùng AI để lọc ra những bài viết có vấn đề cũng như ý định tự tử tại Mỹ và hiện nay, họ bắt đầu mở rộng phạm vi của phần mềm này trên khắp thế giới, ngoại trừ Liên minh châu Âu, nơi có các quy định phức tạp về bảo mật thông tin người dùng.

Những dòng trạng thái về việc tự tử cũng sẽ có nhiều người xem hơn sau khi được thuật toán của Facebook nhận diện. Rõ ràng những lời động viên hoặc hỏi han kịp thời từ bạn bè đôi khi lại có ích trong tình huống như vậy. Facebook cũng sẽ bổ sung thêm nhiều nhân sự kiểm duyệt hơn, làm việc 24/7 nhằm ngăn chặn tối đa khả năng tự tử. Guy Rosen, phó giám đốc mảng quản lý sản phẩm của Facebook cho biết trong tháng thử nghiệm vừa qua, họ đã phản hồi cho hơn 100 bài viết có liên quan đến tự tử thông qua hoạt động của AI.

Trong một bài viết trên trang cá nhân, CEO Facebook - Mark Zuckerberg tự hào về sản phẩm của công ty 'Trong tương lai, AI sẽ có thể hiểu được nhiều sắc thái khác nhau của ngôn ngữ và cũng có thể xác định những vấn đề khác ngoài tự tử, chẳng hạn như bắt nạt hay ghen ghét”. Được biết, Facebook đã huấn luyện cho AI này làm việc bằng cách tìm điểm chung trong văn bản cũng như hình ảnh từng được sử dụng trong các dòng trạng thái được cảnh báo bằng tay về nguy cơ tự tử trong quá khứ. Các bình luận như “bạn ổn chứ?” hay “bạn có cần giúp gì không” cũng được rà soát.

'Chúng tôi đã trò chuyện cùng với các chuyên gia về sức khoẻ tâm thần và một trong những cách tốt nhất để giúp ngăn chặn tự tử chính là làm cho bạn bè hoặc gia đình quan tâm đến họ. Điều này đặt Facebook vào một vai trò độc nhất vô nhị. Chúng tôi có thể giúp kết nối những người đang gặp khó khăn với bạn bè và các tổ chức có thể giúp họ”, Rosen cho biết.

Thông qua sự phối hợp giữa AI, nhân viên điều hành và các báo cáo của người dùng, công ty có thể ngăn chặn được các thảm kịch có thể xảy ra, chẳng hạn như những vụ tự tử khi Live Stream. Nhiều người tìm đến Live Stream như một cái gì đó để tiếp thêm động lực cho việc tự tử, do đó, Facebook rõ ràng thấy họ cần phải có giải pháp trước tình hình này. 'Một trong những mục tiêu của chúng tôi là đảm bảo đội ngũ của công ty có thể đưa ra phản ứng kịp thời trên phạm vi toàn thế giới bằng bất kỳ ngôn ngữ nào mà chúng tôi hỗ trợ”, ông Rosen nhấn mạnh.

Với hơn 2 tỷ người dùng, Facebook hiểu rằng họ cần làm gì đó để giúp đỡ cộng đồng. Không chỉ tạo ra phương thức để mọi người liên lạc và chăm sóc lẫn nhau, Facebook đã vô tình tạo ra một công cụ để mọi người thể hiện những màn hành xác bạo lực gây ra cho chính bản thân họ hoặc người khác và rõ ràng công ty không muốn để mọi thứ tiếp diễn. Việc tạo ra một phương thức giao tiếp toàn cầu phổ biến dường như khiến cho Facebook phải gánh những trách nhiệm vượt xa hầu hết các công ty khác trong lĩnh vực công nghệ và vượt xa cả trí tưởng tượng của chúng ta.

Nguồn: TechCrunch