Trước đây, việc ứng dụng AI đã được Google, Microsoft, Amazon… đã áp dụng rộng rãi, nhưng chủ đề về phòng chống tự tử chưa được chú trọng. Umut Ozertem, một nhà nghiên cứu của Facebook, người từng làm việc về AI tại Yahoo và Microsoft, nói: “Tôi rất quan tâm đến điều này bởi lẽ tôi đã mất ba người bạn vì tự sát”. Facebook từng triển khai công việc phòng chống tự tử trong hơn một thập kỷ qua. Lizzy Donahue, kỹ sư của Facebook, cho biết, cô cùng các cộng sự của mình bắt đầu tìm kiếm những người có ý định tự tử với sự trợ giúp từ mạng xã hội. Sau đó, họ phát triển ứng dụng cho phép người dùng có thể báo cáo nội dung tự tử cho Facebook.
Về cơ bản, nó hoạt động giống như Google và Microsoft hiện nay. Chẳng hạn, nếu ai đó tìm kiếm Google với cụm từ “Tôi muốn tự tử” thì ngay bên dưới sẽ có dòng chữ: “Bạn không hề cô đơn. Những hỗ trợ tin cậy sẽ luôn sẵn sàng giúp bạn”, kèm theo đó là số điện thoại đường dây nóng hỗ trợ ngăn ngừa tự tử quốc gia và hộp thoại online. Còn Microsoft hiển thị thông tin về trung tâm khủng hoảng trong kết quả tìm kiếm và cho phép người dùng báo cáo về các hành vi tự hại mình tới dịch vụ Xbox Live.
Đối với Facebook, đây chỉ là sự khởi đầu. Công ty hiện có hơn 7.500 nhân viên xem xét các trường hợp có thể tự tử cũng như các vấn đề nhạy cảm khác như bắt nạt, bạo lực tình dục… Monika Bickert, giám đốc quản lý chính sách toàn cầu của Facebook, cho biết: “Bất cứ thứ gì liên quan đến an toàn, kiểu như mối đe dọa tự sát hay tự gây tổn thương sẽ được ưu tiên hàng đầu và được gửi đi xem xét nhanh hơn”.
Sau khi nhận được các báo cáo về người có ý định tự tử, các nhân viên của Facebook sẽ tìm kiếm sự giúp đỡ của Dan Reidenberg - giám đốc điều hành của SAVE (Tiếng nói về giáo dục nhận thức tự tử), một cơ quan có hơn 10 năm kinh nghiệm về trợ giúp người có ý định tự tử.
Đầu năm ngoái, Umut Ozertem tổ chức hội thảo với các công ty công nghệ ở Silicon Valley để phát triển AI trong lĩnh vực phòng chống tự tử. Điều khó khăn nhất là tạo ra một hệ thống tự động hiểu được từng ngữ cảnh cũng như sự tinh tế trong từng hành vi và lời nói của một người thực sự muốn tự tử. Chẳng hạn, nếu có một ai đó viết: “Nếu tôi nghe bài hát này một lần nữa, tôi sẽ tự tử” thì AI phải hiểu rằng người này không hề có ý định tự sát. Với những người thể hiện nỗi buồn cùng cực hoặc đe dọa hành động, AI ngay lập tức đánh dấu để báo về trung tâm. Với những trường hợp cực đoan, Facebook có nhóm phản ứng nhanh can thiệp.
Khoảng một năm trước, Facebook bổ sung công nghệ tự động đánh dấu các bài viết có dấu hiệu về tự tử để gửi tới các công ty phân tích. Tháng 11/2017, Facebook chứng minh được rằng, hệ thống mới đã có tác động. Số lượng người sử dụng Facebook xem nội dung hỗ trợ để phòng ngừa tự tử đã tăng gấp đôi.
Năm ngoái, Joseph Gerace, cảnh sát trưởng quận Chautauqua của New York, cứu được một phụ nữ có ý định tự tử ở quận mình. Ngay sau khi nhận được tin của đội bảo mật Facebook tại Ireland báo về đường dây nóng 911 về một người có ý định tử tự, ông Gerace cho quân vào cuộc ngay. Ông Gerace nói: “Chúng tôi không xâm phạm vào cuộc sống cá nhân của mọi người. Chúng tôi chỉ cố can thiệp khi có khủng hoảng”.
Dan Muriello, một kỹ sư phần mềm của nhóm tình thương Facebook, nói: “Chúng tôi thấy cần thiết để mọi người giúp đỡ nhanh nhất có thể và nhận được nhiều người giúp đỡ nhất. Các phản ứng càng nhanh thì càng thêm nhiều mạng sống được cứu”.
Hơn 2,1 tỷ người dùng Facebook nên phần mềm mới đóng vai trò quan trọng trong việc giảm thiểu tình trạng tự tử. Với việc thuê chuyên gia nổi tiếng Yann LeCun lãnh đạo phòng nghiên cứu của mình từ năm 2013, Facebook hy vọng sẽ sớm hoàn thành mục tiêu đề ra cùng với nhiều tính năng mới khác.
Tác giả: LAN ANH (theo CNBC)
Nguồn tin: Báo Tiền phong
