Vạch trần mạng lưới ấu dâm phát triển nhờ thuật toán trên Instagram

Mặt tối của các nền tảng truyền thông xã hội một lần nữa lại gây xôn xao dư luận khi một cuộc điều tra gần đây của Tạp chí Phố Wall (Wall Street Journal) phối hợp với các nhà nghiên cứu từ Stanford và Đại học Massachusetts Amherst tiết lộ một sự thật đau lòng. Các thuật toán đề xuất của Instagram đã vô tình nuôi dưỡng một mạng lưới “rộng lớn” những kẻ ấu dâm đang tìm kiếm nội dung và hoạt động tình dục tuổi vị thành niên bất hợp pháp. Không giống như các nền tảng dành riêng cho nội dung bất hợp pháp, Instagram không chỉ lưu trữ các hoạt động này mà còn tích cực quảng bá chúng thông qua thuật toán của mình. Tiết lộ này nhấn mạnh nhu cầu cấp thiết cần có các biện pháp mạnh mẽ hơn để bảo vệ những người dùng dễ bị tổn thương, đặc biệt là trẻ em, khỏi những nguy cơ bị lạm lụng khi sử dụng mạng xã hội này.

Phản hồi và xác nhận của Instagram
Công ty mẹ của Instagram, Meta, đã phản hồi các cáo buộc rằng họ đang tích cực hành động để chống lại các hành vi phạm tội này. Meta thừa nhận rằng họ đã nhận được báo cáo về lạm dụng tình dục trẻ em nhưng không thể xử lý chúng do lỗi phần mềm, lỗi này hiện đã được giải quyết. Ngoài việc thành lập một lực lượng đặc nhiệm nội bộ để điều tra các khiếu nại, Meta tuyên bố đã cung cấp hướng dẫn cập nhật cho những người đánh giá nội dung và đầu tư vào công nghệ để ngăn chặn những kẻ săn mồi tìm thấy hoặc tương tác với thanh thiếu niên trên nền tảng của họ. Công ty nhấn mạnh cam kết chống bóc lột trẻ em và hết sức hỗ trợ các nỗ lực thực thi pháp luật nhằm đưa tội phạm ra trước công lý.

Quy mô của mạng lưới ấu dâm và những thách thức kỹ thuật
Việc xác định quy mô chính xác của mạng lưới ấu dâm trên Instagram là một thách thức lớn do các rào cản kỹ thuật và pháp lý. Báo cáo của Tạp chí phố Wall trích dẫn nhóm nghiên cứu của Đài quan sát Internet Stanford, nhóm này đã xác định được 405 người bán tài liệu về tình dục trẻ em “tự tạo” bằng cách sử dụng thẻ bắt đầu bằng hashtag (#) liên quan đến tình dục vị thành niên. Những tài khoản này, được cho là do chính trẻ em điều hành, thường liên kết với các trang web giao dịch nội dung bên ngoài nền tảng. Báo cáo cũng nêu bật dữ liệu từ phần mềm lập bản đồ mạng Maltego, cho thấy 112 tài khoản trong số này đã thu hút được tổng cộng 22.000 người theo dõi.

Đề xuất nội dung và quảng cáo thuật toán
Các thuật toán của Instagram đóng một vai trò quan trọng trong việc kết nối những kẻ ấu dâm và dẫn đường cho họ đến với những người bán nội dung. Các hashtag lộ liễu liên quan đến khai thác trẻ em cho phép người dùng tìm kiếm tài liệu bất hợp pháp, dẫn họ đến các tài khoản quảng cáo bán nội dung tình dục trẻ em. Các tài khoản thử nghiệm do các nhà nghiên cứu thiết lập ngay lập tức nhận được rất nhiều đề xuất dành cho người mua và người bán nội dung tình dục trẻ em, cũng như các tài khoản liên kết đến các trang web giao dịch nội dung ngoài nền tảng. Việc những nội dung độc hại này dễ dàng sinh sôi nảy nở trên nền tảng cho thấy vấn đề cấp thiết hiện nay là cần phải có những quy định chặt chẽ hơn cũng như các thuật toán trên nền tảng phải được kiểm soát tốt hơn.

Nội dung gây phiền nhiễu và lời mời gặp mặt trực tiếp
Cuộc điều tra tiếp tục phát hiện ra các tài khoản trên Instagram mời người mua thực hiện các hành vi xâm phạm trẻ em. Một số tài khoản thậm chí còn cung cấp menu có giá cho các video mô tả cảnh trẻ em tự làm hại mình hoặc có hành vi tình dục với động vật. Thật đáng kinh ngạc, báo cáo của Wall Street Journal tiết lộ rằng, với mức giá phù hợp, trẻ em sẽ được điều đến các cuộc gặp gỡ trực tiếp. Điều này làm dấy lên một hồi chuông cảnh tỉnh cho thấy nguy hiểm luôn rình rập ở rất gần các em và nền tảng này cần phải có ngay các biện pháp can thiệp và phòng ngừa toàn diện.

So sánh với các nền tảng khác
Theo cuộc điều tra, Snapchat và TikTok có vẻ không tạo điều kiện thuận lợi cho mạng lưới những kẻ ấu dâm tìm kiếm nội dung lạm dụng trẻ em ở mức độ tương tự như Instagram. Bên cạnh đó, cuộc điều tra đã xác định được 128 tài khoản trên Twitter đề nghị bán tài liệu lạm dụng tình dục trẻ em. Tuy nhiên, Twitter đã không đề xuất những tài khoản như vậy ở mức độ tương tự như Instagram và nền tảng này được cho là đã xóa những tài khoản đó nhanh chóng hơn.

Những tiết lộ của cuộc điều tra của WSJ cho thấy tính cấp thiết của việc các nền tảng xã hội cần hành động ngay lập tức để bảo vệ trẻ em khỏi vấn nạn bị lạm dụng trên môi trường trực tuyến. Các nền tảng như Instagram cần tăng cường chính sách, công nghệ và cơ chế thực thi để ngăn chặn việc phổ biến và quảng bá nội dung bóc lột tình dục trẻ em. Sự hợp tác giữa các công ty công nghệ, cơ quan thực thi pháp luật và các tổ chức bảo vệ trẻ em là rất quan trọng trong việc giải quyết vấn đề này một cách toàn diện và triệt để. Tính minh bạch, các nghiên cứu và việc phát triển các công nghệ tiên tiến cũng như các quy định của chính phủ nhằm cân bằng giữa quyền riêng tư và an toàn là chìa khóa để tạo ra một môi trường kỹ thuật số an toàn hơn cho trẻ em.