Δυστυχώς, υπάρχει ένας μεγάλος όγκος από βίντεο και εικόνες παιδικής πορνογραφίας στο διαδίκτυο. Το παράνομο περιεχόμενο φιλοξενείται συχνά σε ιστοσελίδες μέσων κοινωνικής δικτύωσης, φόρουμ στο Dark Web, και σε νόμιμες ιστοσελίδες πορνογραφίας. Ένα καινούριο chatbot τεχνητής νοημοσύνης σε μια από τις μεγαλύτερες ιστοσελίδες πορνογραφίας το PornHub, προσπαθεί να αποτρέψει χρήστες να αναζητήσουν για περιεχόμενο παιδικής πορνογραφίας – CSAM (child sexual abuse material) και να τους παραπέμψει να αναζητήσουν βοήθεια.
173.904 φορές ενεργοποιήθηκε το chatbot τις πρώτες 30 μέρες λειτουργίας του. Στο Pornhub UK εμποδίζει την αναζήτηση ενός χρήστη όταν πρόκειται για λέξη ή φράση άμεσα συνδεδεμένη με υλικό παιδικής πορνογραφίας. Ο αλγόριθμος ενεργοποιείται όταν ο όρος αναζήτησης αναγνωρίζεται μέσα από την ευρεία βάση δεδομένων 28.000 λέξεων/φράσεων, οι οποίες ήταν σχετικές με αναζήτηση παιδικής πορνογραφίας στο παρελθόν.
“Συνειδητοποιήσαμε πως αυτό πρέπει να είναι όσο απλό γίνεται για τον χρήστη”, αναφέρει ο Dan Sexton, διευθυντής τεχνολογίας στο IWF (Internet Watch Foundation UK). Το σύστημα έχει ακριβώς τη λειτουργία της εκτροπής και διακοπής αναζητήσεων που αφορούν CSAM. Σταματά αυτού του είδους την συμπεριφορική ώθηση, δηλαδή την αναζήτηση περιεχομένου παιδικής πορνογραφίας. Τα αποτελέσματα δεν είναι εύκολα μετρήσιμα, αναφέρουν όσοι εργάζονται πάνω στο πρότζεκτ του chatbot.
Είναι ωστόσο δυνατό να δούμε τον χρόνο που αλληλεπιδρούν οι χρήστες με το chatbot και των αριθμό των κλικ που έκαναν ώστε να ζητήσουν βοήθεια. Πριν το PornHub ενεργοποιήσει το chatbot, παρέπεμπαν ήδη τους χρήστες που αναζητούσαν κάποιων από τους όρους της βάσης δεδομένων τους, σε μια στατική σελίδα βοήθειας του Lucy Faithfull Foundation.
Αφού το chatbot εμφανίστηκε, περισσότερες από 170.000 φορές τον Μάρτιο, 158 χρήστες συνέχισαν στην ιστοσελίδα της γραμμής βοήθειας. “Οτιδήποτε βοηθά τους ανθρώπους που είναι καινούριοι στον χώρο της παράνομης παιδικής πορνογραφίας, είναι ένα μέτρο επιτυχίας”, αναφέρει ή Hargreaves από το IWF. “Ξέρουμε ότι οι χρήστες το χρησιμοποιούν την υπηρεσία, κάνουν συστάσεις και προχωρούν στις γραμμές βοήθειας” προσθέτει.
Τον Δεκέμβριο του 2020, το PornHub διέγραψε περισσότερα από 10 εκατομμύρια βίντεο από την ιστοσελίδα του και άρχισε να απαιτεί από τους δημιουργούς περιεχομένου να επιβεβαιώσουν την πραγματική τους ταυτότητα. Το 2021, 9.000 βίντεο παιδικής πορνογραφίας αφαιρέθηκαν από το Pornhub. Όσο για το chatbot, το PornHub δηλώνει πως δεν έχει κάποιο οικονομικό όφελος και ότι το σύστημα θα τρέξει για ένα χρόνο μέχρι να αξιολογηθεί και από τον ακαδημαϊκό χώρο.
Υπάρχουν ήδη κάποιες ενδείξεις ότι αυτού του είδους η τεχνική παρέμβαση μπορεί να κάνει τη διαφορά στην αποτροπή των ανθρώπων από το υλικό σεξουαλικής κακοποίησης παιδιών και να μειώσει τον αριθμό των αναζητήσεων για CSAM στο διαδίκτυο. Εάν το σύστημα είναι επιτυχές, θα μπορούσε να διατεθεί και σε άλλους ιστότοπους και διαδικτυακές υπηρεσίες στο μέλλον. «Η λύση δεν είναι μια μαγική σφαίρα που θα σταματήσει τη ζήτηση για σεξουαλική κακοποίηση παιδιών στο διαδίκτυο», λέει ένας από τους προγραμματιστές του chatbot.
ΠΗΓΗ : wired.com
Ονομάζομαι Κλεάρτ Χύσαϊ, είμαι τελειόφοιτος του Τμήματος Επικοινωνίας και ΜΜΕ, του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών. Αυτή τη στιγμή εκτελώ την πρακτική μου στο CSIi – Cyber Security International Institute. Με ενδιαφέρουν θέματα τεχνολογίας και κυβερνοασφάλειας, πεδίο στο οποίο σκοπεύω να κάνω και το μεταπτυχιακό μου. Στον ελεύθερο μου χρόνο πηγαίνω γυμναστήριο και κάνω ποδηλασία δρόμου.