Όλο και περισσότερες χώρες έχουν ξεκινήσει να θεσπίζουν νέους νόμους για την προστασία των παιδιών και των εφήβων στις πλατφόρμες κοινωνικής δικτύωσης, καθώς ο αλγόριθμος που χρησιμοποιούν τα συγκεκριμένα μέσα συνεχίζει να προτείνει ακατάλληλο περιεχόμενο στους ανήλικους χρήστες. Ο αλγόριθμος των μέσων κοινωνικής δικτύωσης είναι ένα σύνολο κανόνων και σημάτων που κατατάσσουν το περιεχόμενο σε μια κοινωνική πλατφόρμα. Οργανώνει το περιεχόμενο στις ροές κοινωνικής δικτύωσης με βάση το πόσο πιθανό είναι να αρέσει σε κάθε μεμονωμένο χρήστη και να αλληλεπιδράσει με αυτό. Για παράδειγμα, εάν κάποιος χρήστης περάσει έστω λίγο χρόνο κοιτώντας περιεχόμενο που αφορά τον αγαπημένο του καλλιτέχνη, τότε ο αλγόριθμος θα αρχίσει να του προτείνει περιεχόμενο που αφορά τον συγκεκριμένο καλλιτέχνη. Φυσικά, κάτι τέτοιο δεν θα έπρεπε να αποτελεί πρόβλημα από τη στιγμή που ο αλγόριθμος προτείνει στον κάθε χρήστη περιεχόμενο που τον ενδιαφέρει. Ωστόσο, έχει παρατηρηθεί ότι αρκετές φορές ο αλγόριθμος, προτείνει “ακατάλληλο” περιεχόμενο σε ανήλικους χρήστες.
Συγκεκριμένα, τα ευρήματα σχετικά με την ασφάλεια των παιδιών βασίζονται σε δύο διαφορετικά πειράματα που διεξήγαγε η Wall Street Journal και η καθηγήτρια πληροφορικής του Northeastern University Laura Edelson. Δοκιμάζοντας σε διάστημα επτά μηνών, δημιούργησε λογαριασμούς ανηλίκων, κάνοντας κύλιση στην τροφοδοσία βίντεο Reels του Instagram, παρακάμπτοντας το «κανονικό» περιεχόμενο και παραμένοντας σε πιο «πικάντικα» βίντεο ενηλίκων. Μετά από μόλις 20 λεπτά κύλισης, οι λογαριασμοί κατακλύστηκαν από διαφημίσεις για «δημιουργούς σεξουαλικού περιεχομένου για ενήλικες» και προσφορές γυμνών φωτογραφιών. Κάτι τέτοιο ήταν αναμενόμενο ότι θα συνέβαινε από τη στιγμή που ο αλγόριθμος προτείνει περιεχόμενο με βάση το περιεχόμενο που κάποιος έχει ήδη καταναλώσει. Το μείζον πρόβλημα όμως βρίσκεται στο γεγονός ότι οι λογαριασμοί ανηλίκων θα έπρεπε να είναι εξ’ αρχής αποκλεισμένοι από τέτοιου είδους περιεχόμενο βάσει όσων έχει δηλώσει η συγκεκριμένη πλατφόρμα. Επιπλέον, εσωτερικά έγγραφα από το 2022 δείχνουν ότι η Meta γνώριζε ότι ο αλγόριθμός της συνιστούσε περισσότερη πορνογραφία, αίμα και ρητορική μίσους σε νεαρούς χρήστες από ότι σε ενήλικες. Παρόμοια πειράματα πραγματοποιήθηκαν και σε άλλες πλατφόρμες κοινωνικής δικτύωσης, όπως το Tik Tok και το Snapchat, αλλά δεν απέδωσαν τα ίδια αποτελέσματα.
Ακόμα, τα νέα ευρήματα ακολουθούν μια έκθεση του Νοεμβρίου που διαπίστωσε ότι ο αλγόριθμος Reels του Instagram συνιστούσε σεξουαλικό περιεχόμενο σε ενήλικες χρήστες που ακολουθούσαν μόνο παιδικούς λογαριασμούς. Μια έρευνα του Φεβρουαρίου, επίσης από τη Wall Street Journal, αποκάλυψε ότι οι υπάλληλοι της Meta είχαν προειδοποιήσει την εταιρεία για τη συνεχιζόμενη παρουσία εκμεταλλευτών γονέων και ενηλίκων κατόχων λογαριασμών στο Instagram, οι οποίοι έβρισκαν τρόπους να επωφελούνται από εικόνες παιδιών στο διαδίκτυο. Η έκθεση σημείωνε την άνοδο των «Momfluencers» που επιδίδονται σε σεξουαλικά πειράγματα με τους followers και πουλάνε συνδρομές ώστε εκείνοι να βλέπουν “προκλητικό” περιεχόμενο των παιδιών τους, όπως χορό ή να κάνουν τα μοντέλα φορώντας μαγιό. Η ίδια η Meta έχει μηνυθεί πολλές φορές για τον υποτιθέμενο ρόλο της στην εκμετάλλευση παιδιών, συμπεριλαμβανομένης μιας μήνυσης του Δεκεμβρίου που κατηγόρησε την εταιρεία ότι δημιούργησε μια «αγορά για παιδόφιλους».
Τα πρόσφατα ευρήματα σχετικά με τον ρόλο του Instagram στην προώθηση ενός δικτύου παιδεραστίας φώτισαν τις προκλήσεις και τις νομικές επιπτώσεις που αντιμετωπίζουν οι πλατφόρμες κοινωνικής δικτύωσης, όσον αφορά τη συγκράτηση του περιεχομένου και την προστασία των ανηλίκων. Οι αλγόριθμοι συστάσεων του Instagram, που έχουν σχεδιαστεί για να συνδέουν χρήστες με παρόμοια ενδιαφέροντα, δημιούργησαν ακούσια ένα δίκτυο που διευκολύνει τη διανομή υλικού σεξουαλικής κακοποίησης παιδιών. Αυτή η χρήση της πλατφόρμας του Instagram εγείρει κρίσιμα νομικά ερωτήματα σχετικά με την ευθύνη των εταιρειών κοινωνικής δικτύωσης για τη συγκράτηση του περιεχομένου και την προστασία των χρηστών, ιδίως των ανηλίκων. Η προώθηση ανήλικου σεξουαλικού περιεχομένου δεν παραβιάζει μόνο τις εσωτερικές πολιτικές της Meta, αλλά και την ομοσπονδιακή νομοθεσία. Το νομικό πλαίσιο που περιβάλλει την προστασία των παιδιών στο διαδίκτυο είναι πολύπλοκο, με εταιρείες όπως η Meta να αντιμετωπίζουν το δύσκολο έργο της εξισορρόπησης της ιδιωτικής ζωής των χρηστών και της ελευθερίας της έκφρασης με την επιτακτική ανάγκη πρόληψης παράνομων δραστηριοτήτων. Παρά τις προσπάθειες της Meta, συμπεριλαμβανομένης της αφαίρεσης 490.000 λογαριασμών για παραβίαση των πολιτικών παιδικής ασφάλειας μόνο τον Ιανουάριο του 2023, η αποτελεσματικότητα αυτών των μέτρων είναι αμφισβητήσιμη. Έχει διαπιστωθεί ότι τα εσωτερικά συστήματα της εταιρείας προτείνουν σχετικό περιεχόμενο, βοηθώντας ακούσια στην αναμόρφωση των ίδιων των δικτύων που επιδιώκει να διαλύσει.
Μια προτεινόμενη λύση είναι ο έλεγχος από την εκάστοτε πλατφόρμα για το αν ο χρήστης είναι ανήλικος ή όχι. Αν και υπάρχουν τρόποι να “ξεγελαστεί” η πλατφόρμα, σίγουρα είναι κάτι που θα μειώσει κατά πολύ την χρήση ακατάλληλου περιεχομένου από ανήλικους χρήστες. Ωστόσο, το δεύτερο σκέλος του προβλήματός, δηλαδή λογαριασμοί ενηλίκων που προβάλλουν τα παιδιά τους στο διαδίκτυο έναντι συνδρομών, είναι ένα ζήτημα αρκετά πιο περίπλοκο.
Πηγή:
https://mashable.com/article/instagram-recommends-explicit-content-minors-new-report
Ονομάζομαι Χριστίνα Μπομπογιάννη, είμαι απόφοιτη της Εγκληματολογικής Ψυχολογίας (BSc Forensic Psychology) στο ICPS, σε συνεργασία με το πανεπιστήμιο UCLAn της Αγγλίας και αυτή τη στιγμή βρίσκομαι στο στάδιο του Μεταπτυχιακού (MSc in Applied Forensic Psychology). Είμαι εθελόντρια στο το Διεθνές Ινστιτούτο Κυβερνοασφάλειας (CSI Institute) ως αρθρογράφος και υποστήριξη στα social media.