Μεταφράζει η Ιωάννα Τσακαλάκου
Η Ευρωπαϊκή Ένωση έχει μακροχρόνια φήμη για την ισχυρή νομοθεσία της σχετικά με την προστασία της ιδιωτικής ζωής. Αλλά, ένα νομοθετικό σχέδιο για την καταπολέμηση της κακοποίησης των παιδιών – είχε παρουσιαστεί επίσημα τον Μάιο του 2022- απειλεί να υποβαθμίσει την ιδιωτικότητα και την ασφάλεια εκατομμυρίων χρηστών εφαρμογών ανταλλαγής μηνυμάτων.
Η Ευρωπαϊκή Επιτροπή, η οποία αποτελεί το νομοθετικό όργανο που συνέταξε την εν λόγω πρόταση, την πλαισιώνει ως σχέδιο για την προστασία των ανηλίκων στο διαδίκτυο με την καταπολέμηση της κατάχρησης των εργαλείων της κύριας τεχνολογίας από ανθρώπους που κακοποιούν ανηλίκους, οι οποίοι, όπως ισχυρίζεται, χρησιμοποιούν περισσότερο τις εφαρμογές ανταλλαγής μηνυμάτων για τη διανομή υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) και, επιπλέον, για να αποκτήσουν πρόσβαση σε καινούργια θύματα.
Ωστόσο, ως απόρροια της άσκησης πίεσης από τον τομέα της τεχνολογίας για την ασφάλεια των παιδιών, η ΕΕ υιοθέτησε μια προσέγγιση που είναι τεχνο-λυσιτελής. Η πρωτοβουλία της Επιτροπής εστιάζει στη ρύθμιση των ψηφιακών υπηρεσιών – κυρίως των εφαρμογών ανταλλαγής μηνυμάτων- θέτοντάς τους την νομική υποχρέωση να εφαρμόζουν τεχνολογικά εργαλεία για τη σάρωση των επικοινωνιών των χρηστών, ώστε να εντοπίζουν και να αναφέρουν τις παράνομες δραστηριότητες.
Για αρκετά χρόνια, οι κύριες εφαρμογές ανταλλαγής μηνυμάτων διέθεταν προσωρινή παρέκκλιση από τους κανόνες του ευρωπαϊκού μπλοκ για την προστασία των προσωπικών δεδομένων στις ηλεκτρονικές επικοινωνίες, οι οποίοι διέπουν το απόρρητο των ψηφιακών επικοινωνιών – η εν λόγω παρέκκλιση βρίσκεται σε ισχύ μέχρι τον Μάιο του 2025, κατά την τελευταία παράτασή της- προκειμένου να μπορούν να σαρώνουν εθελοντικά τις επικοινωνίες των ατόμων για CSAM σε συγκεκριμένα περιστατικά.
Παρόλα αυτά, ο κανονισμός σχετικά με την παιδική κακοποίηση θα θεσπίσει μακροπρόθεσμους κανόνες, που ουσιαστικά θα επιβάλλουν τη σάρωση περιεχομένου με βάση την τεχνητή νοημοσύνη σε επίπεδο Ευρωπαϊκής Ένωσης.
Οι επικριτές της πρότασης ισχυρίζονται ότι θα οδηγήσει σε μια κατάσταση, όπου οι εφαρμογές ανταλλαγής μηνυμάτων θα υποχρεώνονται να χρησιμοποιούν ανεπαρκείς τεχνολογίες για τη σάρωση της ιδιωτικής αλληλογραφίας των χρηστών από προεπιλογή -όπου θα έχει ολέθριες συνέπειες για την ιδιωτικότητα των ατόμων. Επιπλέον, προβλέπουν ότι θα θέσει την ΕΕ σε τροχιά σύγκρουσης με την ισχυρή κρυπτογράφηση, διότι ο νόμος θα υποχρεώσει τις εφαρμογές κρυπτογράφησης από άκρο σε άκρο (end-to-end encryption, Ε2ΕΕ) να υποβιβάσουν την ασφάλεια τους με σκοπό να συμμορφωθούν προς τις απαιτήσεις ελέγχου περιεχομένου.
Οι προβληματισμοί, όσον αφορά την πρόταση, είναι τόσο έντονοι, που ο ίδιος ο επόπτης προστασίας δεδομένων του μπλοκ προειδοποίησε το περασμένο έτος ότι αποτελεί σημείο καμπής για τα δημοκρατικά δικαιώματα. Η νομική συμβουλευτική υπηρεσία του Ευρωπαϊκού Συμβουλίου εκτιμά, επίσης, ότι η πρόταση είναι ασυμβίβαστη με το δίκαιο της ΕΕ, σύμφωνα με διαρροή της αξιολόγησής της. Το δίκαιο της ΕΕ δεν προβλέπει την απαγόρευση της επιβολής γενικής υποχρέωσης παρακολούθησης, συνεπώς σε περίπτωση που ο νόμος ψηφιστεί, είναι πρακτικά βέβαιο ότι θα αντιμετωπίσει νομική αμφισβήτηση.
Προς το παρόν, οι συννομοθέτες της ΕΕ δεν έχουν καταφέρει να συμφωνήσουν για την περαιτέρω εξέλιξη του συγκεκριμένου θέματος. Όμως, το σχέδιο νόμου παραμένει στο προσκήνιο – όπως και όλοι οι κίνδυνοι που εγκυμονεί.
Ευρείας κλίμακας εντολές ανίχνευσης CSAM
Η πρωτότυπη εισήγηση της Επιτροπής περιέχει την προϋπόθεση ότι οι πλατφόρμες, μόλις τους επιδοθεί η εντολή ανίχνευσης, πρέπει να σαρώνουν τα μηνύματα των χρηστών, όχι μόνο για γνωστές περιπτώσεις CSAM (ήτοι εικόνες από κακοποίηση ανηλίκων που έχουν εντοπιστεί και έχουν υποστεί κατακερματισμό για ανίχνευση) αλλά και για άγνωστες CSAM (ήτοι καινούργιες εικόνες κακοποίησης). Έτσι, αυτό θα ενίσχυε περαιτέρω την τεχνική πρόκληση της ανίχνευσης παράνομου περιεχομένου με υψηλό βαθμό ακριβείας και χαμηλά ψευδώς θετικά αποτελέσματα.
Επιπλέον, ένα στοιχείο πρότασης της Επιτροπής επιβάλλει από τις εφαρμογές να ανιχνεύουν τη δραστηριότητα grooming σε πραγματικό χρόνο. Αυτό συνεπάγεται ότι, εκτός από την ανίχνευση των μεταμορφώσεων εικόνων για CSAM, οι εν λόγω πλατφόρμες θα πρέπει να είναι ικανές να αναλύσουν το περιεχόμενο των επικοινωνιών των χρηστών για να αντιληφθούν πότε ένας ενήλικος χρήστης μπορεί να προσπαθεί να παρασύρει έναν ανήλικο σε γενετήσια πράξη.
Η χρήση αυτοματοποιημένων εργαλείων για τον εντοπισμό σημείων συμπεριφοράς που μπορεί να προμηνύουν μελλοντική κατάχρηση σε γενικές αλληλεπιδράσεις μεταξύ των χρηστών των εφαρμογών υποδεικνύει ότι υπάρχει τεράστιο περιθώριο παρερμηνείας αθώων συνομιλιών. Στο σύνολο τους, οι εκτεταμένες προδιαγραφές ανίχνευσης CSAM της Επιτροπής θα καταστήσουν τις εφαρμογές μηνυμάτων της κοινής γνώμης σε εργαλεία μαζικής επιτήρησης, εκτιμούν οι αντίπαλοι της πρότασης.
Ο «έλεγχος των συνομιλιών» είναι το προσωνύμιο που έχουν επινοήσει για να περιλάβουν τις ανησυχίες σχετικά με την ψήφιση από την ΕΕ ενός νόμου που απαιτεί την καθολική ανίχνευση των ψηφιακών μηνυμάτων των πολιτών – μέχρι και τον έλεγχο των μηνυμάτων κειμένου που στέλνουν οι χρήστες.
Τι συμβαίνει με την κρυπτογράφηση από άκρο σε άκρο;
Η πρωτότυπη πρόταση κανονισμού της Επιτροπής για την καταπολέμηση της σεξουαλικής κακοποίησης ανηλίκων δεν εξαιρεί τις εφαρμογές E2EE από τις απαιτήσεις ανίχνευσης παιδικής σεξουαλικής κακοποίησης (CSAM).
Είναι δε σαφές ότι, η χρήση Ε2ΕΕ συνεπάγεται ότι οι εν λόγω εφαρμογές δεν έχουν τη δυνατότητα πρόσβασης σε αναγνώσιμες εκδόσεις των επικοινωνιών των χρηστών – διότι δεν κατέχουν κλειδιά κρυπτογράφησης – οι υπηρεσίες ασφαλούς ανταλλαγής μηνυμάτων θα είχαν να αντιμετωπίσουν ένα συγκεκριμένο πρόβλημα συμμόρφωσης, εάν απαιτούνταν νομικά από αυτές να κατανοούν το περιεχόμενο που δεν δύνανται να δουν.
Ως εκ τούτου, οι επικριτές του σχεδίου της Ευρωπαϊκής Ένωσης προειδοποιούν ότι ο νόμος θα αναγκάσει τις εφαρμογές ανταλλαγής μηνυμάτων Ε2ΕΕ να υποβαθμίσουν τις εμβληματικές δικλείδες ασφαλείας που προσφέρουν, εφαρμόζοντας τεχνολογίες όπως η ανίχνευση από την πλευρά του πελάτη ως μέτρο συμμόρφωσης.
Η πρόταση της Επιτροπής δεν αναφέρει συγκεκριμένες τεχνολογίες που θα πρέπει να αναπτύξουν οι πλατφόρμες για τον εντοπισμό υλικού σεξουαλικής κακοποίησης παιδιών (CSAM). Οι αποφάσεις μεταφέρονται σε ένα κέντρο της ΕΕ για την αντιμετώπιση της σεξουαλικής κακοποίησης ανηλίκων που θα ιδρύσει ο νόμος. Ωστόσο, οι εμπειρογνώμονες εκτιμούν ότι πιθανότητα θα χρησιμοποιηθεί για να επιβάλει την υιοθέτηση της σάρωση από την πλευρά του πελάτη.
Μια άλλη πιθανότητα είναι ότι οι πλατφόρμες που έχουν εφαρμόσει ισχυρή κρυπτογράφηση θα μπορούσαν να επιλέξουν να αποσύρουν εντελώς τις υπηρεσίες τους από την περιοχή -παραδείγματος χάριν, το Signal Messenger έχει προηγουμένως προειδοποιήσει ότι θα εγκαταλείψει την αγορά αντί να αναγκαστεί από το νόμο να θέσει σε κίνδυνο την ασφάλεια των χρηστών. Αυτή η προοπτική θα μπορούσε να αφήσει τους πολίτες στην ΕΕ χωρίς πρόσβαση σε κύριες εφαρμογές που χρησιμοποιούν πρότυπα πρωτόκολλα ασφαλείας Ε2ΕΕ για την προστασία των ψηφιακών επικοινωνιών, όπως το Signal, ή το WhatsApp που ανήκει στη Meta, ή το iMessage της Apple.
Κανένα από τα μέτρα που έχει καταρτίσει η ΕΕ δεν θα έχει το επιδιωκόμενο αποτέλεσμα της πρόληψης της παιδικής κακοποίησης, τονίζουν οι αντιτιθέμενοι στην πρόταση. Αντιθέτως, ο αντίκτυπος που προβλέπουν έχει τρομακτικές επακόλουθες συνέπειες για τους χρήστες των εφαρμογών, καθώς οι ιδιωτικές επικοινωνίες εκατομμυρίων Ευρωπαίων εκτίθενται σε ατελείς αλγόριθμους σάρωσης.
Αυτό με τη σειρά του εγκυμονεί τον κίνδυνο να προκληθούν δεκάδες ψευδώς θετικά αποτελέσματα, υποστηρίζουν ότι εκατομμύρια αθώοι πολίτες θα μπορούσαν να εμπλακούν λανθασμένα σε ύποπτη δραστηριότητα, επιβαρύνοντας την επιβολή του νόμου με μεγάλο όγκο ψευδών αναφορών.
Το σύστημα που προβλέπει η πρόταση της ΕΕ θα πρέπει να εκθέτει συστηματικά τα ιδιωτικά μηνύματα των πολιτών σε τρίτους που θα συμμετέχουν στον έλεγχο των αναφορών ύποπτου περιεχομένου που τους αποστέλλονται από τα συστήματα ανίχνευσης των πλατφόρμων. Έτσι, εάν ένα συγκεκριμένο επισημασμένο περιεχόμενο δεν καταλήξει να διαβιβαστεί στις Αρχές για έρευνα, αφού έχει αναγνωριστεί ως μη ύποπτο σε προηγούμενο σημείο της αλυσίδας αναφοράς, θα έχει αναγκαστικά, εξεταστεί από κάποιον άλλον εκτός από τον αποστολέα και τον/τους προβλεπόμενο/ους παραλήπτη/ες. Οπότε, αντίο, απόρρητο των επικοινωνιών!
Η διασφάλιση των προσωπικών επικοινωνιών που έχουν διαρρεύσει από άλλες πλατφόρμες θα αποτελούσε μια συνεχή πρόκληση για την ασφάλεια, με τον κίνδυνο να εκτεθεί περαιτέρω το αναφερόμενο περιεχόμενο, εάν υπάρχουν κακές πρακτικές ασφαλείας που εφαρμόζονται από οποιοδήποτε τρίτο μέρος που εμπλέκεται στην επεξεργασία των αναφορών περιεχομένου.
Τα άτομα χρησιμοποιούν το Ε2ΕΕ για κάποιο λόγο, και το να μη έχουν ένα σωρό μεσάζοντες να αγγίζουν τα δεδομένα τους, βρίσκεται ακριβώς εκεί.
Πού βρίσκεται αυτό το τρομακτικό σχέδιο τώρα;
Τυπικά, η νομοθέτηση της ΕΕ αποτελεί μια υπόθεση τριών πλευρών, με την Επιτροπή να προτείνει τη νομοθεσία και τους συννομοθέτες της, στο Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο, να συνεργάζονται με την εκτελεστική εξουσία του μπλοκ για να προσπαθήσουν να καταλήξουν σε έναν συμβιβασμό στον οποίο όλοι μπορούν να συμφωνήσουν.
Ωστόσο, στην περίπτωση του κανονισμού για την κακοποίηση ανηλίκων, τα θεσμικά όργανα της ΕΕ έχουν μέχρι στιγμής διαφορετικές απόψεις για την πρόταση.
Πριν από ένα χρόνο, οι νομοθέτες του Ευρωπαϊκού Κοινοβουλίου συμφώνησαν τη διαπραγματευτική τους θέση προτείνοντας σημαντικές αναθεωρήσεις στην πρόταση της Επιτροπής. Κοινοβουλευτικοί από ολόκληρο το πολιτικό φάσμα τάχθηκαν υπέρ σημαντικών τροπολογιών που αποσκοπούσαν στη συρρίκνωση των κινδύνων για τα δικαιώματα – μεταξύ των οποίων και η υποστήριξη της πλήρους εξαίρεσης των πλατφόρμων Ε2ΕΕ από τις απαιτήσεις σάρωσης.
Επιπλέον, πρότειναν τον περιορισμό της ανίχνευσης ώστε να γίνει περισσότερο στοχευμένη: προσθέτοντας μια επιφύλαξη ότι ο έλεγχος θα πρέπει να πραγματοποιείται μόνο στα μηνύματα ατόμων ή ομάδων που είναι ύποπτα για σεξουαλική κακοποίηση ανηλίκων- δηλαδή, αντί ο νόμος να επιβάλλει την γενική σάρωση σε όλους τους χρήστες, μόλις επιδοθεί εντολή εντοπισμού σε μια πλατφόρμα.
Ακόμη, μια αλλαγή που υποστήριξαν οι ευρωβουλευτές θα περιόριζε την ανίχνευση σε γνωστές και άγνωστες CSAM, καταργώντας την απαίτηση όπου οι πλατφόρμες πρέπει να εντοπίζουν τη δραστηριότητα grooming με τον έλεγχο των ανταλλαγών μηνυμάτων.
Η εκδοχή της πρότασης του κοινοβουλίου πίεζε για την ενσωμάτωση άλλων τύπου μέτρων, όπως οι απαιτήσεις για τις πλατφόρμες να βελτιώσουν την προστασία της ιδιωτικής ζωής των χρηστών με την προεπιλογή των προφίλ να μετατρέπονται σε ιδιωτικά, ώστε να μειωθεί ο κίνδυνος οι ανήλικοι να εντοπιστούν από ενήλικες-αρπακτικά.
Συνολικά, η προσέγγιση των ευρωβουλευτών φαίνεται πιο ισορροπημένη από την αρχική πρόταση της Επιτροπής. Ωστόσο, από τότε, οι εκλογές της ΕΕ έχουν αναθεωρήσει τη σύνθεση του Κοινοβουλίου. Οι απόψεις των νέων ευρωβουλευτών είναι λιγότερο σαφείς.
Επίσης, υπάρχει το ερώτημα τι θα κάνει το Ευρωπαϊκό Συμβούλιο, το όργανο που αποτελείται από εκπροσώπους των κυβερνήσεων των κρατών-μελών. Όμως, δεν έχει συμφωνήσει σε μια διαπραγματευτική εντολή σχετικά με τον φάκελο, για αυτό οι συζητήσεις με το κοινοβούλιο δεν μπόρεσαν να ξεκινήσουν.
Πέρυσι, το Συμβούλιο αγνόησε τις παρακλήσεις των ευρωβουλευτών να έρθουν σε συμφωνία με τον συμβιβασμό τους. Αντί αυτού, τα κράτη-μέλη φαίνεται να προτιμούν περισσότερο την οπτική που βρίσκεται πιο κοντά στο «σαρώστε τα πάντα» της Επιτροπής. Όμως, υπάρχουν διχογνωμίες μεταξύ των κρατών-μελών σχετικά με το πώς θα προχωρήσουν. Μέχρι στιγμής, αρκετές χώρες έχουν αντιταχθεί στα συμβιβαστικά κείμενα που τους παρουσιάζει η προεδρία του Συμβουλίου για να συμφωνήσουν σε μια εντολή.
Οι προτάσεις που διέρρευσαν κατά την διάρκεια των συζητήσεων του Συμβουλίου υποδηλώνουν ότι οι κυβερνήσεις των κρατών-μελών εξακολουθούν να προσπαθούν να διατηρήσουν τη δυνατότητα οριζόντιας σάρωσης περιεχομένου. Ωστόσο, ένα συμβιβαστικό κείμενο από τον Μάιο του 2024 προσπάθησε να τροποποιήσει τον τρόπο με τον οποίο παρουσιάστηκε αυτό – περιγράφοντας περιφραστικά τη νομική απαίτηση στις πλατφόρμες ανταλλαγής μηνυμάτων ως «upload moderation».
Αυτό προκάλεσε τη δημόσια παρέμβαση της προέδρου της Signal, Meredith Whittaker, η οποία κατηγόρησε τους νομοθέτες της ΕΕ ότι επιδίδονται σε «ρητορικά παιχνίδια» σε μια προσπάθεια να αποσπάσουν υποστήριξη για τη μαζική σάρωση των επικοινωνιών των πολιτών. Αυτό είναι κάτι που προειδοποίησε σε τόνους που δεν έχουν καμία σχέση με το θέμα, ότι θα «υπονομεύσει θεμελιωδώς την κρυπτογράφηση».
Το κείμενο που διέρρευσε τότε στον Τύπο φέρεται να πρότεινε ότι θα μπορούσε να ζητείται στους χρήστες εφαρμογών ανταλλαγής μηνυμάτων, η συγκατάθεσή τους για τη σάρωση του περιεχομένου τους. Ωστόσο, οι χρήστες που δεν θα συμφωνήσουν με τον έλεγχο θα απενεργοποιούσαν βασικές λειτουργίες της εφαρμογής τους, πράγμα που σημαίνει ότι δεν θα μπορούσαν να στέλνουν εικόνες ή διευθύνσεις URL.
Σύμφωνα με αυτό το ενδεχόμενο, οι χρήστες εφαρμογών ανταλλαγής μηνυμάτων στην ΕΕ θα αναγκαστούν ουσιαστικά να επιλέξουν μεταξύ της προστασίας της ιδιωτικής τους ζωής και της σύγχρονης εμπειρίας των εφαρμογών ανταλλαγής μηνυμάτων. Όποιος επιλέξει την προστασία της ιδιωτικής του ζωής θα υποβαθμιστεί σε ένα βασικό σύνολο λειτουργιών τύπου μόνο με κείμενο και ήχο. Ναι, αυτό είναι πραγματικά αυτό που εξετάζουν οι νομοθέτες.
Πιο πρόσφατα, υπάρχουν οι ενδείξεις ότι η υποστήριξη μπορεί να μειώνεται εντός του Συμβουλίου για να προωθηθεί η μαζική παρακολούθηση των μηνυμάτων των πολιτών. Νωρίτερα αυτό το μήνα, η Netzpolitik κάλυψε μια ανακοίνωση της ολλανδικής κυβέρνησης που ανέφερε ότι θα απέχει από έναν άλλο βελτιωμένο συμβιβασμό, επικαλούμενη ανησυχίες σχετικά με τις επιπτώσεις για το Ε2ΕΕ, καθώς και τους κινδύνους ασφαλείας που ενέχει η σάρωση από την πλευρά του πελάτη.
Νωρίτερα αυτό το μήνα, η συζήτηση του κανονισμού αποσύρθηκε από μια άλλη ημερήσια διάταξη του Συμβουλίου, προφανώς λόγω έλλειψης πλειοψηφίας.
Ωστόσο, υπάρχει μεγάλος αριθμός χωρών της ΕΕ που συνεχίζουν να υποστηρίζουν την προσπάθεια της Επιτροπής για καθολική σάρωση των μηνυμάτων. Η σημερινή ουγγρική προεδρία του Συμβουλίου φαίνεται αποφασισμένη να συνεχίσει να προσπαθεί να βρει έναν συμβιβασμό. Έτσι, ο κίνδυνος δεν έχει απομακρυνθεί.
Τα κράτη-μέλη θα μπορούσαν να καταλήξουν σε μια εκδοχή της πρότασης που να ικανοποιεί αρκετές από τις κυβερνήσεις τους, ώστε να ξεκινήσει η διαδικασία συνομιλιών με τους ευρωβουλευτές, γεγονός που θα καθιστούσε τα πάντα ανοιχτά στη διαδικασία τριμερών συζητήσεων της ΕΕ κεκλεισμένων των θυρών. Έτσι, το διακύβευμα για τα δικαιώματα των ευρωπαίων πολιτών- και τη φήμη του μπλοκ ως υπέρμαχου της ιδιωτικής ζωής- παραμένει υψηλό.
Πηγή:
Η εθελοντική ομάδα του CSI Institute, αποτελούμενη από εξειδικευμένους επιστήμονες όπως, ψυχολόγους, εγκληματολόγους, κοινωνιολόγους καθώς και τεχνικούς δικτύων & πληροφορικής, είναι κοντά σας παρέχοντας πληροφορία, ενημέρωση και γνώση μέσα από ποικίλα θέματα αρθρογραφίας.