Η σημερινή άνοδος των (πορνογραφικών) deepfakes

Γράφει η Σωτηρία Καρυοφύλλη, φοιτήτρια Ψυχολογίας

Τα τελευταία χρόνια έχει κάνει την εμφάνισή του μια νέα μορφή παραπλάνησης και δημιουργίας ρεαλιστικών ή παραποιημένων εικόνων και βίντεο στο διαδίκτυο μέσω της τεχνητής νοημοσύνης. Ο λόγος γίνεται για τα deepfakes, τα οποία χρησιμοποιούν μια μορφή τεχνητής νοημοσύνης που ονομάζεται deep learning. Στόχος είναι να δημιουργήσουν εικόνες ψεύτικων δηλώσεων ανθρώπων με πολιτική και κοινωνική επιρροή ή να αντικαταστήσουν πειστικά την ομοιότητα ενός ατόμου με αυτή ενός άλλου μέσω τεχνητής επεξεργασίας. Τέτοιου είδους βίντεο και εικόνες, που έχουν υποστεί ψηφιακή επεξεργασία χρησιμοποιούνται συχνά με σκοπό τη διάδοση ψευδών πληροφοριών, την ευρύτερη παραπληροφόρηση και χειραγώγηση της κοινής γνώμης, τον εκβιασμό και την παραβίαση της ιδιωτικότητας του ατόμου, ακόμα και την κατασκοπεία.

Πρόκειται για ένα φαινόμενο που τα τελευταία χρόνια αυξάνεται ακόμα περισσότερο. Το ΑΙ Firm Deeptrace (Εταιρία Τεχνητής Νοημοσύνης για την ανίχνευση deepfakes) εντόπισε 15.000 βίντεο στο διαδίκτυο το Σεπτέμβρη του 2019, κάτι το οποίο σχεδόν διπλασιάστηκε μέσα σε 9 μήνες. Επίσης παρατηρήθηκε ετήσια αύξηση κατά 900% σύμφωνα με το Παγκόσμιο Οικονομικό Φόρουμ (WEF). Αυτό που αξίζει να αναφερθεί είναι ότι πλέον ο καθένας μπορεί να δημιουργήσει deepfake βίντεο ή φωτογραφίες, καθώς η τεχνολογία εξελίσσεται συνεχώς. Πολύ συχνά, λοιπόν, είναι εύκολο να εντοπίσει κάποιος ένα ερασιτεχνικό deepfake “κακής ποιότητας”. Ωστόσο, προκειμένου να φαίνεται ρεαλιστικό, υπάρχει ανάγκη για μεγάλο όγκο πόρων και δεδομένων. Με τον τρόπο αυτό αποτελεί την πιο “ακριβή” μορφή απάτης, στις περιπτώσεις, που ο στόχος είναι μιας μεγάλης έκτασης χειραγώγηση του κοινού.

Γενικότερα, υπάρχουν 3 είδη απατών, που αξιοποιούν τα deepfakes. Πρόκειται για οικονομικές απάτες, επιχειρηματικούς κινδύνους και πορνογραφικά deepfakes. Στην πρώτη περίπτωση, τροποποιημένες εικόνες διασημοτήτων με πολύ υποσχόμενες οικονομικές προτάσεις, δημιουργούνται από κακόβουλους χρήστες, ώστε να αποπλανήσουν το κοινό και να αποσπάσουν χρήματα. Στη δεύτερη περίπτωση, φαίνεται πως ακόμα και εταιρίες μπορεί να απειλούνται από την ύπαρξη τέτοιου περιεχομένου, με τρόπους όπως η απειλή στελεχών, η παραπληροφόρηση των μελών ή η βιομηχανική κατασκοπεία.

Η τελευταία κατηγορία συνδέεται πολύ στενά με τη σεξουαλική κακοποίηση μέσω εικόνας, και αποτελεί μορφή έμφυλης βίας στο διαδίκτυο. Καθώς δημιουργούνται συνεχώς καινούριες τεχνικές στο διαδίκτυο, όλο και περισσότεροι επιτήδειοι μπορούν να δημιουργήσουν τέτοιου είδους αρχεία, με σκοπό την μη συναινετική διανομή σεξουαλικού υλικού, ως όπλο εναντίον των γυναικών. Τα deepfakes αυτά δημιουργούνται προσθέτοντας το πρόσωπο ενός ατόμου σε βίντεο με πορνογραφικό περιεχόμενο, παριστάνοντας ότι συμμετέχει σε αυτό. Τα θύματα πορνογραφικού deepfake παρουσιάζονται χωρίς τη συγκατάθεσή τους σε ψεύτικα βίντεο, τα οποία παραβιάζουν τα δικαιώματα και την ιδιωτικότητά τους. Υπάρχουν πολλές ψυχολογικές συνέπειες, επηρεάζεται η “φήμη” τους, στοχοποιούνται και κρίνονται για κάτι, που δεν έχει πραγματικά συμβεί.  

Με δεδομένο ότι πρόκειται για ένα διαρκώς αυξανόμενο φαινόμενο απάτης στο διαδίκτυο, αντιλαμβάνεται κανείς ότι τέτοια παραποιημένα βίντεο και εικόνες με κακόβουλο σκοπό, μπορούν να επηρεάσουν αρνητικά το ευρύ κοινό, είτε πρόκειται για γυναίκες, που είναι θύματα σεξουαλικής κακοποίησης μέσω εικόνας, είτε επιχειρηματίες ή απλοί άνθρωποι που εξαπατήθηκαν οικονομικά ή επιχειρηματικά μέσω deepfake περιεχομένου. Είναι απαραίτητο οι χρήστες να γνωρίζουν κάποιους βασικούς τρόπους προστασίας, ώστε να παραμένουν ενημερωμένοι και ευαισθητοποιημένοι στο συγκεκριμένο θέμα. Πιο συγκεκριμένα, είναι σημαντικό σε ατομικό επίπεδο ο καθένας να αναγνωρίζει κάποια βασικά χαρακτηριστικά deepfake βίντεο και φωτογραφιών, όπως π.χ.  κακός συγχρονισμός εικόνας και ήχου, περίεργο βλεφάρισμα του ματιού, σπασμωδικές κινήσεις ή παραλλαγμένος τόνος δέρματος κλπ, αποτυπώνοντας μια λιγότερο ρεαλιστική ανθρώπινη φιγούρα.

Ακόμα, σε επίπεδο επιχείρησης, πρέπει να υπάρχει ανάλογη εξοικείωση των υπαλλήλων, μέσω εκπαίδευσης από κατάλληλο προσωπικό, ώστε να γνωρίζουν λεπτομέρειες για το τι είναι τα deepfakes, πώς λειτουργούν και τι προβλήματα μπορούν να δημιουργήσουν. Με τον τρόπο αυτό, ενισχύεται το λεγόμενο “εταιρικό ανθρώπινο τείχος προστασίας”. Φυσικά απαραίτητο είναι να τηρούνται γενικά καλές πρακτικές για την κυβερνοασφάλεια, είτε με τη μορφή λογισμικού, είτε με εξειδικευμένες γνώσεις πληροφορικής και πρωτόκολλα ασφαλείας, ώστε να διατηρείται μια επιφυλακτική στάση και να γίνεται έγκυρη διασταύρωση των πληροφοριών.

Τέλος, στην περίπτωση που κάποιος  εξαπατηθεί μέσω deepfake περιεχομένου, είτε σε ατομικό επίπεδο είτε σε επίπεδο εταιρίας, καλό είναι να απευθυνθεί στις αρμόδιες αρχές για διαχείριση του περιστατικού και εντοπισμό των δραστών. Ειδικά στην περίπτωση των πορνογραφικών deepfake, όσες γυναίκες αντιληφθούν ότι έχουν πέσει θύματα, χρειάζεται να κάνουν άμεσα καταγγελία και να λάβουν την κατάλληλη ψυχοκοινωνική υποστήριξη, εφόσον το επιθυμούν.

Πηγές:

https://www.techpress.gr/index.php/archives/177518 

https://www.tandfonline.com/doi/abs/10.1080/15564886.2022.2036656 

https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them