Γράφει η Καβαλιώτη Δανάη, Κοινωνιολόγος, Εγκληματολόγος (MSc), Επικεφαλής Ερευνών και Εκπαιδευτικών Προγραμμάτων CSI Institute.
Υπήρξε η εποχή όπου η παραποίηση της πραγματικότητας απαιτούσε χρόνο, τεχνική γνώση και οργανωμένη προπαγάνδα. Σήμερα, αρκεί ένα κινητό τηλέφωνο, λίγες φωτογραφίες από το Instagram και μια εφαρμογή τεχνητής νοημοσύνης. Μέσα σε ελάχιστα λεπτά, ένα πρόσωπο μπορεί να “τοποθετηθεί” πάνω σε ένα γυμνό σώμα, να εμφανιστεί σε πορνογραφικό βίντεο που δεν γυρίστηκε ποτέ και να διασυρθεί δημόσια χωρίς να έχει υπάρξει καν πραγματικό γεγονός.
Η deepfake πορνογραφία αποτελεί ίσως μια από τις πιο σκοτεινές εκφάνσεις της σύγχρονης ψηφιακής εποχής, όχι μόνο επειδή συνιστά τεχνολογική απειλή, αλλά επειδή αποκαλύπτει κάτι βαθύτερο και εξαιρετικά ανησυχητικό: την αδιάκοπη ανάγκη ελέγχου, έκθεσης και ταπείνωσης του γυναικείου σώματος ακόμη και μέσα στον κυβερνοχώρο.
Εδώ ακριβώς αρχίζει το πραγματικό κοινωνιολογικό ενδιαφέρον του φαινομένου. Η τεχνητή νοημοσύνη δεν δημιούργησε τον σεξισμό, τον αυτοματοποίησε. Η πλειονότητα των θυμάτων deepfake πορνογραφίας διεθνώς είναι γυναίκες (δημοσιογράφοι, ηθοποιοί, πολιτικοί αλλά και ανήλικες μαθήτριες). Στην Ισπανία, σοκ προκάλεσαν υποθέσεις δημιουργίας ψεύτικου γυμνού υλικού με πρόσωπα ανήλικων κοριτσιών μέσω εφαρμογών τεχνητής νοημοσύνης, στην Αυστραλία και τον Καναδά, οι αρχές προειδοποιούν για ραγδαία αύξηση deepfake σεξουαλικού περιεχομένου που χρησιμοποιείται ως μέσο εκβιασμού, εκφοβισμού και διαδικτυακής διαπόμπευσης, ενώ στην Γερμανία και την Γαλλία, οργανώσεις προστασίας δικαιωμάτων καταγράφουν όλο και περισσότερες περιπτώσεις ψηφιακής πλαστογράφησης γυναικείας εικόνας χωρίς συναίνεση, ιδιαίτερα μέσω των κοινωνικών δικτύων και κλειστών διαδικτυακών κοινοτήτων.
Στην Ελλάδα, το φαινόμενο παραμένει ακόμη υποφωτισμένο, ωστόσο οι πρώτες καταγγελίες σε σχολεία, πανεπιστήμια και εργασιακούς χώρους αποκαλύπτουν πως η χώρα δεν βρίσκεται εκτός της παγκόσμιας αυτής τάσης. Αντιθέτως, η εξάπλωση εργαλειών τεχνητής νοημοσύνης και η περιορισμένη ψηφιακή παιδεία δημιουργούν ένα περιβάλλον όπου η έμφυλη διαδικτυακή κακοποίηση μπορεί να αναπτυχθεί με ανησυχητική ταχύτητα.
Το ιδιαίτερα τρομακτικό στοιχείο δεν είναι μόνο η τεχνολογική ευκολία, αλλά η κοινωνική κανονικοποίηση της πρακτικής αυτής. Για πρώτη φορά στην ιστορία, η σεξουαλική κακοποίηση δεν απαιτεί φυσική παρουσία, αφού το σώμα μπορεί να κατασκευαστεί ψηφιακά, η εικόνα μπορεί να παραχθεί χωρίς συναίνεση, η ντροπή μπορεί να εξαπλωθεί μαζικά χωρίς να έχει συμβεί τίποτα το “πραγματικό” και όμως οι ψυχολογικές και κοινωνικές συνέπειες για το θύμα να είναι απολύτως πραγματικές. Η εγκληματολογία εδώ συναντά μια νέα μορφή βίας: τη συνθετική κακοποίηση.
Δεν πρόκειται απλώς για cyberbullying ή revenge porn με την παραδοσιακή έννοια, αλλά για μεταμοντέρνα μορφή ψηφιακής έμφυλης βίας, όπου το ίδιο το πρόσωπο μετατρέπεται σε αντικείμενο αλγορυθμικής χειραγώγησης, με αποτέλεσμα το θύμα να χάνει τον έλεγχο όχι μόνο της εικόνας του, αλλά και της ίδιας του της ψηφιακής ύπαρξης.
Το διαδίκτυο λειτουργεί με μια σχεδόν ανελέητη λογική, που λέει πως ό,τι παράγεται, αναπαράγεται. Μέσα σε λίγες ώρες, ένα deepfake βίντεο μπορεί να μοιραστεί σε δεκάδες πλατφόρμες, forums και κλειστές ομάδες Telegram, δημιουργώντας ένα ατέρμονο κύκλο έκθεσης. Η κοινωνική βλάβη δεν περιορίζεται στην ιδιωτικότητα, αγγίζει την εργασία, τις προσωπικές σχέσεις, την ψυχική υγεία αλλά και την κοινωνική ταυτότητα του θύματος. Αυτό που κάποτε αποτελούσε επιστημονική φαντασία, σήμερα μετατρέπεται σε καθημερινή μορφή ψηφιακής τρομοκράτησης.
Η κοινωνιολογική διάσταση του φαινομένου είναι εξίσου κρίσιμη. Η deepfake πορνογραφία δεν αναπτύσσεται σε κοινωνικό κενό, αλλά ανθίζει σε μια κουλτούρα υπερέκθεσης και εμπορευματοποίησης της γυναικείας εικόνας. Τα κοινωνικά δίκτυα έχουν ήδη οικοδομήσει μια οικονομία προσοχής όπου το σώμα λειτουργεί ως περιεχόμενο. Η τεχνητή νοημοσύνη έρχεται απλώς να αφαιρέσει το τελευταίο εμπόδιο, που δεν είναι άλλο από τη συναίνεση. Η εξέλιξη αυτή δημιουργεί πρωτοφανή νομικά και ηθικά ερωτήματα. Πως αποδεικνύεται η αλήθεια όταν η εικόνα δεν αποτελεί πλέον αποδεικτικό στοιχείο και πως προστατεύεται η ανθρώπινη αξιοπρέπεια όταν η τεχνητή νοημοσύνη μπορεί να αναπαράγει το πρόσωπο οποιουδήποτε; Και κυρίως: είναι έτοιμα τα κράτη να αντιμετωπίσουν εγκλήματα που εξελίσσονται ταχύτερα από τη νομοθεσία;
Το πρόβλημα δεν είναι νομικό ή τεχνολογικό, αλλά βαθιά πολιτισμικό. Η deepfake πορνογραφία δεν παράγεται μόνο από αλγορίθμους. Παράγεται από μια κοινωνία που εξακολουθεί να αντιμετωπίζει το γυναικείο σώμα ως δημόσιο πεδίο σχολιασμού, ελέγχου και κατανάλωσης. Η τεχνητή νοημοσύνη απλώς έδωσε σε αυτή τη νοοτροπία νέα εργαλεία.
Και ίσως τελικά το πιο ανησυχητικό στοιχείο της υπόθεσης να μην είναι η ίδια η τεχνολογία, αλλά το πόσο γρήγορα η κοινωνία εξοικειώνεται με την ιδέα ότι ακόμη και η ανθρώπινη εικόνα μπορεί πλέον να είναι προϊόν κατασκευής, εκμετάλλευσης και ψηφιακής βίας.