Η Lensa AI εμφανίστηκε για πρώτη φορά το 2018 από την εταιρεία Prisma και η λειτουργία της ήταν η επεξεργασία φωτογραφιών και η μετατροπή αυτών με τη χρήση φίλτρων σε έργα τέχνης. Τον Νοέμβριο του 2022, λάνσαρε το φίλτρο «Μαγικό Avatar», με το οποίο δημιουργεί πορτρέτα σε 10 διαφορετικά στυλ, που προσομοιάζουν με κάποιο καρτούν ή κάτι το εξωπραγματικό. Ωστόσο, η δημοτικότητα της εφαρμογής έχει ήδη εγείρει ερωτήματα σχετικά με την προστασία της ιδιωτικής ζωής, τη σεξουαλικοποίηση των γυναικών καθώς και την δυνητικά επιβλαβή φύση των εφαρμογών επεξεργασίας φωτογραφιών και των φίλτρων που έχουν πλημμυρίσει τα μέσα κοινωνικής δικτύωσης.
Γιατί είναι αμφιλεγόμενη η χρήση της;
Η Lensa αξιοποιεί την τεχνητή νοημοσύνη για να δημιουργεί αυτά τα εξωπραγματικά πορτρέτα. Τα πορτρέτα αυτά, ωστόσο, φαίνεται να διαιωνίζουν τον μισογυνισμό και τον φυλετικό ρατσισμό.
Πιο συγκεκριμένα οι όροι χρήσης της Lensa δίνουν στους χρήστες την οδηγία να υποβάλουν συγκεκριμένο και κατάλληλο υλικό που δεν περιέχει γυμνές φωτογραφίες ή φωτογραφίες παιδιών και οι εικονιζόμενοι/ες είναι ενήλικες. Πολλοί χρήστες, όμως, και κυρίως γυναίκες, έχουν παρατηρήσει ότι ακόμη και όταν ανεβάζουν ουδέτερες φωτογραφίες η εφαρμογή όχι μόνο δημιουργεί γυμνά ή ημίγυμνα πορτρέτα αλλά και αποδίδει έντονα σεξουαλικά χαρακτηριστικά στις εικόνες τους, όπως είναι η τοποθέτηση αυτών σε υπαινικτικές στάσεις ή η παρουσίασή τους με ενισχυμένα σωματικά χαρακτηριστικά φύλου.
Ορισμένοι χρήστες, μάλιστα, ανεβάζοντας παιδικές τους φωτογραφίες παρατήρησαν ότι τα παραγόμενα πορτρέτα εξακολουθούσαν να εμπεριέχουν σεξουαλικά υπονοούμενα. Το παράδοξο έγκειται στο ότι η Lensa δεν φαίνεται να επιβάλλει τις πολιτικές της, με βάση τις οποίες απαγορεύεται το γυμνό και η απεικόνιση ανηλίκων, ενώ δεν έχει καμία πολιτική που να ορίζει ότι οι χρήστες μπορούν να ανεβάσουν μόνο δικές τους εικόνες.
Από την άλλη πλευρά Αφροαμερικανοί χρήστες αναφέρουν ότι τα αποτελέσματα που παράγονται από τη Lensa τους παρουσιάζουν με εντελώς διαφορετικό χρώμα δέρματος. Στην πλειονότητα των αποτελεσμάτων παρουσιάζονται με λευκό δέρμα και κάποια από τα χαρακτηριστικά του προσώπου έχουν αλλαχθεί προκειμένου να ανταποκρίνονται στα δυτικά πρότυπα.
Πως χρησιμοποιούνται οι φωτογραφίες των χρηστών από τη Lensa
Η Lensa χρησιμοποιεί το πρόγραμμα Stable Diffusion, ένα μοντέλο που έχει «εκπαιδευτεί» να μαθαίνει μοτίβα μέσα από μια ηλεκτρονική βάση δεδομένων εικόνων που ονομάζεται LAION-5B. Με την ολοκλήρωση της «εκπαίδευσης», δεν στηρίζεται πλέον στη δημιουργία προτύπων από αυτές τις εικόνες, αλλά χρησιμοποιεί τα μοτίβα που έχει «μάθει» για να δημιουργήσει περισσότερο περιεχόμενο. Έπειτα, «μαθαίνει» τα χαρακτηριστικά του προσώπου των χρηστών από τις φωτογραφίες που ανεβάζουν και τα εφαρμόζει για να παράγει αυτά τα πορτρέτα.
Η ιδιοκτήτρια εταιρεία της Lensa, Prisma, αναφέρει στους όρους και προϋποθέσεις της εφαρμογής ότι οι χρήστες διατηρούν όλα τα δικαιώματα, που αφορούν το περιεχόμενο που ανεβάζουν σ’ αυτήν. Ταυτόχρονα στην πολιτική απορρήτου της επισημαίνεται ότι επιτρέπεται στην εταιρεία να χρησιμοποιεί τα προσωπικά δεδομένα των χρηστών για να εκπαιδεύει τον αλγόριθμο της τεχνητής νοημοσύνης. Οι όροι χρήσης δίνουν, επίσης, στην Lensa διαρκή, αμετάκλητη και παγκόσμια άδεια να χρησιμοποιεί τα πορτρέτα που δημιουργήθηκαν στην εφαρμογή. Με άλλα λόγια, οι χρήστες δεν αποζημιώνονται όταν η εταιρεία χρησιμοποιεί τις εικόνες τους για την ανάπτυξη της τεχνητής νοημοσύνης.
Η απόδοση ευθυνών δεν είναι τόσο εύκολη όταν το αποτέλεσμα είναι προϊόν ενός αλγορίθμου. Αυτές οι εικόνες, οι οποίες βασίζονται σε δεδομένα μηχανικής εκμάθησης, είναι αποτέλεσμα αναγνώρισης και συνδυασμού μοτίβων και συνεπώς το περιεχόμενο που παράγεται από προγράμματα που στηρίζονται σε τεχνητή νοημοσύνη παρουσιάζεται εντελώς αφιλτράριστο. Οι προκαταλήψεις των χρηστών αλλά και των ίδιων των μηχανικών επηρεάζουν την κωδικοποίηση αλλά και τον τρόπο ανάπτυξης αυτών των αλγορίθμων μηχανικής εκμάθησης. Τα πορτρέτα κατασκευάζονται στη βάση στερεοτύπων που είναι ενσωματωμένα στα στυλ που παρέχει η ίδια η εφαρμογή. Οι αλγόριθμοι απλώς αναπαράγουν, όπως είναι κατασκευασμένοι να κάνουν, αυτές τις διακρίσεις.
Πηγές:
https://news.northeastern.edu/2022/12/09/portrait–ai–app/
https://www.entrepreneur.com/business–news/what–is–lensa–ai–app–and–is–it–dangerous–for–your/441148
Η εθελοντική ομάδα του CSI Institute, αποτελούμενη από εξειδικευμένους επιστήμονες όπως, ψυχολόγους, εγκληματολόγους, κοινωνιολόγους καθώς και τεχνικούς δικτύων & πληροφορικής, είναι κοντά σας παρέχοντας πληροφορία, ενημέρωση και γνώση μέσα από ποικίλα θέματα αρθρογραφίας.