Η Ομοσπονδιακή Επιτροπή Εμπορίου ερευνά την OpenAI για πιθανή πρόκληση βλάβης στους χρήστες

Μεταφράζει η Volunteer Team

Η Ομοσπονδιακή Επιτροπή Εμπορίου (Federal Trade Comission, FTC) ερευνά την OpenAI για πιθανές παραβιάσεις της νομοθεσίας περί προστασίας των καταναλωτών, ζητώντας εκτεταμένα αρχεία από την εταιρεία που κατασκευάζει το ChatGPT σχετικά με το χειρισμό των προσωπικών δεδομένων, το ενδεχόμενο να δίνει στους χρήστες ανακριβείς πληροφορίες και τους “κινδύνους βλάβης για τους καταναλωτές, συμπεριλαμβανομένης της δυσφήμισης”.

Η διενέργεια της έρευνας απειλεί να περιπλέξει τη σχέση της OpenAI με τους υπεύθυνους χάραξης πολιτικής, πολλοί από τους οποίους έχουν εντυπωσιαστεί από την τεχνολογία της εταιρείας και τον διευθύνοντα σύμβουλό της, Sam Altman. Θα μπορούσε, επίσης, να εστιάσει περαιτέρω την προσοχή στον ρόλο της OpenAI στην συζήτηση σχετικά με την απειλή, που μπορεί να θέσει η τεχνητή νοημοσύνη για τις θέσεις εργασίας, την εθνική ασφάλεια και τη δημοκρατία.

Σε ένα ερευνητικό αίτημα 20 σελίδων που εξέδωσε αυτή την εβδομάδα, η FTC ζήτησε από την OpenAI να απαντήσει σε δεκάδες αιτήματα, που κυμαίνονταν από το πώς αποκτά τα δεδομένα, που χρησιμοποιεί για να εκπαιδεύσει τα μεγάλα γλωσσικά μοντέλα της, μέχρι και τις περιγραφές της “ικανότητας του ChatGPT να παράγει δηλώσεις για πραγματικά άτομα που είναι ψευδείς, παραπλανητικές ή υποτιμητικές”. Το έγγραφο αναφέρθηκε για πρώτη φορά από την Washington Post την Πέμπτη και ένα πρόσωπο που γνωρίζει το θέμα επιβεβαίωσε τη γνησιότητά του στο CNN. Η OpenAI δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό. Η FTC αρνήθηκε να σχολιάσει.

Το αίτημα παροχής πληροφοριών, το οποίο θεωρείται ένα είδος διοικητικής κλήτευσης, ζητά επίσης κατάθεση από την OpenAI σχετικά με τυχόν καταγγελίες που έχει λάβει από το κοινό, καταλόγους αγωγών στις οποίες εμπλέκεται και λεπτομέρειες σχετικά με τη διαρροή δεδομένων που αποκάλυψε η εταιρεία τον Μάρτιο του 2023 και σύμφωνα με την οποία είχε εκθέσει προσωρινά το ιστορικό συνομιλιών και τα δεδομένα πληρωμών των χρηστών. Καλεί για περιγραφές του τρόπου με τον οποίο η OpenAI δοκιμάζει, βελτιώνει και χειρίζεται τους αλγορίθμους της, ιδίως για να παράγει διαφορετικές απαντήσεις ή να ανταποκρίνεται σε κινδύνους, και σε διαφορετικές γλώσσες. Το αίτημα ζητά, επίσης, από την εταιρεία να εξηγήσει τυχόν μέτρα που έχει λάβει για την αντιμετώπιση περιπτώσεων “ψευδαισθήσεων”, ένας όρος της βιομηχανίας που περιγράφει αποτελέσματα όπου μια τεχνητή νοημοσύνη παράγει ψευδείς πληροφορίες.

Η έρευνα της FTC είναι το σαφέστερο παράδειγμα άμεσης κυβερνητικής ρύθμισης της τεχνητής νοημοσύνης στις ΗΠΑ, καθώς οι νομοθέτες στο Κογκρέσο πασχίζουν να ενημερωθούν για μια ταχέως εξελισσόμενη βιομηχανία πριν από την αναμενόμενη ώθηση που αναμένεται να δοθεί αυτό το φθινόπωρο για τη σύνταξη νέας νομοθεσίας που θα επηρεάσει τον τομέα. Οι προσπάθειες των ΗΠΑ έχουν μείνει σε μεγάλο βαθμό πίσω σε σχέση με άλλους παγκόσμιους φορείς χάραξης πολιτικής. Οι νομοθέτες της Ευρωπαϊκής Ένωσης, για παράδειγμα, βαδίζουν προς την οριστικοποίηση της νομοθεσίας-ορόσημο που απαγορεύει τη χρήση της τεχνητής νοημοσύνης για την προληπτική αστυνόμευση και εφαρμόζει περιορισμούς στα σενάρια χρήσης της σε περιπτώσεις υψηλού κινδύνου.

Η έρευνα αυτή έρχεται μετά τις επανειλημμένες προειδοποιήσεις του οργανισμού προς τις επιχειρήσεις να μην προβάλλουν υπερβολικούς ισχυρισμούς σχετικά με την τεχνητή νοημοσύνη και να μην κάνουν κατάχρηση της τεχνολογίας με τρόπο που να δημιουργεί διακρίσεις. Έχει σημειωθεί σε αναρτήσεις σε ιστολόγια και δημόσιες παρατηρήσεις ότι οι εταιρείες που χρησιμοποιούν τεχνητή νοημοσύνη θα λογοδοτήσουν για τυχόν αθέμιτες και παραπλανητικές πρακτικές που συνδέονται με την τεχνολογία. Ως ο κορυφαίος παρατηρητής της χώρας για την προστασία των καταναλωτών, η FTC είναι εξουσιοδοτημένη να διώκει τις καταχρήσεις της ιδιωτικής ζωής, το αναληθές μάρκετινγκ και άλλες βλαπτικές ενέργειες.

Η πρόεδρος της FTC, Lina Khan, έχει υποστηρίξει ότι η υφιστάμενη εντολή του Κογκρέσου παρέχει στην FTC πλήρη εξουσιοδότηση για τη δίωξη καταχρηστικών χρήσεων της τεχνητής νοημοσύνης. Για παράδειγμα, ενώ η τεχνητή νοημοσύνη θα μπορούσε να συμβάλει στην “εκτόξευση” των απατών, η FTC έχει ήδη μακρά ιστορία στην επιβολή της νομοθεσίας κατά των απατεώνων, δήλωσε η Khan στους νομοθέτες τον Απρίλιο. “Παρόλο που αυτά τα εργαλεία είναι νέα, δεν εξαιρούνται από τους υφιστάμενους κανόνες και η FTC θα επιβάλει σθεναρά τους νόμους που μας έχει ανατεθεί να διαχειριζόμαστε, ακόμη και σε αυτή τη νέα αγορά”, έγραψε η Khan σε άρθρο της στους New York Times.

Ορισμένοι επικριτές του OpenAI κατέθεσαν προηγουμένως καταγγελία στην FTC, υποστηρίζοντας ότι η αλγοριθμική προκατάληψη, οι ανησυχίες για την προστασία της ιδιωτικής ζωής και η τάση του ChatGPT απέναντι σε ψευδαισθήσεις μπορεί να παραβιάζουν τη νομοθεσία των ΗΠΑ για την προστασία των καταναλωτών.

Η OpenAI έχει μιλήσει ανοιχτά για ορισμένους από τους περιορισμούς των προϊόντων της. Για παράδειγμα, η λευκή βίβλος που συνδέεται με την τελευταία έκδοση του GPT, το GPT-4, εξηγεί ότι το μοντέλο μπορεί να “παράγει περιεχόμενο που είναι μη λογικό ή αναληθές σε σχέση με ορισμένες πηγές”. Το OpenAI κάνει επίσης παρόμοιες γνωστοποιήσεις σχετικά με την πιθανότητα εργαλεία όπως το GPT να οδηγήσουν σε ευρείες διακρίσεις εις βάρος μειονοτήτων ή άλλων ευάλωτων ομάδων.

Πηγή:

https://edition.cnn.com/2023/07/13/tech/ftc-openai-investigation/index.html