Τον περασμένο Νοέμβριο, η OpenAI ανακοίνωσε την έναρξη ενός marketplace όπου οποιοσδήποτε θα μπορούσε να δημιουργήσει και να βρει εξατομικευμένες εκδόσεις της τεχνολογίας ChatGPT, με την εταιρεία να δηλώνει ότι «τα καλύτερα GPTs θα εφευρεθούν από την κοινότητα». Ωστόσο, μόλις εννέα μήνες μετά την επίσημη έναρξη του καταστήματος, μία ανάλυση από το Gizmodo αποκάλυψε ότι πολλοί προγραμματιστές χρησιμοποιούν την πλατφόρμα για να προσφέρουν GPTs που φαίνεται να παραβιάζουν τις πολιτικές της OpenAI.
Μεταξύ των GPTs που παραβιάζουν αυτές τις πολιτικές περιλαμβάνονται εργαλεία που δημιουργούν ρητά πορνογραφικό περιεχόμενο, βοηθούν τους μαθητές να αντιγράψουν χωρίς να ανιχνεύονται και παρέχουν ιατρικές και νομικές συμβουλές χωρίς τις κατάλληλες προϋποθέσεις. Στις 2 Σεπτεμβρίου, η κεντρική σελίδα του marketplace προωθούσε τουλάχιστον τρία GPTs που φαινόταν να παραβιάζουν τις πολιτικές της OpenAI: ένα chatbot «Θεραπευτής – Ψυχολόγος», έναν «καθηγητή φυσικής κατάστασης και διατροφής με PhD» και το BypassGPT, ένα εργαλείο που είχε σχεδιαστεί για να βοηθά τους μαθητές να ξεπερνούν τα συστήματα ανίχνευσης γραπτών που δημιουργούνται από τεχνητή νοημοσύνη.
Η αναζήτηση στο κατάστημα για τον όρο «NSFW» (Not Safe For Work) έδειξε αποτελέσματα όπως το NSFW AI Art Generator, ένα GPT που είχε χρησιμοποιηθεί περισσότερες από 10.000 φορές για τη δημιουργία πορνογραφικού περιεχομένου. Ο ιστότοπος που συνδέεται με το GPT αυτό αναφέρει σαφώς τον σκοπό του: «Δημιουργήστε σεξουαλικό περιεχόμενο με τεχνητή νοημοσύνη για να ικανοποιήσετε τις σκοτεινές επιθυμίες σας».
Ο Milton Mueller, διευθυντής του Internet Governance Project στο Τεχνολογικό Ινστιτούτο της Γεωργίας, σχολίασε ότι «η OpenAI έχει μια αποκαλυπτική όραση για την τεχνητή νοημοσύνη και πώς μας σώζει από αυτή, αλλά είναι διασκεδαστικό το γεγονός ότι δεν μπορούν καν να επιβάλουν κάτι τόσο απλό όπως η απαγόρευση του σεξουαλικού υλικού με τεχνητή νοημοσύνη την ίδια στιγμή που λένε ότι οι πολιτικές τους θα σώσουν τον κόσμο».
Η Gizmodo ενημέρωσε την OpenAI για περισσότερα από 100 GPTs που φαινόταν να παραβιάζουν τις πολιτικές της, οδηγώντας στην αφαίρεση πολλών εργαλείων, όπως δημιουργούς AI πορνογραφικού περιεχομένου, deepfake creators και chatbots που παρείχαν προτάσεις για στοιχήματα. Ωστόσο, πολλά από τα GPTs που προωθούσαν απατηλές λύσεις για ακαδημαϊκή αντιγραφή και παρείχαν ιατρικές συμβουλές παρέμεναν διαθέσιμα και μάλιστα προβάλλονταν στην κεντρική σελίδα του καταστήματος.
Το Bypass Turnitin Detection, ένα άλλο GPT που υπόσχεται να βοηθήσει τους μαθητές να αποφύγουν τα συστήματα ανίχνευσης λογοκλοπής, έχει χρησιμοποιηθεί περισσότερες από 25.000 φορές. Ένα άλλο εργαλείο, το DoctorGPT, ισχυρίζεται ότι «παρέχει ιατρικές πληροφορίες και συμβουλές βασισμένες σε αποδείξεις», ενώ ταυτόχρονα έχουν επισημανθεί GPTs που προωθούν νομικές συμβουλές χωρίς καμία αποποίηση ευθύνης.
Η OpenAI, μέσω της εκπροσώπου της Taya Christianson, απάντησε ότι «έχουμε λάβει μέτρα κατά των GPTs που παραβιάζουν τις πολιτικές μας. Χρησιμοποιούμε έναν συνδυασμό αυτοματοποιημένων συστημάτων, ανθρώπινης αξιολόγησης και αναφορών χρηστών για την ανίχνευση και αξιολόγηση GPTs που ενδέχεται να παραβιάζουν τους κανόνες μας. Παρέχουμε επίσης εργαλεία αναφοράς εντός της εφαρμογής για τους χρήστες».
Οι προκλήσεις που αντιμετωπίζει η OpenAI όσον αφορά τη διαχείριση περιεχομένου δείχνουν την πολυπλοκότητα της τεχνολογίας και της ηθικής που τη συνοδεύει. Όπως σημειώνει ο Mueller, «δώσε μου οποιαδήποτε τεχνολογία θέλεις, και μπορώ να βρω τρόπους να κάνω πράγματα που δεν θέλεις να κάνω». Αυτή η δήλωση αναδεικνύει τη δυσκολία της επιβολής κανόνων σε τόσο μεγάλης κλίμακας τεχνολογικές πλατφόρμες.
Το μέλλον του marketplace της OpenAI θα εξαρτηθεί από την ικανότητα της εταιρείας να ισορροπήσει ανάμεσα στην καινοτομία και στην υπεύθυνη χρήση της τεχνολογίας. Η διαχείριση των GPTs που παραβιάζουν τις πολιτικές της OpenAI δεν είναι απλώς ζήτημα προγραμματισμού, αλλά απαιτεί μια πιο σύνθετη προσέγγιση που συνδυάζει τεχνολογική επιτήρηση με ανθρώπινη παρέμβαση.
Πηγή:
Η εθελοντική ομάδα του CSI Institute, αποτελούμενη από εξειδικευμένους επιστήμονες όπως, ψυχολόγους, εγκληματολόγους, κοινωνιολόγους καθώς και τεχνικούς δικτύων & πληροφορικής, είναι κοντά σας παρέχοντας πληροφορία, ενημέρωση και γνώση μέσα από ποικίλα θέματα αρθρογραφίας.