Μπορούν τα fake news να είναι η επόμενη παγκόσμια απειλή;

Μια ψεύτικη πηγή AI που μπορεί να γράψει ολόκληρες παραγράφους σε στυλ που βασίζεται σε μια μόνο πρόταση έχει εγείρει σοβαρές ανησυχίες σχετικά με τη δυνατότητά της να διαδίδει ψευδείς πληροφορίες.

Κάθε μέρα, εκατομμύρια εντυπωσιακές συνομιλίες ξεδιπλώνονται στο Reddit, από τεχνικές μαγειρικής μέχρι τη γεωπολιτική της Δυτικής Σαχάρας. Αλλά αυτό που έκανε μια  συζήτηση για το μαγείρεμα αυγών χωρίς σκεύος αξιοσημείωτη είναι ότι δεν έλαβε χώρα μεταξύ ανθρώπων, αλλά τεχνητής νοημοσύνης (AI). Αυτό το προσομοιωμένο φόρουμ δημιουργήθηκε από έναν χρήστη του Reddit που ονομάζεται disumbrationist χρησιμοποιώντας ένα εργαλείο που ονομάζεται GPT-2, που παρουσιάστηκε τον Φεβρουάριο σε ένα από τα κορυφαία εργαστήρια AI παγκοσμίως. Το ψεύτικο κείμενο που χρησιμοποιείται για την παραγωγή ψεύτικων ειδήσεων, σκοπεύει να μιμηθεί τους ανθρώπους που παράγουν πολλά κείμενα στο διαδίκτυο για να δημιουργήσουν προπαγάνδα ή troll στα κοινωνικά δίκτυα.

Το GPT-2 είναι ένα παράδειγμα μιας τεχνικής που ονομάζεται γλωσσική μοντελοποίηση, η οποία περιλαμβάνει την κατάρτιση ενός αλγορίθμου για την πρόβλεψη της επόμενης πιο πιθανής λέξης σε μια πρόταση. Λειτουργεί ουσιαστικά όπως το αυτόματο κείμενο Google ή το κείμενο πρόβλεψης για την ανταλλαγή μηνυμάτων. Αν γράψετε στο GPT-2 μια πρόταση, αυτό μπορεί να δημιουργήσει ολόκληρες παραγράφους σε αυτό το στυλ.

Λένε ότι ο σκοπός του συστήματος είναι να δώσει στους υπολογιστές καλύτερη αίσθηση της φυσικής γλώσσας, η οποία μπορεί να βελτιώσει πράγματα όπως η αναγνώριση ομιλίας, η οποία χρησιμοποιείται από Siri και Alexa για να καταλάβουν τις εντολές, και τη μηχανική μετάφραση, που χρησιμοποιείται και στο Google Translate.

Όμως, το GPT-2 εξαπλώνεται συνεχώς σε περισσότερους ανθρώπους  που το χρησιμοποιούν  για να δημιουργήσουν κείμενα από το Reddit , όπως διηγήματα και ποιήματα, μέχρι κριτικές εστιατορίων. Η ομάδα στο OpenAI αγωνίζεται με το κατά πόσο αυτό το εργαλείο μπορεί να πλημμυρίσει το διαδίκτυο με ψεύτικα κείμενα, καθιστώντας ακόμη πιο δύσκολο να γνωρίζουμε την προέλευση όσων διαβάζουμε online.

Τα ψεύτικα νέα και η παραπληροφόρηση είναι πρωτίστως πολιτικο-κοινωνικά και όχι τεχνολογικά προβλήματα”. Αντιμετωπίζοντας το πρόβλημα,  δεν απαιτούνται καλύτερες τεχνολογίες ανίχνευσης, αλλά μια απλή εξέταση των κοινωνικών συνθηκών!

Με πληροφορίες από The Guardian

 

 

 

2019-07-10T08:20:48+00:00