Μετάφραση από τη Βασιλική Δεληκωστοπούλου, Εγκληματολόγος

 

Οι τεχνικοί του Facebook έχουν αναπτύξει μια νέα μέθοδο για να βοηθήσουν να εντοπιστούν και να αποτραπούν επιβλαβείς συμπεριφορές, όπως χρήστες του να διαδίδουν ανεπιθύμητα μηνύματα (Spam), να εξαπατούν άλλους ή να προβαίνουν σε αγοραπωλησίες όπλων και ναρκωτικών.

Υπάρχει τώρα η δυνατότητα να προσομοιάσουν όλες αυτές τις ενέργειες των κακόβουλων χρηστών χρησιμοποιώντας AI bots, ένα είδος δηλαδή ψηφιακών βοηθών- robot, τα οποία και θα «τρέχουν» σε μια παράλληλη έκδοση του Facebook. Στη συνέχεια, οι ερευνητές μπορούν να μελετήσουν τη συμπεριφορά των bots κατά την προσομοίωση και να πειραματιστούν με νέους τρόπους για να τα σταματήσουν. Ο προσομοιωτής είναι γνωστός ως WW, προφέρεται “Dub Dub” και βασίζεται στην πραγματική βάση κώδικα του Facebook.

Η εταιρεία δημοσίευσε ένα έγγραφο για το WW (ονομάστηκε έτσι επειδή  ο προσομοιωτής είναι μια περικομμένη έκδοση του WWW, του παγκόσμιου ιστού) νωρίτερα αυτό το έτος, αλλά μοιράστηκε περισσότερες πληροφορίες σχετικά με αυτό το έργο σε μια πρόσφατη στρογγυλή τράπεζα. Η έρευνα διευθύνεται από τον Mark Harman και το τμήμα AI της εταιρείας στο Λονδίνο. Μιλώντας σε δημοσιογράφους, ο Harman είπε ότι το WW ήταν ένα εξαιρετικά ευέλικτο εργαλείο που θα μπορούσε να χρησιμοποιηθεί για τον περιορισμό ενός ευρέως φάσματος επιβλαβών συμπεριφορών στον ιστότοπο και έδωσε το παράδειγμα της προσομοίωσης για την ανάπτυξη νέας άμυνας εναντίον των κακόβουλων χρηστών (scammers).

Στην πραγματική ζωή, οι scammers ξεκινούν συχνά την επίθεσή τους στοχεύοντας τις ομάδες «φίλων» των χρηστών για να βρουν πιθανούς στόχους. Για να διαμορφώσουν αυτήν τη συμπεριφορά στο WW, οι μηχανικοί του Facebook δημιούργησαν μια ομάδα «αθώων» βοηθών για να ενεργήσουν ως στόχοι και εκπαίδευσαν έναν αριθμό «κακόβουλων» βοηθών που εξερεύνησαν το δίκτυο για να προσπαθήσουν να τα εντοπίσουν.

Οι τεχνικοί έπειτα δοκίμασαν διαφορετικούς τρόπους για να σταματήσουν τα κακόβουλα bots, εισάγοντας διάφορους περιορισμούς, όπως τον περιορισμό του αριθμού των ιδιωτικών μηνυμάτων και των αναρτήσεων που θα μπορούσαν να στέλνουν τα bots κάθε λεπτό, για να δουν πώς αυτό θα επηρέαζε τη «συμπεριφορά» τους.

Ο Harman συγκρίνει το έργο του με αυτό των σχεδιαστών πόλεων που προσπαθούν να μειώσουν την ταχύτητα σε πολυσύχναστους δρόμους. Σε αυτήν την περίπτωση, οι μηχανικοί μοντελοποιούν τις ροές κίνησης σε προσομοιωτές και στη συνέχεια πειραματίζονται με την εισαγωγή δεδομένων, όπως τα καταγεγραμμένα όρια ταχύτητας σε ορισμένους δρόμους, για να δουν τι αποτέλεσμα έχουν.

Η προσομοίωση WW επιτρέπει στο Facebook να κάνει το ίδιο πράγμα με τους χρήστες του Facebook. «Εφαρμόζουμε «όρια ταχύτητας» στις ενέργειες και τις παρατηρήσεις που μπορούν να εκτελέσουν τα bots μας και διερευνούμε γρήγορα τις πιθανές αλλαγές που θα μπορούσαμε να εφαρμόσουμε για να εμποδίσουμε την επιβλαβή συμπεριφορά τους χωρίς να βλάψουμε την «κανονική» συμπεριφορά», λέει ο Harman. «Μπορούμε να το κλιμακώσουμε σε δεκάδες ή εκατοντάδες χιλιάδες bots και  παράλληλα, να αναζητήσουμε πολλά, πολλά διαφορετικά […] συστήματα περιορισμού».

Η προσομοίωση συμπεριφοράς που μελετάται, είναι μια αρκετά κοινή πρακτική στη μηχανική μάθηση, αλλά το έργο του WW είναι αξιοσημείωτο επειδή η προσομοίωση βασίζεται στην πραγματική έκδοση του Facebook. Το Facebook αναφέρεται σε αυτή την προσέγγισή του ως: «Προσομοίωση μέσω Διαδικτύου – Webbased Simulation».«Σε αντίθεση με μια παραδοσιακή διαδικασία προσομοίωσης, όπου όλα προσομοιώνονται, στην προσομοίωση μέσω διαδικτύου, οι ενέργειες και οι παρατηρήσεις πραγματοποιούνται μέσω της πραγματικής υποδομής και έτσι είναι πολύ πιο ρεαλιστικές», λέει ο Harman.Τόνισε, ωστόσο, ότι παρά τη χρήση πραγματικής υποδομής, « …τα bots δεν μπορούν να αλληλεπιδράσουν με τους χρήστες με οποιονδήποτε τρόπο. Στην πραγματικότητα δεν μπορούν, από την κατασκευή τους, να αλληλεπιδράσουν με οτιδήποτε άλλο εκτός από ρομπότ»

Συγκεκριμένα, η προσομοίωση δεν είναι ένα «οπτικό αντίγραφο» του Facebook. Οι επιστήμονες σε αυτές τις περιπτώσεις δεν μελετούν τη συμπεριφορά των ρομπότ με τον ίδιο τρόπο που μπορεί να παρακολουθούν τους ανθρώπους να αλληλεπιδρούν μεταξύ τους σε μια ομάδα Facebook. Το WW δεν παράγει αποτελέσματα μέσω του GUI του Facebook, αλλά καταγράφει όλες τις αλληλεπιδράσεις ως αριθμητικά δεδομένα. Σκεφτείτε το ως τη διαφορά μεταξύ της παρακολούθησης ενός ποδοσφαιρικού παιχνιδιού (πραγματικού Facebook) και της απλής ανάγνωσης των στατιστικών του αγώνα (WW). Αυτή τη στιγμή επίσης, το WW βρίσκεται στα ερευνητικά στάδια και καμία από τις προσομοιώσεις που η εταιρεία έχει εκτελέσει με bots δεν έχει οδηγήσει σε πραγματικές αλλαγές στο Facebook.

Ο Harman λέει ότι η ομάδα του «…εξακολουθεί να διεξάγει δοκιμές για να ελέγξει ότι οι προσομοιώσεις ταιριάζουν με τις πραγματικές συμπεριφορές με αρκετά μεγάλη πιστότητα για να δικαιολογήσουν αλλαγές στην πραγματική ζωή». Ωστόσο, πιστεύει ότι το project αυτό θα έχει ως αποτέλεσμα τροποποιήσεις στον κώδικα του Facebook έως το τέλος του έτους.Υπάρχουν σίγουρα περιορισμοί στον προσομοιωτή. Το WW δεν μπορεί να μοντελοποιήσει την πρόθεση του χρήστη, για παράδειγμα, ούτε μπορεί να προσομοιώσει περίπλοκες συμπεριφορές.

Το Facebook υποστηρίζει πως τα bots αναζητούν, στέλνουν αιτήματα φιλίας, αφήνουν σχόλια, κάνουν δημοσιεύσεις και στέλνουν μηνύματα, αλλά το πραγματικό περιεχόμενο αυτών των ενεργειών (όπως το περιεχόμενο μιας συνομιλίας) δεν προσομοιώνεται.Ο Harman λέει, ωστόσο, η δύναμη του WW είναι η ικανότητά του να λειτουργεί σε τεράστια κλίμακα. Επιτρέπει στο Facebook να εκτελεί χιλιάδες προσομοιώσεις για να ελέγχει κάθε είδους μικροαλλαγές στον ισότοπο χωρίς να επηρεάζει τους χρήστες και ταυτόχρονα να εντοπίζει νέα πρότυπα συμπεριφοράς. «Η στατιστική δύναμη που προέρχεται από μεγάλα δεδομένα εξακολουθεί να μην εκτιμάται πλήρως, νομίζω». Μία από τις πιο συναρπαστικές πτυχές του έργου είναι η δυνατότητα του WW να αποκαλύψει νέες αδυναμίες στην «αρχιτεκτονική» του Facebook μέσω των ενεργειών των bots. Τα bots μπορούν να εκπαιδευτούν με διάφορους τρόπους.

Μερικές φορές τους δίνονται σαφείς οδηγίες σχετικά με τον τρόπο δράσης. Μερικές φορές καλούνται να μιμηθούν την πραγματική συμπεριφορά και μερικές φορές τους δίνονται συγκεκριμένοι στόχοι και αφήνονται να αποφασίσουν τις δικές τους ενέργειες. Στο τελευταίο σενάριο (μια μέθοδος γνωστή ως μη εποπτευόμενη μηχανική μάθηση) μπορεί να προκύψουν απροσδόκητες συμπεριφορές, καθώς τα bots βρίσκουν τρόπους για να επιτύχουν τον στόχο τους που οι τεχνικοί δεν είναι εύκολο να προβλέψουν.

«Προς το παρόν, εστιάζουμε κυρίως στην εκπαίδευση των bots για να μιμηθούν πράγματα που γνωρίζουμε ότι συμβαίνουν στην πλατφόρμα. Αλλά στη θεωρία και στην πράξη, τα bots μπορούν να κάνουν πράγματα που δεν έχουμε ξαναδεί », λέει ο Harman. “Αυτό είναι πραγματικά κάτι που θέλουμε, γιατί τελικά θέλουμε να ξεπεράσουμε την κακή συμπεριφορά και όχι να την αφήνουμε να συνεχίζεται “Ο Harman λέει ότι η ομάδα έχει ήδη δει κάποια απροσδόκητη συμπεριφορά από τα bots, αλλά αρνήθηκε να μοιραστεί περισσότερες λεπτομέρειες, αιτιολογώντας  την κίνηση αυτή ως εμπόδιο στο δοθούν στους κακόβουλους χρήστες επιπλέον στοιχεία.

 

Πηγή:

https://www.theverge.com/2020/7/23/21333854/facebook-ai-simulation-bad-behavior-ww-web-base-simulator