Μεταφράζει η Βαρβάρα Παναρίτη, Ψυχολόγος
Οι εταιρείες είναι όλο και πιο ανήσυχες για την τεχνητή νοημοσύνη και τους τρόπους με τους οποίους μπορεί να χρησιμοποιηθεί για την (δυνητική) αύξηση της παραγωγικότητας. Αλλά είναι, επίσης, επιφυλακτικές για τους κινδύνους. Σε μια πρόσφατη έρευνα της Workday, οι επιχειρήσεις αναφέρουν την επικαιρότητα και την αξιοπιστία των υποκείμενων δεδομένων, την πιθανή μεροληψία και την ασφάλεια και την προστασία της ιδιωτικής ζωής ως τα κορυφαία εμπόδια για την εφαρμογή της τεχνητής νοημοσύνης.
Διαισθανόμενος μια επιχειρηματική ευκαιρία, ο Scott Clark, ο οποίος στο παρελθόν ήταν συνιδρυτής της πλατφόρμας εκπαίδευσης και πειραματισμού τεχνητής νοημοσύνης, SigOpt (η οποία εξαγοράστηκε από την Intel το 2020), ξεκίνησε να δημιουργήσει αυτό που περιγράφει ως “λογισμικό που καθιστά την τεχνητή νοημοσύνη αξιόπιστη και ασφαλή”. Ο Clark ίδρυσε μια εταιρεία, την Distributional, για να θέσει σε λειτουργία την αρχική έκδοση αυτού του λογισμικού, με στόχο την κλιμάκωση και την τυποποίηση των δοκιμών σε διαφορετικές περιπτώσεις χρήσης τεχνητής νοημοσύνης.
“Η Distributional χτίζει τη σύγχρονη επιχειρηματική πλατφόρμα για δοκιμές και αξιολόγηση της τεχνητής νοημοσύνης”, δήλωσε ο Clark. “Καθώς η ισχύς των εφαρμογών τεχνητής νοημοσύνης αυξάνεται, τόσο αυξάνεται και ο κίνδυνος ζημίας. Η πλατφόρμα μας έχει δημιουργηθεί για τις ομάδες προϊόντων τεχνητής νοημοσύνης για να εντοπίζουν προληπτικά και συνεχώς, να κατανοούν και να αντιμετωπίζουν τον κίνδυνο της τεχνητής νοημοσύνης πριν βλάψει τους πελάτες τους στην παραγωγή”.
Ο Clark εμπνεύστηκε το λανσάρισμα της Distributional αφού αντιμετώπισε προκλήσεις που σχετίζονται με την τεχνολογία της τεχνητής νοημοσύνης στην Intel μετά την εξαγορά της SigOpt. Καθώς επέβλεπε μια ομάδα ως αντιπρόεδρος της Intel και γενικός διευθυντής για την τεχνητή νοημοσύνη και τον υπολογισμό υψηλής απόδοσης, διαπίστωσε ότι ήταν σχεδόν αδύνατο να διασφαλίσει ότι λάμβαναν χώρα σε τακτά χρονικά διαστήματα οι δοκιμές τεχνητής νοημοσύνης υψηλής ποιότητας.
“Τα διδάγματα που άντλησα από τη σύγκλιση των εμπειριών μου έδειξαν την ανάγκη για δοκιμές και αξιολόγηση της τεχνητής νοημοσύνης”, συνέχισε ο Clark. “Είτε από ψευδαισθήσεις, αστάθεια, ανακρίβεια, ενσωμάτωση ή δεκάδες άλλες πιθανές προκλήσεις, οι ομάδες συχνά δυσκολεύονται να εντοπίσουν, να κατανοήσουν και να αντιμετωπίσουν τον κίνδυνο της τεχνητής νοημοσύνης μέσω δοκιμών. Οι σωστές δοκιμές τεχνητής νοημοσύνης απαιτούν κατανόηση σε βάθος και κατανομή, κάτι που είναι ένα δύσκολο πρόβλημα για να λυθεί”.
Το βασικό προϊόν της Distributional στοχεύει στην ανίχνευση και διάγνωση της “βλάβης” της τεχνητής νοημοσύνης από μεγάλα γλωσσικά μοντέλα (το ChatGPT της OpenAI) και άλλους τύπους μοντέλων τεχνητής νοημοσύνης, προσπαθώντας να ανακαλύψει ημι-αυτόματα τι, πώς και πού πρέπει να δοκιμαστούν τα μοντέλα. Το λογισμικό προσφέρει στους οργανισμούς μια “πλήρη” άποψη του κινδύνου της τεχνητής νοημοσύνης, λέει ο Clark, σε ένα περιβάλλον προ-παραγωγής.
“Οι περισσότερες ομάδες επιλέγουν να αναλάβουν τον κίνδυνο συμπεριφοράς των μοντέλων και αποδέχονται ότι τα μοντέλα θα έχουν προβλήματα”, δήλωσε ο Clark. “Ορισμένες μπορεί να δοκιμάσουν ad-hoc χειροκίνητες δοκιμές για να βρουν αυτά τα ζητήματα, οι οποίες είναι εντατικές σε πόρους, ανοργάνωτες και εγγενώς ελλιπείς. Άλλοι μπορεί να προσπαθήσουν να εντοπίσουν παθητικά αυτά τα ζητήματα με παθητικά εργαλεία παρακολούθησης αφού η τεχνητή νοημοσύνη βρίσκεται στην παραγωγή … [Για αυτό] η πλατφόρμα μας περιλαμβάνει ένα εκτεταμένο πλαίσιο δοκιμών για συνεχή έλεγχο και ανάλυση της σταθερότητας και της ευρωστίας, ένα διαμορφωμένο ταμπλό δοκιμών για την οπτικοποίηση και την κατανόηση των αποτελεσμάτων των δοκιμών και μια έξυπνη σουίτα δοκιμών για το σχεδιασμό, την ιεράρχηση και τη δημιουργία του σωστού συνδυασμού δοκιμών”.
Τώρα, ο Clark ήταν ασαφής ως προς τις λεπτομέρειες του πώς λειτουργούν όλα αυτά – και ως προς τις γενικές γραμμές της πλατφόρμας Distributional. Είναι πολύ νωρίς, είπε προς υπεράσπισή του- η Distributional βρίσκεται ακόμη στη διαδικασία συνδιαμόρφωσης του προϊόντος με τους επιχειρηματικούς εταίρους.
Δεδομένου, λοιπόν, ότι η Distributional είναι δεν έχει ακόμα έσοδα, ούτε και έχει ξεκινήσει η κυκλοφορία και χωρίς να υπάρχουν πελάτες που να πληρώνουν, πώς μπορεί να ελπίζει να ανταγωνιστεί τις πλατφόρμες δοκιμών και αξιολόγησης της τεχνητής νοημοσύνης που υπάρχουν ήδη στην αγορά; Εξάλλου, υπάρχουν πολλές εταιρείες, συμπεριλαμβανομένων των Kolena, Prolific, Giskard και Patronus – πολλές από τις οποίες είναι καλά χρηματοδοτημένες. Και σαν να μην ήταν αρκετά έντονος ο ανταγωνισμός, τεχνολογικοί γίγαντες όπως το Google Cloud, το AWS και το Azure προσφέρουν επίσης εργαλεία αξιολόγησης μοντέλων.
Αν όλα πάνε σύμφωνα με το σχέδιο, η Distributional θα αρχίσει να παράγει έσοδα κάποια στιγμή το επόμενο έτος, μόλις η πλατφόρμα της ξεκινήσει τη γενική της διαθεσιμότητα και μερικοί από τους συνεργάτες σχεδιασμού της μετατραπούν σε πελάτες επί πληρωμή. Εν τω μεταξύ, η startup αντλεί κεφάλαια από VCs: H Distributional ανακοίνωσε σήμερα ότι έκλεισε έναν κύκλο ύψους 11 εκατομμυρίων δολαρίων υπό την ηγεσία του Martin Casado της Andreessen Horowitz και με τη συμμετοχή των Operator Stack, Point72 Ventures, SV Angel, Two Sigma και επενδυτικών-αγγέλων.
“Ελπίζουμε να εγκαινιάσουμε έναν ενάρετο κύκλο για τους πελάτες μας”, δήλωσε ο Clark. “Με καλύτερες δοκιμές, οι ομάδες θα έχουν μεγαλύτερη αυτοπεποίθηση αναπτύσσοντας την τεχνητή νοημοσύνη στις εφαρμογές τους. Καθώς θα αναπτύσσουν περισσότερη τεχνητή νοημοσύνη, θα δουν τον αντίκτυπό της να αυξάνεται εκθετικά. Και καθώς θα βλέπουν αυτόν τον αντίκτυπο να κλιμακώνεται, θα την εφαρμόζουν σε πιο σύνθετα και ουσιαστικά προβλήματα, τα οποία με τη σειρά τους θα χρειάζονται ακόμη περισσότερες δοκιμές για να διασφαλίσουν ότι είναι ασφαλής, αξιόπιστη και ασφαλής”.
Πηγή:
Η εθελοντική ομάδα του CSI Institute, αποτελούμενη από εξειδικευμένους επιστήμονες όπως, ψυχολόγους, εγκληματολόγους, κοινωνιολόγους καθώς και τεχνικούς δικτύων & πληροφορικής, είναι κοντά σας παρέχοντας πληροφορία, ενημέρωση και γνώση μέσα από ποικίλα θέματα αρθρογραφίας.