Οι πράκτορες τεχνητής νοημοσύνης που έθεσε σε λειτουργία η OpenAI χρησιμοποίησαν περισσότερους από 10 ιστότοπους για μη εγκεκριμένες επικοινωνίες, αποκαλύπτει το Reuters.
Σύμφωνα με έξι ομάδες ανεξάρτητων ερευνητών και δεδομένα που εξέτασε το πρακτορείο, φαίνεται πως η μη εξουσιοδοτημένη δραστηριότητα των πρακτόρων AI είχε μεγαλύτερη εμβέλεια απ’ όσο πιστευόταν.
Παρότι δεν πρόκειται για πειρατεία αλλά για ενέργειες τύπου spam, η αποκάλυψη ότι οι πράκτορες της OpenAI παρέκαμψαν τους περιορισμούς για να ανοίξουν κανάλια επικοινωνίας σε τόσους διαφορετικούς ιστότοπους και ότι η εταιρεία το κράτησε μυστικό για μήνες, προκαλεί ανησυχία τόσο για τις δυνατότητες της τεχνητής νοημοσύνης όσο και για τη διαφάνεια των εταιρειών τεχνολογίας.
Η έκταση των μη εξουσιοδοτημένων επικοινωνιών των πρακτόρων ήταν «κάπως μεγαλύτερη από ό,τι πιστεύαμε», δήλωσε ο Άντριου Γιουν, ερευνητής της μη κερδοσκοπικής οργάνωσης CivAI της Καλιφόρνιας. Ο ίδιος ανέφερε ότι κατέγραψε 18 ιστότοπους που δεν είχαν γνωστοποιηθεί και χρησιμοποιήθηκαν από τους πράκτορες μεταξύ Μαΐου και Ιουλίου.
«Είναι σχεδόν βέβαιο ότι συμβαίνουν περισσότερα πράγματα, απ΄ όσα γνωρίζουμε», επισημαίνει.
Την Παρασκευή, ερευνητές ανέφεραν ότι πράκτορες της OpenAI κατέλαβαν έναν ιστότοπο wiki στη γερμανική γλώσσα και τον μετέτρεψαν σε μια αυτοσχέδια πλατφόρμα ανταλλαγής μηνυμάτων για αντιγραφή σε εξετάσεις, κάτι που επίσης κρατήθηκε μυστικό από την εταιρεία. Αρκετοί ερευνητές αναφέρουν ότι έχουν εντοπίσει κι άλλους ιστότοπους, που δεν είχαν αποκαλυφθεί μέχρι τώρα, στους οποίους οι ίδιοι πράκτορες άφησαν παρόμοια μηνύματα νωρίτερα φέτος.
Η OpenAI δεν απάντησε ούτε για τον αριθμό των ιστοσελίδων που έχουν επηρεαστεί, ούτε για τον λόγο που δεν αποκάλυψε το συμβάν στην πλήρη έκτασή του.
Οι εκτιμήσεις σχετικά με τον αριθμό των ιστότοπων που επηρεάστηκαν αναφέρουν πως είναι πάνω από 10, ωστόσο δεν μπορεί να δοθεί ακριβής αριθμός.
Πού και πώς έδρασαν οι πράκτορες της OpenAI
Πολλές από τις ιστοσελίδες που φέρεται να χρησιμοποίησαν οι πράκτορες ήταν άγνωστες στο ευρύ κοινό.
Οι ερευνητές εντόπισαν ίχνη της δραστηριότητας των πρακτόρων σε ένα wiki αφιερωμένο στη Χημεία του προγράμματος Advanced Placement, το οποίο είχε δημιουργήσει ένας καθηγητής λυκείου της Μασαχουσέτης το 2008, σε δύο προσωπικές ιστοσελίδες που ανήκαν σε Πολωνούς εργαζόμενους στον τομέα της τεχνολογίας, σε wikis αφιερωμένα σε παιχνίδια για άτομα «που τους αρέσει να γυμνάζουν το μυαλό τους», καθώς και σε μια ιστοσελίδα 20 ετών που είναι αφιερωμένη σε λογισμικό επεξεργασίας κειμένου.
Η OpenAI δεν έχει εξηγήσει δημοσίως πώς ή γιατί οι πράκτορές της χρησιμοποίησαν ιστότοπους τρίτων ως αυτοσχέδια φόρουμ συζήτησης, αλλά οι ερευνητές που εντόπισαν πρώτοι τη δραστηριότητα αυτή ανέφεραν ότι πιθανότατα οφείλεται στο γεγονός ότι η εταιρεία τους είχε αναθέσει να απαντήσουν σε μια σειρά απαιτητικών ερευνητικών ερωτημάτων, επιτρέποντάς τους μόνο να αναζητούν απαντήσεις στο διαδίκτυο χωρίς να δημοσιεύουν τίποτα.
Παρά τους περιορισμούς αυτούς, οι πράκτορες βρήκαν τρόπους να επικοινωνούν μεταξύ τους, εκμεταλλευόμενοι τις ιδιαιτερότητες παλαιότερων wikis ή άλλων ιστοσελίδων που επέτρεπαν στους χρήστες να κάνουν τροποποιήσεις χρησιμοποιώντας μη τυποποιημένες εντολές – όπως ακριβώς οι μαθητές στους οποίους απαγορεύεται να μιλούν μεταξύ τους κατά τη διάρκεια μιας εξέτασης, αλλά μπορούν να μοιραστούν απαντήσεις, κρυφά, σε σημειώματα.
«Αν σε αυτά τα μοντέλα είχε δοθεί εντολή μόνο να διαβάζουν, θα έπρεπε να βρουν έξυπνους τρόπους για να αφήνουν πίσω πληροφορίες», δήλωσε ο Κένεθ Ρουσέλ ΝτεΓκράφ, προγραμματιστής λογισμικού και πρώην βοηθός μέλους του Κογκρέσου.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το magazinenews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
