Ένα πρωτοφανές περιστατικό αποκάλυψε η OpenAI, ανακοινώνοντας ότι ένας αυτόνομος πράκτορας (AI agent), ο οποίος λειτουργούσε με τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης της εταιρείας, κατάφερε να «ξεφύγει» από το ελεγχόμενο περιβάλλον δοκιμών και να προκαλέσει κυβερνοεπίθεση στην υποδομή της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.
Σε ανάρτησή της, η OpenAI εξηγεί ότι πραγματοποιούσε δοκιμές των δυνατοτήτων ορισμένων από τα πιο εξελιγμένα μοντέλα της σε απομονωμένο περιβάλλον ασφαλείας. Ωστόσο, ο αυτόνομος πράκτορας κατάφερε να παρακάμψει τους περιορισμούς, να αποκτήσει πρόσβαση στο διαδίκτυο και να εισβάλει στα συστήματα της Hugging Face, στην προσπάθειά του να ολοκληρώσει τον στόχο που του είχε τεθεί κατά τη διαδικασία των δοκιμών.
Η εταιρεία χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας, που περιλάμβανε δυνατότητες αιχμής στον κυβερνοχώρο», επισημαίνοντας ότι προχωρά ήδη στην ενίσχυση των μηχανισμών ασφαλείας της.
Η Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας ανοικτών μεγάλων γλωσσικών μοντέλων (LLMs) και συνόλων δεδομένων, είχε γνωστοποιήσει ήδη από την περασμένη εβδομάδα ότι έγινε στόχος κυβερνοεπίθεσης «διαφορετικής από οτιδήποτε είχε αντιμετωπίσει μέχρι σήμερα», υποστηρίζοντας ότι η επίθεση πραγματοποιήθηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, προκαλώντας ρίγη ανησυχίας στον χώρο της κυβερνοασφάλειας.
Ο συνιδρυτής της Hugging Face, Κλεμέν Ντελάνγκ, έγραψε σε ανάρτησή του στην πλατφόρμα Χ ότι η εταιρεία εκτιμούσε πως η επίθεση πιθανότατα προερχόταν από κάποιο κορυφαίο εργαστήριο τεχνητής νοημοσύνης, λόγω της πολυπλοκότητας του συστήματος.
«Τελικά αποδείχθηκε ότι έτσι ήταν. Είναι πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν εντελώς αυτόνομα», ανέφερε χαρακτηριστικά.
Η παραδοχή της OpenAI ότι πίσω από την κυβερνοεπίθεση βρίσκονταν τα πλέον προηγμένα μοντέλα της, παρότι λειτουργούσαν – όπως υποστηρίζει – μέσα σε «ιδιαίτερα απομονωμένο περιβάλλον», αναμένεται να εντείνει τις ανησυχίες γύρω από τις δυνατότητες αλλά και τους κινδύνους που συνεπάγονται τα μοντέλα τεχνητής νοημοσύνης νέας γενιάς.
Ο Δημοκρατικός βουλευτής του Τέξας, Γκρεγκ Κασάρ, χαρακτήρισε το περιστατικό ιδιαίτερα ανησυχητικό, σημειώνοντας ότι «η τεχνητή νοημοσύνη εξελίσσεται εξαιρετικά γρήγορα χωρίς ουσιαστικό ρυθμιστικό πλαίσιο που να διασφαλίζει την προστασία μας».
Παράλληλα, ζήτησε να καθιερωθούν υποχρεωτικοί ανεξάρτητοι έλεγχοι ασφαλείας για τα συστήματα AI, υποχρεωτική γνωστοποίηση περιστατικών κυβερνοασφάλειας και στενότερη διεθνής συνεργασία, ώστε να αποτραπούν μελλοντικές καταστροφικές εξελίξεις.
Μέχρι στιγμής, ούτε το Γραφείο του Εθνικού Διευθυντή Κυβερνοασφάλειας των ΗΠΑ, ούτε η Υπηρεσία Κυβερνοασφάλειας CISA, ούτε η Υπηρεσία Εθνικής Ασφάλειας (NSA) έχουν σχολιάσει δημόσια το περιστατικό.
Η διευθύνουσα σύμβουλος της εταιρείας Luta Security, Κέιτι Μουσούρις, εκτίμησε ότι το περιστατικό αποτελεί προάγγελο αντίστοιχων επιθέσεων στο μέλλον.
Όπως ανέφερε χαρακτηριστικά, τα σημερινά μοντέλα τεχνητής νοημοσύνης μοιάζουν «με τα εξυπνότερα χταπόδια του κόσμου που ειδικεύονται στις αποδράσεις, διαθέτοντας αμέτρητα πλοκάμια και την ικανότητα να ξεγλιστρούν από οποιοδήποτε σημείο».
Η ίδια υποστήριξε ότι τόσο τα ερευνητικά εργαστήρια όσο και οι κρατικές αρχές θα πρέπει να αναπτύξουν μηχανισμούς περιορισμού, παρακολούθησης και άμεσης ενημέρωσης όσων επηρεάζονται όταν ένα σύστημα τεχνητής νοημοσύνης καταφέρει να «αποδράσει» από τους περιορισμούς του, επισημαίνοντας ότι σήμερα τέτοιοι μηχανισμοί ουσιαστικά δεν υπάρχουν.
Από την πλευρά του, ο μηχανικός της εταιρείας κυβερνοασφάλειας Tolmo, Ματ Σουίς, σχολίασε ότι το περιστατικό δείχνει πως τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης πλησιάζουν πλέον τις δυνατότητες των πιο εξελιγμένων κυβερνοεπιτιθέμενων.
Ωστόσο, επισήμανε ότι παρόμοιες επιθέσεις μπορούν ήδη να πραγματοποιηθούν και με τεχνολογίες που βρίσκονται εκτός των κορυφαίων ερευνητικών εργαστηρίων.
«Το βλέπουμε ήδη εσωτερικά με τους δικούς μας AI agents. Δεν χρειάζεται καν να χρησιμοποιήσουμε τα πιο σύγχρονα μοντέλα για να πετύχουμε αντίστοιχα αποτελέσματα», ανέφερε.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το magazinenews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
