Η Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε προσπάθειες χρήσης του μοντέλου τεχνητής νοημοσύνης της για «κακόβουλες δραστηριότητες» που θα μπορούσαν να συμβάλουν στην ανάπτυξη βιολογικών όπλων, σύμφωνα με το BBC.
Τα ευρήματα, τα οποία παρουσιάζονται στην πρόσφατη έκθεση της εταιρείας σχετικά με πληροφορίες για απειλές, αποτελούν μία ακόμη προειδοποίηση από ερευνητές στον τομέα της τεχνητής νοημοσύνης και ειδικούς του κλάδου σχετικά με τους πιθανούς κινδύνους που ενέχει η τεχνολογία αυτή για την ανθρωπότητα.
Οι προειδοποιήσεις αυτές έχουν οδηγήσει σε εκκλήσεις για ανάληψη δράσης, με τον γερουσιαστή των ΗΠΑ Μπέρνι Σάντερς να ζητά την αναστολή της ανάπτυξης προηγμένης τεχνητής νοημοσύνης και την απαγόρευση της τεχνητής υπερνοημοσύνης.
Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει μέχρι στιγμής απορρίψει τέτοιου είδους φόβους, δηλώνοντας την Πέμπτη ότι ανησυχεί ότι «αν δεν κερδίσουμε στον τομέα της τεχνητής νοημοσύνης, θα βρεθούμε σε πολύ δυσμενή θέση».
Η Anthropic δημοσίευσε την τελευταία της έκθεση σχετικά με πληροφορίες για απειλές την Πέμπτη.
Τέτοιες αναφορές έχουν καταστεί πλέον ένα σύνηθες φαινόμενο σε ολόκληρο τον κλάδο της τεχνητής νοημοσύνης, καθώς οι εταιρείες επιδιώκουν να αποδείξουν ότι εντοπίζουν και αποτρέπουν τις απόπειρες κατάχρησης των μοντέλων τους.
Σε αυτές συγκαταλέγεται και η Google, η οποία ανέφερε την Τρίτη ότι κάποιος είχε προσπαθήσει να χρησιμοποιήσει το εργαλείο τεχνητής νοημοσύνης της, το Gemini, για να αποκτήσει έναν «πλήρη, αναλυτικό τεχνικό οδηγό για τη σύνθεση βιολογικών παραγόντων που μπορούν να χρησιμοποιηθούν ως όπλα».
Σύμφωνα με την έκθεσή της, το μοντέλο τεχνητής νοημοσύνης «Claude» της Anthropic χρησιμοποιήθηκε επίσης από άτομα που συνδέονται με μια εκστρατεία κυβερνοκατασκοπείας με έδρα τη Ρωσία, καθώς και από έναν ιρανικό προπαγανδιστικό οργανισμό.
Οι περιπτώσεις που εντοπίστηκαν τους τελευταίους οκτώ μήνες αφορούσαν από ψεύτικες εφαρμογές γνωριμιών και απάτες μέσω Wi-Fi ξενοδοχείων, μέχρι συστήματα παρακολούθησης που είχαν σχεδιαστεί για τον εντοπισμό αντιφρονούντων.
Η Anthropic έχει επίσης κατηγορήσει κινεζικές εταιρείες τεχνητής νοημοσύνης ότι προσπαθούν να αναπαράγουν τις δυνατότητες του Claude.
Η εκτενής έκθεση παρουσιάζει περιπτώσεις στις οποίες ομάδες που εικάζεται ότι υποστηρίζονται από κράτη, εγκληματίες, προμηθευτές λογισμικού υποκλοπής, κρατικούς προπαγανδιστικούς φορείς και άτομα με πολιτικά κίνητρα έκαναν κατάχρηση της τεχνολογίας της.
Η «κακόβουλη χρήση» των μοντέλων Claude Haiku, Sonnet και Opus αποτράπηκε μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026, ανέφερε η εταιρεία.
Καμία από τις περιπτώσεις κατάχρησης δεν αφορούσε το Claude Fable ή τα ισχυρά μοντέλα της κατηγορίας Mythos, με εξαίρεση μία περίπτωση «distillation» – της διαδικασίας εκπαίδευσης μικρότερων μοντέλων τεχνητής νοημοσύνης με τη χρήση μεγαλύτερων και ακριβότερων μοντέλων.
Εκτός από τον εντοπισμό της χρήσης των μοντέλων της για επιχειρήσεις στον κυβερνοχώρο και επιχειρήσεις επηρεασμού, παρακολούθησης, εξαπάτησης καθώς και για ανάπτυξη όπλων, η Anthropic ανέφερε ότι είχε αποκλείσει επιστήμονες που χρησιμοποιούσαν την τεχνητή νοημοσύνη της με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων.
Η έκθεση ανέδειξε «πέντε μελέτες φορέων που χρησιμοποιούσαν τα μοντέλα μας με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων».
Η βιολογική κατάχρηση, ανέφερε, αποτελεί «έναν από τους σοβαρότερους κινδύνους των πρωτοποριακών μοντέλων τεχνητής νοημοσύνης». Χωρίς τα κατάλληλα μέτρα προστασίας, τέτοιες δυνατότητες «θα μπορούσαν να έχουν καταστροφικές συνέπειες», ανέφερε η Anthropic.
«Οι ίδιες πληροφορίες που μπορούν να χρησιμοποιηθούν για την ανάπτυξη ενός βιολογικού όπλου θα μπορούσαν επίσης να χρησιμοποιηθούν για την ανάπτυξη, για παράδειγμα, ενός εμβολίου ή μιας θεραπείας για μια ασθένεια», ανέφερε η Anthropic.
Ο Τζέικομπ Κλάιν, επικεφαλής του τμήματος πληροφοριών για απειλές στην Anthropic, δήλωσε στη New York Times ότι πρόκειται για «μια κατάσταση με πολλές αποχρώσεις». «Δεν βλέπεις κάποιον, όπως συμβαίνει στα κόμικς, να λέει: “Θέλω να κατασκευάσω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», είπε.
Η έκθεση ανέφερε επίσης έξι περιπτώσεις στις οποίες το Claude χρησιμοποιήθηκε «για την ανάπτυξη λογισμικού για συμβατικά όπλα, συμπεριλαμβανομένων πυροβόλων όπλων, πυραύλων, οπλισμένων drones, βομβών και άλλων πυρομαχικών, καθώς και συστημάτων στόχευσης και ελέγχου που τα χειρίζονται».
Η έκθεση ανέφερε ότι οι κυβερνοεγκληματίες και οι χάκερ που υποστηρίζονται από κράτη χρησιμοποιούν όλο και περισσότερο την εν λόγω τεχνολογία για να διευκολύνουν τις δραστηριότητές τους.
Η ομάδα χάκερ ShinyHunters, καθώς και εργαστήρια με έδρα την Κίνα, ήταν μεταξύ αυτών που αναφέρθηκαν στην έκθεση.
Η έκθεση ανέφερε επίσης ότι μια ομάδα χάκερ, της οποίας η δραστηριότητα συνάδει με εκείνη της ρωσικής ομάδας Midnight Blizzard, φέρεται να χρησιμοποίησε τεχνητή νοημοσύνη για να δημιουργήσει ένα σύστημα που ανίχνευε αυτόματα πότε το κακόβουλο λογισμικό της εντοπιζόταν από τα συστήματα ασφαλείας και αναδιαμόρφωνε τον κώδικα έως ότου καταφέρει να αποφύγει τον εντοπισμό.
Η εταιρεία με έδρα την Καλιφόρνια ανέφερε ότι ενσωμάτωσε τα ευρήματά της στις διαδικασίες της «προκειμένου να προλαμβάνει, να εντοπίζει και να αποτρέπει καλύτερα αυτές τις δραστηριότητες στο μέλλον».
Η Anthropic ανέφερε επίσης ότι μοιράστηκε τις πληροφορίες με τις αρχές και τους εταίρους του κλάδου, όπου αυτό κρίθηκε σκόπιμο.
Η έκθεση – η πρώτη της εταιρείας φέτος – δημοσιεύεται μετά την προειδοποίηση ενός κορυφαίου ερευνητή στον τομέα της ασφάλειας της Anthropic, ο οποίος ανέφερε ότι η τεχνητή νοημοσύνη εξελίσσεται τόσο γρήγορα, που εκτιμά ότι υπάρχει πιθανότητα μεγαλύτερη του 10% να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Σε άρθρο που δημοσιεύθηκε στις 6 Σεπτεμβρίου, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, κάλεσε τον κλάδο να εφαρμόσει «εθελοντικές επιβραδύνσεις» έως ότου θεσπιστούν μέτρα προστασίας.
«Με ανησυχεί το γεγονός ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας αύξησης της τεχνητής νοημοσύνης», δήλωσε ο Pachocki, προσθέτοντας ότι η OpenAI, η εταιρεία που έχει αναπτύξει το ChatGPT, θα συνεχίσει το έργο της για τη δημιουργία μηχανισμών προστασίας, αν και απαιτούνται ευρύτερες παρεμβάσεις.
Η προειδοποίηση αυτή οδήγησε στη σύνταξη μιας ανοιχτής επιστολής προς τον πρωθυπουργό του Ηνωμένου Βασιλείου Άντι Μπέρναμ, στην οποία ζητείται η σύναψη μιας νέας πολυεθνικής συνθήκης για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης, καθώς και η συνεργασία των κυβερνήσεων σχετικά με το πώς θα πρέπει να διαμορφωθεί μια συνθήκη που θα βασίζεται στην ανάπτυξη της υπερνοημοσύνης.
Στις ΗΠΑ, ο Μπέρνι Σάντερς κατέθεσε νομοσχέδιο για την απαγόρευση της υπερνοημοσύνης της τεχνητής νοημοσύνης και την προσωρινή αναστολή της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης. «Όταν οι επιστήμονες σου λένε ότι υπάρχει μια πιθανότητα να έχει καταστροφικές επιπτώσεις για την ανθρωπότητα, πρέπει να είσαι ηλίθιος για να μην πεις: “Επιβραδύνετε την”», δήλωσε την Πέμπτη στο BBC.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το magazinenews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
