AI: Η Anthropic μπλόκαρε το γλωσσικό εργαλείο «Claude» από έρευνα για την ανάπτυξη βιολογικών όπλων

Στην αποκάλυψη ότι χρειάστηκε να εντοπίσει και να διακόψει σοβαρές περιπτώσεις κακής χρήσης των μοντέλων της προχώρησε η αμερικανική εταιρεία Anthropic. Στην πρώτη έκθεση Threat Intelligence που έδωσε στη δημοσιότητα, η εταιρεία περιγράφει περιστατικά που καταγράφηκαν από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026, τα οποία αφορούσαν τα μοντέλα Claude, Haiku, Sonnet και Opus.

Οι δραστηριότητες αυτές κάλυπταν ένα ευρύ φάσμα απειλών, συμπεριλαμβανομένων κυβερνοεπιθέσεων, επιχειρήσεων παρακολούθησης, πολιτικής προπαγάνδας, αλλά και ερευνών που θα μπορούσαν να αξιοποιηθούν στην ανάπτυξη βιολογικών και συμβατικών όπλων. Η δημοσιοποίηση των ευρημάτων έγινε, σύμφωνα με την εταιρεία, στο πλαίσιο της ευθύνης που φέρει για την αποκάλυψη της κακόβουλης χρήσης των τεχνολογιών της.

Έρευνα για επικίνδυνες μεταλλάξεις ιών

Ανάμεσα στα πιο ανησυχητικά περιστατικά ήταν η αίτηση βοήθειας για τη σύνταξη πρότασης επιστημονικής χρηματοδότησης που αφορούσε μελέτες gain-of-function στον ιό Τσικουνγκούνια. Η έρευνα επικεντρωνόταν σε μεταλλάξεις για την ενίσχυση της μεταδοτικότητας του ιού και την αποφυγή της ανοσολογικής απόκρισης. Παρότι τέτοιες μελέτες μπορούν θεωρητικά να συμβάλουν στη δημιουργία εμβολίων, ενέχουν τον κίνδυνο κατασκευής πιο επικίνδυνων παθογόνων, οδηγώντας την Anthropic στο μπλοκάρισμα του αιτήματος.

Συνολικά καταγράφηκαν πέντε παρόμοιες υποθέσεις, με τον επικεφαλής Threat Intelligence, Τζέικομπ Κλάιν, να διευκρινίζει ότι οι χρήστες σπάνια ζητούν ευθέως τη δημιουργία ενός βιολογικού όπλου, γεγονός που καθιστά τον εντοπισμό ιδιαίτερα σύνθετο.

Από τα συμβατικά όπλα στον κυβερνοπόλεμο

Πέραν του βιολογικού τομέα, η έκθεση κατέγραψε έξι περιπτώσεις χρήσης του Claude για την ανάπτυξη λογισμικού σχετικού με συμβατικά όπλα, όπως πυραύλους, ένοπλα drones, βόμβες, καθώς και συστήματα ελέγχου και στοχοποίησης. Στην αρένα του κυβερνοπολέμου, εντοπίστηκε δραστηριότητα ομάδας χάκερ που συνδέεται με τη Ρωσία, η οποία χρησιμοποίησε την ΑΙ για τη δημιουργία συστήματος που τροποποιούσε αυτόματα τον κώδικα κακόβουλου λογισμικού ώστε να αποφεύγει τα συστήματα ασφαλείας.

Παράλληλα, καταγράφηκαν εμπλοκές κινεζικών εργαστηρίων ΑΙ, της ομάδας «ShinyHunters», αλλά και εκστρατείες πολιτικής επιρροής μέσω εκατοντάδων ψεύτικων λογαριασμών στα μέσα κοινωνικής δικτύωσης.

Η αλλαγή επιπέδου κινδύνου στα νέα μοντέλα

Η Anthropic παραδέχεται ανοιχτά ότι η αύξηση της ισχύος των νέων μοντέλων αλλάζει ριζικά το επίπεδο του κινδύνου. Ενώ παλαιότερα συστήματα, όπως τα Claude Opus 4 και Claude Sonnet 4.5, δεν διέθεταν τις δυνατότητες να βοηθήσουν ουσιαστικά έναν έμπειρο χρήστη σε επικίνδυνες βιολογικές έρευνες, η εταιρεία δηλώνει ότι δεν μπορεί να δώσει την ίδια διαβεβαίωση για τα σημερινά μοντέλα. Για τον λόγο αυτό, έχει αυστηροποιήσει τα μέτρα προστασίας για έρευνες διπλής χρήσης, έχει ενσωματώσει τα νέα ευρήματα στα συστήματα πρόληψης και έχει ενημερώσει τις αρμόδιες κυβερνητικές αρχές.

Το στοίχημα του ελέγχου της τεχνητής νοημοσύνης

Η δημοσιοποίηση της έκθεσης συμπίπτει με την κλιμάκωση των ανησυχιών από την επιστημονική κοινότητα, αλλά και με την πρόσφατη αποχώρηση ερευνητή ασφαλείας της ίδιας της Anthropic, ο οποίος εξέφρασε φόβους για την υπερβολικά ταχεία ανάπτυξη ολοένα και πιο ισχυρών συστημάτων.

Το κρίσιμο ερώτημα που προκύπτει δεν αφορά πλέον μόνο τα όρια των δυνατοτήτων της τεχνητής νοημοσύνης, αλλά το κατά πόσο οι εταιρείες και οι κυβερνήσεις μπορούν να διατηρήσουν τον έλεγχο πριν οι τεχνολογικές εξελίξεις ξεπεράσουν οριστικά τα υπάρχοντα μέτρα ασφαλείας.