Source: Sigmalive
Ανησυχία για τη χρήση προηγμένης τεχνητής νοημοσύνης στην ανάπτυξη οπλικών συστημάτων προκαλεί νέα έκθεση της αμερικανικής εταιρείας Anthropic, σύμφωνα με την οποία ένοπλοι παράγοντες στη βόρεια Υεμένη επιχείρησαν να αξιοποιήσουν το μοντέλο Claude για την ανάπτυξη λογισμικού καθοδήγησης και πλοήγησης βαλλιστικών πυραύλων.
Όπως αναφέρει η FT, στην έκθεση, η Anthropic δεν κατονομάζει τους Χούθι, ωστόσο αναφέρεται σε «κύτταρο παραγόντων απειλής» που δρα στη βόρεια Υεμένη, περιοχή που σε μεγάλο βαθμό ελέγχεται από τους αντάρτες. Σύμφωνα με την εταιρεία, η ομάδα φέρεται να «έτρεχε» τρία διαφορετικά προγράμματα ανάπτυξης όπλων.
Οι εμπλεκόμενοι φέρεται να χρησιμοποίησαν το Claude Code αντί ανθρώπων μηχανικών λογισμικού για την ανάπτυξη συστημάτων καθοδήγησης, πλοήγησης και ελέγχου, τα οποία χρησιμοποιούνται για τη σταθεροποίηση και την κατεύθυνση ενός ιπτάμενου οχήματος.
Μεταξύ άλλων, επιχείρησαν να ενσωματώσουν έναν ανοικτού κώδικα αυτόματο πιλότο σε υπολογιστή κατηγορίας κινητού τηλεφώνου, γράφοντας λογισμικό για τον έλεγχο και την εκτίμηση θέσης, ρυθμίζοντας τις παραμέτρους ελέγχου, εκτελώντας διαδικασίες κατασκευής λογισμικού και πραγματοποιώντας προσομοιώσεις πτήσης.
Η Anthropic αναφέρει ότι οι μηχανισμοί ασφαλείας της εταιρείας απέτρεψαν πολλά από τα σχετικά αιτήματα, όχι όμως όλα. Οι χρήστες φέρεται να προσπάθησαν να παρακάμψουν τα μέτρα προστασίας αποκρύπτοντας τον πραγματικό σκοπό των εργασιών και διαχωρίζοντας τη δραστηριότητά τους σε διαφορετικές συνεδρίες, ώστε να μην αποκαλύπτεται συνολικά η πρόθεσή τους.
Η ομάδα φέρεται να εργάστηκε πάνω στην ανάπτυξη ενός βαλλιστικού πυραύλου πολλαπλών σταδίων, ενός πυραύλου με διαφορετικές παραλλαγές, καθώς και ενός κατευθυνόμενου πυραύλου που χρησιμοποιούσε υπολογιστή πτήσης αντίστοιχο με αυτόν ενός κινητού τηλεφώνου.
Σύμφωνα με την Anthropic, δεν υπάρχουν στοιχεία ότι οι εμπλεκόμενοι κατάφεραν να θέσουν σε επιχειρησιακή λειτουργία κάποιο από τα συγκεκριμένα οπλικά συστήματα. Ωστόσο, πραγματοποίησαν δοκιμαστική εκτόξευση ενός κατευθυνόμενου πυραύλου, η οποία φαίνεται να απέτυχε. Μάλιστα, λίγες ώρες αργότερα επέστρεψαν στο Claude προκειμένου να διερευνήσουν τα αίτια της αποτυχίας.
Η εταιρεία υποστηρίζει ότι προχώρησε στον αποκλεισμό των λογαριασμών που συνδέονταν με τους συγκεκριμένους παράγοντες και μοιράστηκε πληροφορίες για την απειλή με συνεργάτες από τον δημόσιο και τον ιδιωτικό τομέα.
Η υπόθεση αναδεικνύει τους αυξανόμενους κινδύνους από την αξιοποίηση ολοένα και πιο προηγμένων συστημάτων τεχνητής νοημοσύνης για στρατιωτικούς και άλλους επικίνδυνους σκοπούς. Στην ίδια έκθεση, η Anthropic αναφέρεται επίσης σε πολλαπλές προσπάθειες χρήσης του Claude για έρευνα σχετικά με βιολογικά όπλα.
Η εταιρεία σημειώνει, πάντως, ότι οι παράγοντες στη βόρεια Υεμένη είχαν ήδη αναπτύξει εργαλεία προσομοίωσης που μπορούσαν να λειτουργήσουν εκτός σύνδεσης, χωρίς να εξαρτώνται από το Claude ή άλλα υπολογιστικά περιβάλλοντα μηχανικής.
Διαβάστε επίσης: Υεμένη: Oι Χούθι κατέλαβαν νησί στην καρδιά του στενού Μπαμπ ελ Μάντεμπ
Με πληροφορίες από Financial Times