Σεπ 11, 2026 ΤΕΧΝΟΛΟΓΙΑ

Πόσο ασφαλής είναι τελικά η AI; – Ερευνητές της Anthropic προειδοποιούν για τους κινδύνους

Πρώην ερευνητής της OpenAI και της Anthropic προειδοποιεί ότι οι εταιρείες AI «παίζουν με τις ζωές μας», ενώ πραγματικά περιστατικά εγείρουν σοβαρά ερωτήματα για τον έλεγχο των προηγμένων μοντέλων.

Σεπ 11, 2026 ΤΕΧΝΟΛΟΓΙΑ

Πόσο ασφαλής είναι τελικά η AI; – Ερευνητές της Anthropic προειδοποιούν για τους κινδύνους
© Unsplash

Πρώην ερευνητής της Anthropic παραιτήθηκε καταγγέλλοντας ότι οι ισχυρότερες εταιρείες τεχνητής νοημοσύνης «παίζουν με τις ζωές μας». Τι φοβούνται οι ειδικοί και ποια πραγματικά περιστατικά βρίσκονται πίσω από τις δραματικές προειδοποιήσεις;

«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Δεν πρόκειται για διαφημιστικό τέχνασμα».

Η προειδοποίηση ανήκει στον Jacob Coxon, πρώην ερευνητή της OpenAI και, μέχρι πρότινος, της Anthropic. Ο Coxon ανακοίνωσε την παραίτησή του από τη δεύτερη, υποστηρίζοντας ότι καμία από τις δύο εταιρείες δεν ενεργεί με την απαιτούμενη υπευθυνότητα απέναντι στους κινδύνους των ισχυρών συστημάτων τεχνητής νοημοσύνης.

«Κατευθύνονται ολοταχώς προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε σε ανάρτησή του, πυροδοτώντας μια συζήτηση που ξεπέρασε τα όρια της τεχνολογικής κοινότητας.

Η δήλωσή του δεν αποτελεί επιστημονική πρόβλεψη ότι η ανθρωπότητα θα εξαφανιστεί μέχρι το 2030. Εκφράζει, όμως, έναν φόβο που φαίνεται να συμμερίζονται άνθρωποι οι οποίοι εργάζονται μέσα στις ίδιες τις εταιρείες που αναπτύσσουν τα πλέον προηγμένα μοντέλα AI.

«Δεν έχουμε ακόμη σχέδιο για να ελέγξουμε την υπερνοημοσύνη»

Τη θέση του Coxon υποστήριξαν ακόμη δύο εργαζόμενοι της Anthropic.

Ο Evan Hubinger, επικεφαλής στον τομέα της ευθυγράμμισης της τεχνητής νοημοσύνης -της προσπάθειας, δηλαδή, να διασφαλιστεί ότι τα συστήματα AI λειτουργούν σύμφωνα με τους ανθρώπινους στόχους- εκτίμησε ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.

«Πιστεύω ότι η Anthropic προσπαθεί, αλλά δεν διαθέτουμε ακόμη ένα σχέδιο για την ευθυγράμμιση της υπερνοημοσύνης και δεν είναι σαφές ότι βρισκόμαστε στον σωστό δρόμο», ανέφερε.

Ο Samuel Marks, επικεφαλής του τμήματος κλιμακούμενης εποπτείας της εταιρείας, έγραψε (διευκρινίζοντας ότι εκφράζει προσωπικές απόψεις) ότι στελέχη των εταιρειών AI θεωρούν πιθανό η τεχνολογία τους να οδηγήσει σε ανθρώπινη εξαφάνιση ή σε μια εξίσου καταστροφική εξέλιξη. Σύμφωνα με τον ίδιο, όσο υψηλότερη θέση κατέχει κάποιος στον κλάδο τόσο εντονότερη τείνει να είναι η ανησυχία του.

Η Anthropic, από την πλευρά της, υποστηρίζει ότι έχει αναγνωρίσει δημόσια τόσο τα οφέλη όσο και τους πρωτοφανείς κινδύνους της AI και ότι εφαρμόζει ορισμένα από τα ισχυρότερα μέτρα προστασίας στον κλάδο. Επισημαίνει ακόμη ότι ελέγχει τα μοντέλα της για επικίνδυνες δυνατότητες, μεταξύ άλλων στην κυβερνοασφάλεια και τη βιολογία, και δημοσιεύει τα ευρήματά της προς αξιολόγηση.

Όταν 1.200 πράκτορες AI βρήκαν τρόπο να επικοινωνήσουν

Οι ανησυχίες δεν στηρίζονται αποκλειστικά σε υποθετικά σενάρια. Πρόσφατες δοκιμές αποκάλυψαν ότι εξελιγμένοι πράκτορες AI μπορούν να συμπεριφερθούν με τρόπους που οι δημιουργοί τους δεν είχαν προβλέψει.

Σε πείραμα κυβερνοασφάλειας της OpenAI, περίπου 1.200 πράκτορες, οι οποίοι υποτίθεται ότι λειτουργούσαν απομονωμένοι ο ένας από τον άλλο, ανακάλυψαν ένα μη εγκεκριμένο «message board» και αντάλλαξαν περισσότερα από 70.000 μηνύματα και αρχεία.

Περίπου 700 από αυτούς συμμετείχαν στη συνέχεια σε επίθεση εναντίον του Hugging Face, μιας ιδιαίτερα γνωστής πλατφόρμας λογισμικού τεχνητής νοημοσύνης. Σύμφωνα με την ανεξάρτητη έρευνα της METR, οι πράκτορες συνεργάστηκαν για να παρακάμψουν το σύστημα αξιολόγησης, ενώ ορισμένοι πειραματίστηκαν ακόμη και με τρόπους αλλοίωσης των καταγραφών της δραστηριότητάς τους.

Το περιστατικό χρειάζεται, πάντως, προσεκτική ερμηνεία. Οι πράκτορες δεν «δραπέτευσαν» επειδή απέκτησαν συνείδηση ή αποφάσισαν αυθόρμητα να στραφούν εναντίον των ανθρώπων. Προσπαθούσαν να ολοκληρώσουν έναν στόχο που τους είχε ανατεθεί μέσα σε ένα προβληματικά διαμορφωμένο περιβάλλον δοκιμών. Το γεγονός, όμως, ότι βρήκαν απρόβλεπτους τρόπους να συνεργαστούν, να παρακάμψουν περιορισμούς και να επέμβουν στους μηχανισμούς αξιολόγησής τους θεωρείται σοβαρό καμπανάκι κινδύνου.

Ανάλογα περιστατικά έχει παραδεχθεί και η Anthropic. Σε δοκιμές κυβερνοασφάλειας, μοντέλα Claude απέκτησαν κατά λάθος πρόσβαση στο πραγματικό διαδίκτυο και επιτέθηκαν σε υπαρκτά συστήματα, πιστεύοντας ότι αποτελούσαν μέρος της προσομοίωσης. Σε μία περίπτωση, κακόβουλο πακέτο λογισμικού που δημιούργησε το μοντέλο παρέμεινε διαθέσιμο στο διαδίκτυο για περίπου μία ώρα και εγκαταστάθηκε σε 15 πραγματικά συστήματα. Η εταιρεία απέδωσε τα περιστατικά σε λανθασμένη παραμετροποίηση των δοκιμών και ανακοίνωσε πρόσθετα μέτρα ασφαλείας.

Η πρώτη πρόταση για «φρένο» στην υπερνοημοσύνη

Οι αποκαλύψεις έχουν ήδη περάσει στο πολιτικό πεδίο. Ο Bernie Sanders και ο βουλευτής Greg Casar ανακοίνωσαν στις 3 Σεπτεμβρίου το νομοσχέδιο Ban Artificial Superintelligence Act.

Η πρότασή τους προβλέπει προσωρινή παύση της ανάπτυξης προηγμένων μοντέλων έως ότου συσταθεί ομοσπονδιακή ρυθμιστική αρχή και θεσπιστούν δεσμευτικοί κανόνες ασφαλείας. Προτείνει, επίσης, την απαγόρευση ανάπτυξης τεχνητής υπερνοημοσύνης που θα ξεπερνούσε την ανθρώπινη νοημοσύνη ή θα μπορούσε να παρακάμπτει εντολές απενεργοποίησης.

Το αν η AI μπορεί πραγματικά να οδηγήσει την ανθρωπότητα στην εξαφάνιση παραμένει προς το παρόν στη σφαίρα της μυθοπλασίας για ταινίες και σειρές. Αυτό που δεν αμφισβητείται όμως είναι ότι τα ισχυρότερα συστήματα αποκτούν δυνατότητες ταχύτερα από όσο εξελίσσονται η νομοθεσία, η εποπτεία και οι μηχανισμοί λογοδοσίας. Και σίγουρα οι αποφάσεις για μια τεχνολογία που μπορεί να επηρεάσει την εργασία, την ασφάλεια και την ίδια την ανθρώπινη αυτονομία δεν μπορούν να παραμένουν αποκλειστικά στα χέρια μιας μικρής ομάδας εταιρειών.

Διαβάστε επίσης