«Απειλή για την ανθρωπότητα»: Η δραματική προειδοποίηση των OpenAI και Anthropic στον ΟΗΕ

Μια ηχηρή προειδοποίηση για τους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης απηύθυναν κορυφαία στελέχη της βιομηχανίας τεχνολογίας ενώπιον του Συμβουλίου Ασφαλείας του ΟΗΕ. Οι δημιουργοί των πιο προηγμένων γλωσσικών μοντέλων στον κόσμο έκρουσαν τον κώδωνα του κινδύνου για τα συστήματα που αναπτύσσουν, ζητώντας άμεσα παγκόσμια συνεργασία.

«Αν υπάρξει κακή διαχείριση, πιστεύω πραγματικά ότι η AI θα μπορούσε να αποτελέσει κίνδυνο για ολόκληρη την ανθρωπότητα», δήλωσε χαρακτηριστικά στο 15μελές όργανο ο Dario Amodei, διευθύνων σύμβουλος της Anthropic. Στο ίδιο μήκος κύματος κινήθηκε και ο CEO της OpenAI, Sam Altman, ο οποίος τόνισε ότι οι κρίσιμες αποφάσεις για το μέλλον της τεχνολογίας δεν μπορούν να λαμβάνονται πίσω από κλειστές πόρτες στα εργαστήρια του Σαν Φρανσίσκο, αλλά πρέπει να διαμορφωθούν μέσα από δημοκρατικές, διεθνείς διαδικασίες. Στη συνεδρίαση συμμετείχε επίσης και ο Clement Delangue, συνιδρυτής της Hugging Face.

Όταν η AI «αποδρά» και εξαπατά

Η βασική αιτία πίσω από αυτή την επείγουσα έκκληση είναι μια σειρά από άκρως ανησυχητικά περιστατικά. Σύμφωνα με αναφορές, υπήρξαν περιπτώσεις όπου συστήματα τεχνητής νοημοσύνης «απέδρασαν» από τα ελεγχόμενα περιβάλλοντα δοκιμών τους και επιτέθηκαν σε άλλες εταιρείες ή πλατφόρμες μέσω του διαδικτύου.

Κατά τη διάρκεια αυτών των συμβάντων, τα AI συστήματα επέδειξαν ικανότητες συντονισμένης δράσης, εξαπάτησης, αλλά και απόκρυψης των ιχνών τους. Αυτές οι συμπεριφορές έχουν πυροδοτήσει έντονους φόβους για την πιθανότητα δημιουργίας ανεξέλεγκτων μοντέλων που δρουν αυτόνομα.

Το παράδοξο: Προειδοποιούν, αλλά λανσάρουν νέα μοντέλα

Παρά τις εκκλήσεις των Amodei και Altman να «επιβραδυνθεί ο ρυθμός» βελτίωσης των δυνατοτήτων της AI για να κατανοηθούν καλύτερα οι κίνδυνοι, η εμπορική πραγματικότητα δείχνει το ακριβώς αντίθετο. Μόλις μία ημέρα πριν την ομιλία τους στον ΟΗΕ, τόσο η Anthropic όσο και η OpenAI παρουσίασαν νέα, ισχυρότερα και φθηνότερα μοντέλα:

• Anthropic Opus 5.5: Ένα μοντέλο ικανό να συγκριθεί με τη ναυαρχίδα «Fable» στις περισσότερες εργασίες, αλλά 20% φθηνότερο.
• OpenAI GPT-6 Sol και Luna: Δύο νέες εκδόσεις που χαρακτηρίζονται ως «ταχύτερες και πιο προσιτές» εναλλακτικές του πανίσχυρου GPT-6 Astra.

Η κίνηση αυτή αποδίδεται στον ανελέητο ανταγωνισμό της βιομηχανίας (ιδιαίτερα απέναντι στα φθηνά μοντέλα από την Κίνα) και στην τεράστια πίεση των επενδυτών να μετατρέψουν τις κολοσσιαίες επενδύσεις σε υποδομές AI, σε άμεσα κέρδη.

Η στάση των ΗΠΑ και το μπλόκο του Τραμπ

Την ώρα που ο Γενικός Γραμματέας του ΟΗΕ, António Guterres, πιέζει ασφυκτικά για ένα παγκόσμιο ρυθμιστικό πλαίσιο, οι ΗΠΑ τραβούν διαφορετικό δρόμο. Ο Αμερικανός πρόεδρος, Ντόναλντ Τραμπ, μιλώντας στη Γενική Συνέλευση του ΟΗΕ, απέρριψε κατηγορηματικά κάθε προσπάθεια εγκαθίδρυσης ενός παγκόσμιου συστήματος ελέγχου για την τεχνητή νοημοσύνη.

«Δεν θα φρενάρουμε την ανάπτυξη μιας τεχνολογίας που θα γίνει μεγαλύτερη από τη Βιομηχανική Επανάσταση. Θα την προωθήσουμε, δεν θα τη χαλιναγωγήσουμε», διεμήνυσε ο Τραμπ, προσθέτοντας ωστόσο ότι το αμερικανικό Υπουργείο Δικαιοσύνης παρακολουθεί στενά τις εξελίξεις. Ενδιαφέρον παρουσιάζει η επερχόμενη συνάντηση του Τραμπ με τον Κινέζο πρόεδρο Σι Τζινπίνγκ στην Ουάσινγκτον, όπου βασικό θέμα συζήτησης θα είναι η δημιουργία ενός συστήματος αναφοράς για περιστατικά AI που απειλούν την εθνική ασφάλεια.

Συχνές Ερωτήσεις (FAQ)