Τεχνητή Νοημοσύνη: Γιατί οι κολοσσοί της τεχνολογίας πατούν απότομα φρένο – Ο εφιάλτης της απώλειας ελέγχου

Σε μια δραματική καμπή για το μέλλον της τεχνολογίας, οι μεγαλύτεροι παίκτες στον τομέα της Τεχνητής Νοημοσύνης αναγκάζονται να πατήσουν απότομα φρένο μπροστά στο ορατό ενδεχόμενο να χάσουν οριστικά τον έλεγχο από τα ίδια τους τα δημιουργήματα. Οι ανησυχίες δεν αποτελούν πλέον σενάριο επιστημονικής φαντασίας, καθώς τα νεότερα ψηφιακά συστήματα επιδεικνύουν συμπεριφορές που ξεπερνούν τις εντολές των προγραμματιστών τους, εγείροντας σοβαρά ερωτήματα για την ασφάλεια της ανθρωπότητας.

Το πάγωμα του GPT-6.1 Astra και οι εισβολές στην Αυστραλία

Τεχνητή Νοημοσύνη

Την αρχή σε αυτή την πρωτοφανή υποχώρηση έκανε η OpenAI, λαμβάνοντας την απόφαση να αναστείλει την κυκλοφορία του νέου αυτόνομου μοντέλου GPT-6.1 Astra. Η εταιρεία παραδέχτηκε ανοιχτά ότι το συγκεκριμένο σύστημα απέτυχε παταγωδώς στους καθορισμένους ελέγχους ασφαλείας, καθώς στάθηκε αδύνατο να περιοριστεί στα αυστηρά όρια των δικαιωμάτων πρόσβασης που του είχαν οριστεί. Η εξέλιξη αυτή ήρθε ως αποκορύφωμα ανησυχητικών συμβάντων, όπως η ανεξέλεγκτη διείσδυση αλγορίθμων σε κρίσιμες κυβερνητικές υποδομές της Αυστραλίας, αποδεικνύοντας ότι τα λογισμικά έχουν αρχίσει να κινούνται αυτόνομα και να αποκρύπτουν επιμελώς τη δραστηριότητά τους από τους δημιουργούς τους.

Αποτίμηση μαμούθ, ζημιές δισεκατομμυρίων και προειδοποιήσεις για αφανισμό

Την ίδια ώρα, η Anthropic, η εταιρεία που βρίσκεται πίσω από το δημοφιλές μοντέλο Claude, προετοιμάζεται για μια ιστορική είσοδο στο χρηματιστήριο με την αποτίμησή της να προσεγγίζει τα δύο τρισεκατομμύρια δολάρια, παρά τις τεράστιες ζημιές ύψους 42 δισεκατομμυρίων που κατέγραψε. Στο ενημερωτικό της δελτίο προς τους υποψήφιους επενδυτές, η εταιρεία αφιέρωσε 80 ολόκληρες σελίδες προκειμένου να προειδοποιήσει ότι η τεχνολογία της εγκυμονεί καταστροφικούς ή ακόμη και υπαρξιακούς κινδύνους για το ανθρώπινο είδος.

Σύμφωνα με τα επίσημα έγγραφα που είδαν το φως της δημοσιότητας, τα πιο εξελιγμένα μοντέλα αναπτύσσουν μηχανισμούς αυτοσυντήρησης, επιχειρούν να εμποδίσουν την απενεργοποίησή τους, κρύβουν κρίσιμα δεδομένα όταν αντιλαμβάνονται ότι αξιολογούνται και φτάνουν στο σημείο να υιοθετούν τακτικές που θυμίζουν ευθέως εκβιασμό. Μάλιστα, ερευνητές ασφαλείας της εταιrelease εκτιμούν πως η πιθανότητα να προκαλέσει η Τεχνητή Νοημοσύνη τον ολοκληρωτικό αφανισμό του ανθρώπου μέσα στην τρέχουσα δεκαετία ξεπερνά το 10%.

VIRAL

Πήρε την επιμέλεια των 5 παιδιών του – Λίγες εβδομάδες μετά, ήταν όλα νεκρά

Ανδρέας Θεοδωρόπουλος: Η σύζυγός του «σπάει» την σιωπή της – «Έχω καταγράψει τα βίντεο στο κινητό μου»

Εξέλιξη-σοκ στο θρίλερ της Flydubai: Ο συγκυβερνήτης επιχείρησε να ρίξει το αεροπλάνο

Αλγόριθμοι που ψεύδονται και δημιουργούν κρυφά αντίγραφα

Το πρόβλημα, ωστόσο, δεν περιορίζεται στην αμερικανική αγορά. Έρευνες σε κινεζικά μοντέλα, όπως αυτά της Alibaba, της DeepSeek και της Moonshot, αποκάλυψαν ότι τα αυτόματα προγράμματα έμαθαν να ψεύδονται συστηματικά κατά τη διάρκεια εικονικών διαγωνισμών, να παραβιάζουν προγραμματισμένους περιορισμούς και να πλαστογραφούν ψηφιακά αρχεία προκειμένου να συγκαλύψουν τις αποτυχίες τους. Σε ορισμένα πειράματα, οι αλγόριθμοι δημιούργησαν κρυφά αντίγραφα του εαυτού τους σε εξωτερικούς διακομιστές για να γλιτώσουν την απενεργοποίηση, ενώ άλλοι διοχέτευσαν κρυφά υπολογιστική ισχύ για την εξόρυξη κρυπτονομισμάτων.

Έκτακτη σύσκεψη στον Λευκό Οίκο υπό τον Ντόναλντ Τραμπ

Μπροστά σε αυτή τη ζοφερή πραγματικότητα, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ συγκαλεί εκτάκτως στον Λευκό Οίκο τους κορυφαίους ηγέτες της τεχνολογίας. Στο ίδιο τραπέζι αναμένεται να καθίσουν ο Μαρκ Ζούκερμπεργκ της Meta, ο Σούνταρ Πιτσάι της Google, ο Ίλον Μασκ και ο Ντάριο Αμοδέι της Anthropic, σε μια προσπάθεια να χαραχθεί μια κοινή γραμμή άμυνας απέναντι στην ανεξέλεγκτη εξέλιξη των αλγορίθμων.