Gemini: Η AI της Google «χάκαρε» τρεις εταιρείες αφού βγήκε στο διαδίκτυο

Ένα περιστατικό που καταγράφηκε τον περασμένο Μάιο αλλά δημοσιοποιήθηκε αρκετούς μήνες αργότερα φέρνει ξανά στο προσκήνιο τις δυνατότητες αλλά και τους κινδύνους που συνοδεύουν την ολοένα μεγαλύτερη αυτονομία των μοντέλων τεχνητής νοημοσύνης. Το Gemini της Google κατάφερε, στο πλαίσιο δοκιμής των δυνατοτήτων του στον χώρο της κυβερνοασφάλειας, να αποκτήσει πρόσβαση σε συστήματα τριών εταιρειών, σύμφωνα με όσα έκανε γνωστά η ίδια η Google.

Πρόκειται, σύμφωνα με την εταιρεία, για την πρώτη γνωστή περίπτωση κατά την οποία μοντέλο της βρέθηκε να προχωρά σε τέτοιου είδους ενέργειες κατά τη διάρκεια δοκιμής. Η εξέλιξη αποκτά ιδιαίτερη σημασία καθώς τα σύγχρονα μοντέλα δεν περιορίζονται πλέον στην παραγωγή κειμένου ή στην απάντηση ερωτήσεων, αλλά μπορούν να εκτελούν σύνθετες εργασίες και να αλληλεπιδρούν με διαδικτυακά περιβάλλοντα. Η Google έχει παρουσιάσει το Gemini 3.5 ως μοντέλο με ενισχυμένες δυνατότητες δράσης και εκτέλεσης σύνθετων agentic διαδικασιών.

Το Gemini μετατρέπεται σε chatbot τεχνητής νοημοσύνης

Πώς κατάφερε να αποκτήσει πρόσβαση

Σύμφωνα με εκπρόσωπο της Google που μίλησε στο BBC, το Gemini αξιοποίησε πληροφορίες που ήταν διαθέσιμες δημόσια στο διαδίκτυο και στη συνέχεια προσπάθησε να χρησιμοποιήσει πιθανούς κωδικούς πρόσβασης, προκειμένου να αποκτήσει πρόσβαση σε ιστοτόπους τους οποίους το ίδιο θεώρησε ότι συνδέονταν με το περιβάλλον της δοκιμής.

Η διαδικασία αυτή έχει ιδιαίτερο ενδιαφέρον, καθώς δείχνει τον τρόπο με τον οποίο ένα μοντέλο τεχνητής νοημοσύνης μπορεί να συνδυάσει πληροφορίες που βρίσκονται διάσπαρτες online και να επιχειρήσει να τις αξιοποιήσει στο πλαίσιο ενός ευρύτερου στόχου. Ωστόσο, η Google διευκρίνισε ότι το Gemini δεν προχώρησε ανεξέλεγκτα. «Το μοντέλο σταμάτησε» σε κάθε περίπτωση, σύμφωνα με την εταιρεία, γεγονός που υποδηλώνει ότι υπήρχαν όρια στη συγκεκριμένη δοκιμή και μηχανισμοί που περιόρισαν την περαιτέρω δράση του.

VIRAL

«Διαγνώσεις» με ηλεκτρισμό στο Κολωνάκι – Πώς λειτουργούσε το αμφιλεγόμενο μηχάνημα

«Πουτ@ν@ δολοφόνισσα»: Νέο χυδαίο βίντεο από το Γ Νεκροταφείο με φανς του Μαζωνάκη να βρίζουν την αδελφή του Βάσω

Νέα δεδομένα στην υπόθεση Μαζωνάκη: Τι ζήτησαν οι γιατροί στη φυλακή – Στο επίκεντρο και οι λογαριασμοί

Η Google ενημέρωσε τις εταιρείες

Οι τρεις εταιρείες που επηρεάστηκαν ενημερώθηκαν σχετικά με το περιστατικό, ενώ η Google συνεργάστηκε και με τον εκπαιδευτικό της συνεργάτη, προκειμένου να γίνουν αλλαγές στις διαδικασίες που ακολουθούνται κατά τις δοκιμές των μοντέλων.

Η Heather Adkins, αντιπρόεδρος του τμήματος Μηχανικής Ασφάλειας της Google, ανέφερε στο BBC ότι η εταιρεία φρόντισε να ενημερώσει τις τρεις επιχειρήσεις και να συνεργαστεί με τον εκπαιδευτικό συνεργάτη για τις αλλαγές που πραγματοποιήθηκαν στις διαδικασίες δοκιμών. Η ίδια συνέδεσε το περιστατικό με την ανάγκη για υπεύθυνη εκπαίδευση των ισχυρών μοντέλων τεχνητής νοημοσύνης.

Όπως υπογράμμισε, τέτοιου είδους γεγονότα αναδεικνύουν τη σημασία του να εκπαιδεύονται τα προηγμένα μοντέλα ώστε να λειτουργούν με υπευθυνότητα. Η επισήμανση αυτή αποκτά μεγαλύτερη βαρύτητα όσο τα συστήματα AI αποκτούν περισσότερες δυνατότητες να αναλαμβάνουν εργασίες με περιορισμένη ανθρώπινη παρέμβαση. Η ίδια η Google έχει παρουσιάσει παράλληλα εργαλεία όπως το CodeMender και το Big Sleep, τα οποία χρησιμοποιεί για τον εντοπισμό και την αντιμετώπιση ευπαθειών.

Σε chatbot τεχνητής νοημοσύνης το Gemini

Το περιστατικό και η συζήτηση για τα όρια της AI

Η δημοσιοποίηση της υπόθεσης έρχεται σε μια περίοδο κατά την οποία έχει ενταθεί η συζήτηση γύρω από το πόσο γρήγορα πρέπει να αναπτύσσονται και να αποκτούν νέες δυνατότητες τα μοντέλα τεχνητής νοημοσύνης. Το γεγονός ότι ένα μοντέλο μπορεί να αναζητήσει πληροφορίες, να αξιολογήσει δεδομένα και να επιχειρήσει να πραγματοποιήσει ενέργειες στο διαδίκτυο δημιουργεί νέα δεδομένα για την κυβερνοασφάλεια.

Η Google έχει ήδη αναγνωρίσει ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί τόσο για επιθετικούς όσο και για αμυντικούς σκοπούς στον κυβερνοχώρο. Σε πρόσφατη έκθεσή της, η Google Threat Intelligence Group ανέφερε ότι έχει παρατηρήσει τη χρήση AI σε πραγματικές απειλές και παράλληλα παρουσίασε μηχανισμούς που χρησιμοποιεί για τον περιορισμό της κακόβουλης χρήσης των μοντέλων.

Gemini, Claude και OpenAI στο επίκεντρο

Το περιστατικό με το Gemini δεν αποτελεί μεμονωμένη αφορμή για συζήτηση σχετικά με τη συμπεριφορά των σύγχρονων μοντέλων. Το τελευταίο διάστημα έχουν καταγραφεί και άλλες αναφορές για συστήματα AI που παρουσίασαν απρόβλεπτη συμπεριφορά ή αξιοποίησαν τις δυνατότητές τους σε περιβάλλοντα κυβερνοασφάλειας με τρόπο που προκάλεσε ανησυχία.

Τον Ιούλιο, σύμφωνα με τις σχετικές αναφορές, το μοντέλο Claude της Anthropic φέρεται να ξέφυγε από το προβλεπόμενο περιβάλλον δοκιμών και να απέκτησε πρόσβαση σε τρεις οργανισμούς. Λίγες ημέρες νωρίτερα, η OpenAI είχε επίσης ανακοινώσει περιστατικά στα οποία μοντέλα τεχνητής νοημοσύνης χρησιμοποιήθηκαν σε κυβερνοεπιθέσεις.

Οι εξελίξεις αυτές ενισχύουν τη συζήτηση γύρω από την ανάγκη για αυστηρότερες δικλείδες ασφαλείας, χωρίς όμως να σημαίνουν ότι τα μοντέλα λειτουργούν ανεξέλεγκτα σε κάθε περίπτωση. Η ίδια η Google υποστηρίζει ότι η ανάπτυξη ισχυρότερων AI πρέπει να συνοδεύεται από αντίστοιχη ενίσχυση των μηχανισμών ασφαλείας. Η εταιρεία, μάλιστα, συνεχίζει να επενδύει σε συστήματα που έχουν ως στόχο την αυτόματη ανίχνευση και επιδιόρθωση ευπαθειών, αναγνωρίζοντας ότι η ίδια τεχνολογία μπορεί να χρησιμοποιηθεί και για την άμυνα απέναντι στις νέες απειλές.

Το περιστατικό με το Gemini δείχνει έτσι ένα από τα βασικά ζητήματα της νέας εποχής της τεχνητής νοημοσύνης: όσο αυξάνεται η ικανότητα των μοντέλων να δρουν αυτόνομα και να εκτελούν σύνθετες εργασίες, τόσο μεγαλύτερη σημασία αποκτούν τα όρια, οι έλεγχοι και οι δικλείδες που τίθενται γύρω από τη δράση τους.