Νέα αναστάτωση προκαλούν οι αυτόνομοι AI agents της OpenAI, καθώς φέρονται να πραγματοποίησαν περισσότερες από 16.000 σαρώσεις σε δημόσια ιστοσελίδα των Ηνωμένων Εθνών μέσα σε λίγους μήνες. Η υπόθεση αφορά κόμβο δεδομένων της UNCTAD, όπου οι agents αρχικά αναζητούσαν πληροφορίες που ήταν διαθέσιμες στο κοινό.
Το πρόβλημα, όμως, φέρεται να ξεκίνησε όταν συνάντησαν περιορισμούς. Αντί να… κάνουν πίσω, σύμφωνα με τα ευρήματα έρευνας, τα συστήματα άρχισαν να δοκιμάζουν πιο επιθετικούς τρόπους πρόσβασης, φτάνοντας στο σημείο να παρακάμψουν φίλτρο ασφαλείας που είχε μπλοκάρει τα αιτήματά τους.
Και κάπου εδώ αρχίζουν τα δύσκολα για την OpenAI, αφού το περιστατικό επαναφέρει στο προσκήνιο το μεγάλο ερώτημα: τι κάνει ένας AI agent όταν του βάζουν «στοπ»; Η εταιρεία εξετάζει την υπόθεση και έχει επικοινωνήσει με τον ΟΗΕ, ενώ παράλληλα επανεξετάζει τη συμπεριφορά των μοντέλων της. Το συγκεκριμένο περιστατικό δεν είναι, πάντως, το μοναδικό.
Αντίστοιχες συμπεριφορές έχουν καταγραφεί σε ιστοσελίδες κυβερνητικών οργανισμών, με ερευνητές να εντοπίζουν ακόμη και προσπάθειες παράκαμψης ορίων και περιορισμών. Το θέμα πλέον δεν είναι μόνο πόσο έξυπνοι είναι οι AI agents, αλλά πόσο μακριά μπορούν να φτάσουν όταν… δεν τους αφήνουν να κάνουν αυτό που θέλουν.
