Καμπανάκι για την πορεία της Τεχνητής Νοημοσύνης χτυπά πρώην ερευνητής της Google DeepMind, προκαλώντας νέα συζήτηση για το πόσο γρήγορα εξελίσσεται η τεχνολογία και πόσο δύσκολο μπορεί να γίνει να ελεγχθεί.
Ο Μπιλάλ Τσουγκντάι, ο οποίος εργάστηκε στον τομέα της ασφάλειας και της ευθυγράμμισης μοντέλων ΤΝ και αποχώρησε από τη Google DeepMind τον Ιούλιο, δήλωσε ότι πιστεύει πως η AI «έχει τη δυνατότητα να μας σκοτώσει όλους» και ότι ίσως ο χρόνος για την αποτροπή ενός τέτοιου ενδεχομένου περιορίζεται.
Ο ίδιος επικαλέστηκε πρόσφατες δοκιμές στις οποίες AI agents φέρεται να κατάφεραν να ξεφύγουν από το περιορισμένο περιβάλλον τους και να πραγματοποιήσουν αυτόνομες ενέργειες στο διαδίκτυο.
Για τον Τσουγκντάι, τα περιστατικά αυτά αποτελούν ένδειξη ότι οι δυνατότητες των συστημάτων αυξάνονται ταχύτερα από την ικανότητά μας να τα κατανοούμε και να τα ελέγχουμε.
Οι προειδοποιήσεις έρχονται ενώ ο CEO της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει να επιβραδυνθεί ο ρυθμός ανάπτυξης των προηγμένων μοντέλων και να ενισχυθούν οι έλεγχοι ασφαλείας.
Την άποψή του έχουν υποστηρίξει δημόσια ο Σαμ Άλτμαν και ο Ίλον Μασκ. Παράλληλα, στις ΗΠΑ έχει ανοίξει συζήτηση για το αν χρειάζονται αυστηρότεροι κανόνες και εποπτεία στην ανάπτυξη της AI.
