«Φρένο» στην ξέφρενη κούρσα της Τεχνητής Νοημοσύνης ζητά ο CEO της Anthropic, Ντάριο Αμοντέι, προκαλώντας νέο σεισμό στον χώρο της τεχνολογίας.
- Με δημόσια παρέμβασή του και τίτλο «We Must Pace the Frontier», ο ισχυρός άνδρας της εταιρείας προειδοποιεί ότι ο ανταγωνισμός για ολοένα ισχυρότερα μοντέλα μπορεί να ξεφύγει επικίνδυνα από τον ανθρώπινο έλεγχο.
- Ο Αμοντέι προτείνει ένα σχέδιο τριών σημείων για την ασφάλεια, με την Anthropic να δηλώνει έτοιμη να ανοίξει τις πόρτες της σε ανεξάρτητους ελεγκτές. Στόχος; Να ελέγχεται πιο αυστηρά τι πραγματικά μπορούν να κάνουν τα νέα συστήματα πριν αυτά περάσουν σε ευρεία χρήση.
Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο της λεγόμενης «αναδρομικής αυτοβελτίωσης», δηλαδή μιας AI που θα μπορεί να βελτιώνει μόνη της τις ικανότητές της με ολοένα ταχύτερους ρυθμούς.
Και εδώ έρχεται το ενδιαφέρον: ο επικεφαλής της OpenAI, Σαμ Άλτμαν, εμφανίστηκε θετικός στις προτάσεις, ενώ ο Ίλον Μασκ σχολίασε πως «ο Ντάριο έχει δίκιο». Το ερώτημα πλέον είναι ένα: Μπορεί πραγματικά να μπει φρένο στην AI πριν εκείνη αρχίσει να τρέχει πιο γρήγορα από όλους;
