Demis Hassabis: Ένα πλαίσιο για την Πρωτοποριακή Τεχνητή Νοημοσύνη (Frontier AI) και η ανατολή μιας νέας εποχής

Demis Hassabis

 
Ο Ντέμις Χασάμπης, συνιδρυτής και διευθύνων σύμβουλος της Google DeepMind, βραβευμένος με Νόμπελ πίσω από το Gemini, παρουσιάζει το σχέδιο του σε ένα προσωπικό μανιφέστο που δημοσιεύτηκε σήμερα το πρωί με τίτλο «Ένα Πλαίσιο για την Τεχνητή Νοημοσύνη στα Σύνορα και την Αυγή μιας Νέας Εποχής». Ακολουθεί το πλήρες άρθρο του σε μετάφραση:

 
Αυτή είναι μια κομβική στιγμή στην ανθρώπινη ιστορία. Η Γενική Τεχνητή Νοημοσύνη (AGI) –ένα σύστημα που εμφανίζει το σύνολο των γνωστικών ικανοτήτων του ανθρώπινου εγκεφάλου– απέχει πιθανώς ελάχιστα μόλις χρόνια. Όταν θα αναλογιζόμαστε αυτή την περίοδο στις δεκαετίες που θα ακολουθήσουν, πιστεύω ότι θα συνειδητοποιήσουμε πως στεκόμασταν στους πρόποδες της μοναδικότητας (singularity) – τίποτα λιγότερο από την αυγή μιας νέας εποχής για την ανθρωπότητα.

Έχω αφιερώσει ολόκληρη τη ζωή μου εργαζόμενος πάνω στην AGI, επειδή είχα ανέκαθεν τη βαθιά πεποίθηση ότι, εάν αναπτυχθεί και αξιοποιηθεί υπεύθυνα, θα αποδειχθεί μία από τις πλέον ευεργετικές και μετασχηματιστικές τεχνολογίες που επινοήθηκαν ποτέ. Η AGI δεν μπορεί να συγκριθεί με τα συνήθη τεχνολογικά επιτεύγματα, ούτε καν με εκείνα που είχαν τεράστιες συνέπειες, όπως το διαδίκτυο ή η κινητή τηλεφωνία· προσιδιάζει πολύ περισσότερο στην ανακάλυψη του ηλεκτρισμού ή της φωτιάς. Αν σταθεί κανείς να το σκεφτεί, έχουμε ουσιαστικά βρει έναν τρόπο να κάνουμε την άμμο να σκέφτεται. Είναι θαυμαστό.

Το μέγεθος του αντικτύπου αυτής της τεχνολογίας θα είναι πρωτοφανές, ίσως δεκαπλάσιο εκείνου της Βιομηχανικής Επανάστασης με δεκαπλάσια ταχύτητα. Θα μας βοηθήσει να επιλύσουμε ορισμένα από τα μεγαλύτερα προβλήματα που αντιμετωπίζει η κοινωνία, από την επιτάχυνση της ανακάλυψης φαρμάκων έως την ανάπτυξη νέων πηγών καθαρής ενέργειας και τη δημιουργία πρωτοποριακών, προηγμένων υλικών. Θα μπορούσαμε μάλιστα να φτάσουμε σε ένα σημείο όπου οι πόροι δεν θα αποτελούν πλέον τον περιοριστικό παράγοντα για την ανθρώπινη πρόοδο, οδηγώντας σε μια εκπληκτική νέα εποχή αφθονίας.

 
Οι Προκλήσεις των Συστημάτων Αιχμής (Frontier)

Η Τεχνητή Νοημοσύνη (AI) αρχίζει ήδη να αποφέρει οφέλη στον πραγματικό κόσμο, αλλά για να συνειδητοποιήσουμε την τεράστια υπόσχεσή της, πρέπει να πλοηγηθούμε σε αυτή την κρίσιμη περίοδο ανάπτυξης με περίσκεψη και προσοχή. Απαιτείται επείγουσα δράση για την αντιμετώπιση των κινδύνων που ενδέχεται να ανακύψουν καθώς πλησιάζουμε στην AGI. Έχουμε ήδη δει τις προκλήσεις που θέτουν τα μοντέλα αιχμής (frontier models) για την κυβερνοασφάλεια, και άλλες απειλές, συμπεριλαμβανομένων των πυρηνικών και βιολογικών κινδύνων, ενδέχεται να αναδυθούν σύντομα καθώς οι δυνατότητες συνεχίζουν να εξελίσσονται. Στον ορίζοντα, θα χρειαστούμε ισχυρές δικλείδες ασφαλείας για να διατηρήσουμε τον έλεγχο ολοένα και πιο αυτόνομων (agentic), αναδρομικά αυτοβελτιούμενων συστημάτων και να αντιμετωπίσουμε άγνωστα ζητήματα που θα γίνονται σαφέστερα μόνο με την πάροδο του χρόνου.

Πίστευα πάντα στη δύναμη της ανθρώπινης εφευρετικότητας και δημιουργικότητας για την επίλυση οποιουδήποτε προβλήματος. Είμαι βέβαιος ότι ο μετριασμός των τεχνικών κινδύνων που σχετίζονται με την AI είναι μια πρόκληση που μπορούμε να αντιμετωπίσουμε συλλογικά, αλλά μόνο εάν δώσουμε στους εαυτούς μας τον χρόνο και τον χώρο να κάνουμε σωστά αυτό το επόμενο, κρίσιμο βήμα. Προς το παρόν, ως κλάδος αλλά και ως ευρύτερη κοινωνία, δεν το πράττουμε αυτό.

Αυτή τη στιγμή, είμαστε εγκλωβισμένοι σε έναν εξαιρετικά έντονο, πολυεπίπεδο εμπορικό και γεωπολιτικό ανταγωνισμό. Ενώ αυτές οι ανταγωνιστικές δυναμικές τροφοδοτούν τη ραγδαία πρόοδο και επιταχύνουν τα απίστευτα πλεονεκτήματα, οι εξελίξεις στην αιχμή της τεχνολογίας ξεπερνούν την κατανόησή μας γι’ αυτήν. Κανείς στον κόσμο δεν γνωρίζει με βεβαιότητα τι πρόκειται να συμβεί από εδώ και πέρα, και ακόμη και οι ειδικοί διαφωνούν. Όταν υπάρχει μεγάλος βαθμός αβεβαιότητας και τα διακυβεύματα είναι τόσο υψηλά, η πορεία με συγκρατημένη αισιοδοξία είναι η λογική και ορθή στρατηγική. Αυτό απαιτεί δημόσιες πολιτικές που προωθούν την καινοτομία, ενώ παράλληλα παρέχουν κίνητρα για υπευθυνότητα και ασφάλεια, ενισχύουν τη διεθνή συνεργασία σε βασικά ζητήματα ασφάλειας και ενθαρρύνουν την προσεκτική εξέταση του τρόπου με τον οποίο η AI αναπτύσσεται προς όφελος της κοινωνίας.

 
Ένα Πλαίσιο για έναν Φορέα Προτύπων Frontier AI

Η ραγδαία πρόοδος που παρατηρούμε στην AI απαιτεί μια νέα προσέγγιση στη δοκιμή των δυνατοτήτων των μοντέλων αιχμής (frontier AI), η οποία να είναι δυναμική, ευέλικτη και αυστηρή. Οι ΗΠΑ βρίσκονται σε πλεονεκτική θέση, δεδομένης της οικονομικής και τεχνικής τους υπεροχής, να κάνουν το πρώτο βήμα για την ανάπτυξη ενός τέτοιου πλαισίου. Θα μπορούσαν να ιδρύσουν έναν νέο Φορέα Προτύπων (Standards Body) στα πρότυπα μιας ομοσπονδιακά εποπτευόμενης σύμπραξης δημοσίου-ιδιωτικού τομέα ή ενός αυτορρυθμιζόμενου οργανισμού, όπως η Ρυθμιστική Αρχή Χρηματοοικονομικής Βιομηχανίας (FINRA), με διοικητικό συμβούλιο που θα περιλαμβάνει ανεξάρτητους κορυφαίους τεχνικούς εμπειρογνώμονες και εκπροσώπους του ανοικτού κώδικα (open-source). Η χρηματοδότηση θα πρέπει να είναι σημαντική και πιθανότατα να προέρχεται κυρίως από τη βιομηχανία, προκειμένου να προσελκύσει τεχνικά ταλέντα παγκόσμιας κλάσης και να παράσχει τους απαραίτητους υπολογιστικούς πόρους για δοκιμές μεγάλης κλίμακας.

Ο Φορέας Προτύπων θα είναι υπεύθυνος για την ανάπτυξη πρωτοκόλλων αξιολόγησης και τη συνεργασία με τις αρμόδιες ομοσπονδιακές υπηρεσίες και τα Εθνικά Εργαστήρια των ΗΠΑ για τη διενέργεια δοκιμών σε τομείς που σχετίζονται με την εθνική ασφάλεια. Ένα μοντέλο θα χαρακτηριζόταν ως «κατηγορίας Frontier» (Frontier-class) εάν πληροί ορισμένα όρια σε ένα σύνολο σημείων αναφοράς (benchmarks) που καθορίζονται από τον Φορέα Προτύπων και επικαιροποιούνται τακτικά για να συμβαδίζουν με τις εξελισσόμενες δυνατότητες της AI. Οι οργανισμοί με «Μοντέλα Frontier» (Frontier Models), όπως αυτά ορίζονται από τα εν λόγω σημεία αναφοράς, θα θεωρούνται «Εργαστήρια Frontier» (Frontier Labs) και θα ενθαρρύνονται να υιοθετούν βέλτιστες πρακτικές, όπως η δημοσίευση καρτών μοντέλου (model cards) με τεχνικές λεπτομέρειες, η διατήρηση ισχυρής εσωτερικής κυβερνοασφάλειας, ο έλεγχος του βασικού προσωπικού και η παροχή επαρκών πόρων για την έρευνα ασφάλειας και προστασίας, μεταξύ άλλων.

Αρχικά, τα Frontier Labs θα μοιράζονταν εθελοντικά τα μοντέλα τους με τον Φορέα Προτύπων για αξιολόγηση έως και 30 ημέρες πριν από την κυκλοφορία τους. Μόλις το πρωτόκολλο αξιολόγησης αποδειχθεί αποτελεσματικό και ισχυρό, η επισημοποίηση θα μπορούσε να ακολουθήσει γρήγορα, πράγμα που σημαίνει ότι τα Frontier Models θα απαιτείται να το περάσουν επιτυχώς για να διατεθούν στην αγορά των ΗΠΑ. Τα εργαστήρια θα συνεργάζονταν επίσης με τον Φορέα Προτύπων για την αντιμετώπιση τυχόν κρίσιμων ευπαθειών μετά την κυκλοφορία.

Οι αξιολογήσεις των μοντέλων θα πρέπει να περιλαμβάνουν αυστηρές επιστημονικές αποτιμήσεις των δυνατοτήτων τους στην κυβερνοασφάλεια, τις βιολογικές απειλές και άλλους τομείς υψηλού κινδύνου. Ειδικές δοκιμές αυτόνομης AI (agentic AI) θα μπορούσαν να αναζητούν προσπάθειες παράκαμψης των δικλείδων ασφαλείας ή ενδείξεις παραπλάνησης, και να διασφαλίζουν βέλτιστες πρακτικές, όπως η ψηφιακή υδατογράφηση (watermarking) εικόνων που παράγονται από AI και η παραγωγή αναγνώσιμων από τον άνθρωπο διακριτικών εξόδου (human-readable output tokens) για την κατανόηση του τρόπου συλλογισμού του μοντέλου.

Αυτές οι αξιολογήσεις θα επικαιροποιούνται τακτικά, ίσως σε τριμηνιαία βάση αρχικά, με τα παρωχημένα ή κορεσμένα σημεία αναφοράς να καταργούνται και να αντικαθίστανται. Αρχικά, θα αναπτύσσονται σε διαβούλευση με τα Frontier Labs, αλλά τελικά ο Φορέας Προτύπων θα πρέπει να αναπτύξει την τεχνική ικανότητα να δημιουργεί τις δικές του, ανεξάρτητες δοκιμές (held-out tests) χωρίς τη συμμετοχή των εργαστηρίων, ώστε να αποτρέπεται η υπερπροσαρμογή (overfitting). Σε συνεργασία με την κυβέρνηση των ΗΠΑ, θα μπορούσε να προωθήσει ένα οικοσύστημα ανεξάρτητων ελεγκτών (third-party auditors) για να βοηθήσει στις αξιολογήσεις και την ανάπτυξη νέων σημείων αναφοράς και μεθόδων αξιολόγησης.

Η δύναμη αυτής της προσέγγισης έγκειται στο ότι θα είναι τεχνικά εστιασμένη, ενώ παράλληλα θα υποστηρίζει την καινοτομία και θα παρέχει κίνητρα για υπεύθυνη συμπεριφορά. Έχει σχεδιαστεί για να συμβαδίζει με την επιτάχυνση του κλάδου και να προσαρμόζεται στους μεγαλύτερους κινδύνους καθώς αυτοί εντοπίζονται, ενώ θα μπορούσε να κλιμακωθεί εάν το απαιτήσει η σοβαρότητα της κατάστασης, συμπεριλαμβανομένου του συντονισμού μιας επιβράδυνσης της ανάπτυξης μεταξύ των Frontier Labs, εάν κριθεί απαραίτητο. Ο χαρακτηρισμός ενός οργανισμού ως Frontier Lab θα έφερε σημαντικό κύρος και θα ήταν ανοιχτός σε οποιονδήποτε οργανισμό κατασκευάζει μοντέλα που πληρούν τα κριτήρια αναφοράς. Το πλαίσιο θα μπορούσε να εφαρμόζεται σε μοντέλα κατηγορίας Frontier ανεξάρτητα από τη χώρα προέλευσής τους ή από το αν είναι ανοικτού ή κλειστού κώδικα, αλλά τυχόν μη-frontier μοντέλα, για παράδειγμα από νεοφυείς επιχειρήσεις (startups) ή τον ακαδημαϊκό χώρο, θα εξαιρούνταν από αυτή τη διαδικασία.

Αυτή η πρωτοβουλία των ΗΠΑ θα αποτελούσε ένα ισχυρό σημείο εκκίνησης για τη δημιουργία κοινών διεθνών προτύπων σχετικά με την Frontier AI. Δεδομένου ότι αυτή η τεχνολογία πρόκειται να επηρεάσει ολόκληρο τον πλανήτη, ιδανικά αυτό το πλαίσιο θα ωθούσε τη διεθνή κοινότητα να καταλήξει σε συναίνεση σχετικά με τη διαχείριση των σοβαρότερων κινδύνων, διασφαλίζοντας παράλληλα ότι όλοι έχουν πρόσβαση και μπορούν να επωφεληθούν από τις ευκαιρίες που προσφέρει η AI.

Το Μέλλον Δεν Έχει Ακόμα Γραφτεί

Η AGI έχει τη δυνατότητα να αποτελέσει το απόλυτο εργαλείο για την πρόοδο της επιστήμης και της ιατρικής, καθώς και να οδηγήσει σε τεράστια κέρδη παραγωγικότητας και οικονομική ανάπτυξη. Αλλά για να το επιτύχουμε αυτό, πρέπει να θέσουμε σωστά τα τεχνικά θεμέλια, συντονιζόμενοι γύρω από ένα κοινό παγκόσμιο πλαίσιο, χρησιμοποιώντας τις πλέον αυστηρές επιστημονικές μεθόδους και φέρνοντας κοντά τα καλύτερα μυαλά για να εργαστούν πάνω στις προκλήσεις που αντιμετωπίζουμε.

Ακόμη και αν επιλύσουμε αυτές τις δύσκολες τεχνικές προκλήσεις, θα υπάρξουν περαιτέρω περίπλοκα οικονομικά και φιλοσοφικά ερωτήματα που πρέπει να αντιμετωπίσουμε: τι είδους νέα οικονομικά μοντέλα θα απαιτηθούν για να βοηθήσουν τους πάντες να ευημερήσουν σε έναν κόσμο μετα-αφθονίας (post-scarcity); Με ποιες αξίες θέλουμε να ζούμε, ποιο θα είναι το νόημα και ο σκοπός μας, και πώς μπορεί να αλλάξει ακόμη και η ίδια η ανθρώπινη υπόσταση; Η επίλυση αυτών των ερωτημάτων προφανώς δεν μπορεί και δεν πρέπει να αφεθεί μόνο στους τεχνολόγους. Απαιτεί τη σύμπραξη κάθε κομματιού της κοινωνίας για να συνδιαμορφώσουμε αυτό το νέο κεφάλαιο.

Υπάρχει τόσο τεράστιος ενθουσιασμός όσο και αβεβαιότητα γύρω από την AI, και τα δύο δικαιολογημένα. Αλλά το μέλλον δεν έχει ακόμη γραφτεί· πρέπει να αξιοποιήσουμε αυτό το πολύτιμο παράθυρο ευκαιρίας πριν από την έλευση της AGI για να διαμορφώσουμε αυτή την τεχνολογία προς όφελος όλης της ανθρωπότητας. Όσα πράττουμε συλλογικά τώρα θα καθορίσουν τον τρόπο με τον οποίο θα εξελιχθεί η επόμενη φάση του πολιτισμού μας. Καθοδηγώντας με ασφάλεια την AGI στον κόσμο, μπορούμε να εισέλθουμε σε μια νέα χρυσή εποχή επιστημονικής ανακάλυψης και προόδου, εισάγοντας ένα λαμπρό μέλλον απίστευτης ανθρώπινης ακμής.

Demis Hassabis

Νομπελίστας | Συνιδρυτής & Διευθύνων Σύμβουλος (CEO), Google DeepMind & Isomorphic Labs

 
Πηγή: Το  προσωπικό μανιφέστο που δημοσιεύτηκε σήμερα το πρωί, με τίτλο «Ένα Πλαίσιο για την Τεχνητή Νοημοσύνη στα Σύνορα και την Αυγή μιας Νέας Εποχής».

 
© 2026 mywaypress.gr — Από το τι συμβαίνει στο τι σημαίνει