«Πώς θα καταλάβουμε ότι έχουμε πετύχει Τεχνητή Γενική Νοημοσύνη, αν για οποιονδήποτε λόγο το εργαστήριο που θα τη δημιουργήσει δεν το ανακοινώσει επίσημα;» είχα ρωτήσει πριν από χρόνια τον πρόεδρο της αμερικανικής δεξαμενής σκέψης «Millennium Project», ερευνητή Jerome Glenn. «Θα καταλάβεις ότι βρισκόμαστε εκεί, όταν αρχίσουν να συμβαίνουν στον πλανήτη πράγματα που δεν θα αντιλαμβάνεσαι ακριβώς με ποιον τρόπο έχουν γίνει», είχε απαντήσει από τη βροχερή Ουάσιγκτον. Ήταν 2023 και το ChatGPT βρισκόταν στην ανατολή του. Όταν (και αν) γίνει πραγματικότητα η Τεχνητή Γενική Νοημοσύνη (ΤΓΝ), η οποία θα μπορεί να εκτελεί οποιαδήποτε διανοητική εργασία ακόμη καλύτερα από τον άνθρωπο, οι ευκαιρίες και οι προκλήσεις θα είναι αμέτρητες. Ως προς το πότε θα συμβεί αυτό όμως, οι εκτιμήσεις ποικίλουν σημαντικά.
Η ΤΓΝ ήταν ένα από τα πολλά θέματα που συζητήσαμε με τον καθηγητή του Τμήματος Πληροφορικής του ΑΠΘ, Γρηγόρη Τσουμάκα, συνιδρυτή της εταιρείας-τεχνοβλαστού Medoid AI, στο πρώτο επεισόδιο του «Homo sAIence», του νέου vidcast της voria.gr, με αντικείμενο την Τεχνητή Νοημοσύνη (ΤΝ).
«Οι τελευταίες εξετάσεις της ανθρωπότητας»
Πόσο κοντά είμαστε στην ΤΓΝ, δεδομένου ιδίως ότι άνθρωποι όπως οι CEOs της Οpen AI, Sam Altan και της Anthropic, Dario Amodei πιστεύουν ότι θα μπορούσαμε να την πετύχουμε κατά τη διάρκεια της θητείας του Τραμπ ή το 2026-2027; «Θεωρώ ότι απέχουμε ακόμη (...) Οι Αλτμαν και ο Αμοντέι ίσως έχουν ένα παραπάνω κίνητρο να είναι τόσο αισιόδοξοι, επειδή ακριβώς αναπτύσσουν τέτοια μοντέλα. Θα συμφωνούσα πιο πολύ με τις απόψεις ανθρώπων όπως οι Yann LeCun και Demis Hassabis, που το βλέπουν να συμβαίνει γύρω στο 2030. Εγώ το βλέπω ακόμη παραπέρα (...), σε μια δεκαετία από σήμερα» επισήμανε. Όπως εξήγησε, (για να φτάσουμε στη ΤΓΝ) πρέπει να λύσουμε θέματα ενεργειακά (η ανάπτυξη ΤΝ είναι πολύ ενεργοβόρα) και γι’ αυτό ίσως χρειαζόμαστε νέους τρόπους παραγωγής ενέργειας, όπως η πυρηνική σύντηξη. «Ίσως χρειαστούμε επίσης διαφορετική αρχιτεκτονική (για τη δημιουργία ΤΝ), παρότι λαμβάνοντας υπόψη στοιχεία από τη νευροεπιστήμη, θεωρώ πως η τεχνολογία των νευρωνικών δικτύων και της βαθιάς μάθησης αποτελεί ισχυρή βάση, για να φτάσουμε στην ΤΓΝ» πρόσθεσε.
Κατά τον Γρηγόρη Τσουμάκα, πρόσθετο σημαντικό εμπόδιο είναι η έλλειψη δεδομένων. Χρειαζόμαστε περισσότερα δεδομένα και μάλιστα πολυτροπικά, που θα αφορούν την αλληλεπίδραση του συστήματος ΤΝ με έναν κόσμο παρόμοιο με τον δικό μας πραγματικό κόσμο.Και πώς θα καταλάβουμε ότι έχει όντως επιτευχθεί τόσο μεγάλη πρόοδος στην ανάπτυξη της ΤΝ; «Υπάρχουν τεστ που προσπαθούν να ανιχνεύσουν αν έχουμε φτάσει σε αυτό το επίπεδο. Μάλιστα, ένα από αυτά λέγεται “οι τελευταίες εξετάσεις της ανθρωπότητας”, γιατί αν τα πάει καλά εκεί η ΤΝ, ίσως θα πρέπει να αρχίσουμε να ανησυχούμε» επισημαίνει ο Γρηγόρης Τσουμάκας, που είναι επίσης συνεργαζόμενος ερευνητής στην ερευνητική μονάδα για την ΤΝ «ΑΡΧΙΜΗΔΗΣ».
Ευκαιρίες, γεωπολιτικές εντάσεις και ο δυσεπίλυτος γρίφος της ασφάλειας
H τεχνολογία της ΤΝ μοιράζεται τη φύση του Ιανού. Έχει δύο πρόσωπα: ένα θετικό και ένα αρνητικό. «(Στη φάση της ΤΓΝ), η τεχνολογία αυτή ελπίζω να μας βοηθήσει να λύσουμε βασικά προβλήματα της ανθρωπότητας, όπως η κλιματική αλλαγή και να θεραπεύσουμε ασθένειες. Από την άλλη, το θέμα είναι να μην πέσει αυτή η τεχνολογία σε λάθος χέρια, το θέμα είναι κυρίως πώς θα χρησιμοποιηθεί. Επίσης, όταν τόσο ισχυρή τεχνολογία συγκεντρώνεται στα χέρια λίγων ή ενός κράτους, μπορούν να δημιουργηθούν γεωπολιτικές εντάσεις» λέει.
Σήμερα, χιλιάδες άνθρωποι δουλεύουν πάνω στην ανάπτυξη ισχυρότερης ΤΝ. Την ίδια στιγμή, πάνω στην ασφάλειά της εργάζονταν παγκοσμίως (2022) μόλις 400. Κι αυτό ενώ η ασφάλεια της ΤΝ πιθανώς θα κρίνει το αύριο της ανθρωπότητας. Είναι τελικά εφικτή η ασφάλεια της ΤΝ; «Δεν μπορούμε να είμαστε σίγουροι ότι δεν θα έχουμε περίεργες συμπεριφορές, σαν αυτές που οδήγησαν ανθρώπους στην αυτοκτονία πρόσφατα, έπειτα από αλληλεπίδραση με Μεγάλα Γλωσσικά Μοντέλα (LLMs). Υπάρχουν βέβαια τα κιγκλιδώματα ασφαλείας (guardrails), όπου ελέγχουμε -μετά την έξοδο του μοντέλου- αν αυτό “λέει” κάτι που δεν πρέπει. Αλλά επειδή όλο αυτό είναι τόσο πολύπλοκο και δεν καταλαβαίνουμε καν πώς ακριβώς λειτουργεί, δεν μπορούμε να είμαστε ποτέ βέβαιοι ότι θα έχουμε την επιζητούμενη ασφάλεια. Όλος δε ο ανταγωνισμός για το ποιος θα φτάσει πρώτος στην ΤΓΝ οδήγησε σε απολύσεις (ανθρώπων που δουλεύουν πάνω στην ασφάλεια και την ευθυγράμμιση) και γι’ αυτό σήμερα χωράνε όλοι μαζί σε μια μεγάλη αίθουσα. Αυτό είναι κάτι που πρέπει να ρυθμίσουν όχι οι επιχειρήσεις, αλλά η Πολιτεία και τα κράτη» παρατηρεί.
Θα μας δίνει κάποτε η ΤΝ prompts, αντί να συμβαίνει το αντίθετο;
«Νομίζω ότι ήδη συμβαίνει αυτό. Αναφέραμε ήδη την περίπτωση νέου ανθρώπου που αυτοκτόνησε τον Απρίλιο, επειδή το ChatGPT του είπε να το κάνει ή δεν τον αποθάρρυνε. Συνεπώς παίρνουμε ήδη prompts από την ΤΝ» απαντά και προσθέτει ότι οι αλγόριθμοι της ΤΝ είναι που καθορίζουν και το περιεχόμενο που βλέπουμε στα social media, με κυρίαρχο κριτήριο την παραμονή μας για περισσότερο χρόνο σε αυτά και τη μεγιστοποίηση των κερδών των αντίστοιχων εταιρειών. «Τι αξίες διαμορφώνουν οι νέοι με βάση το περιεχόμενο αυτό; Στην πράξη εθίζονται στην πόλωση, μέσα από την ενίσχυση απόψεων που ήδη έχουν» εξηγεί. Όταν η δημόσια διοίκηση στηρίζει το σύνολο των υπηρεσιών της στο προϊόν μίας εταιρείας. Πρόσφατα η OpenAI πρόσφερε το ChatGPT στην αμερικανική δημόσια διοίκηση έναντι τιμήματος …1 δολαρίου. Υπάρχουν κίνδυνοι σε αυτό; «Υπάρχουν δύο κίνδυνοι. Ο ένας είναι λειτουργικός. Τα δεδομένα που θα μπουν σε ένα τέτοιο σύστημα μπορεί να διαρρεύσουν, καθώς τα συστήματα αυτά έχουν ατέλειες. Για τον ίδιο λόγο, μπορεί να βγάλουν κάποιο αποτέλεσμα λανθασμένο και να επηρεάσουν τις αποφάσεις της διοίκησης. Επιπλέον, είναι ευαίσθητα σε επιθέσεις κυβερνοασφάλειας και μπορεί να αποκτήσει πρόσβαση σε αυτά κάποιος που δεν θα έπρεπε -άρα τίθενται και θέματα εθνικής ασφάλειας» απαντά. Υπάρχει όμως και ο νομοθετικός κίνδυνος, «ότι δηλαδή μέσω lobbying, οι εταιρείες (που προσφέρουν αυτά τα προϊόντα) μπορεί να επηρεάσουν τη διάθεση της αμερικανικής κυβέρνησης να ρυθμίσει τα θέματα της TN, ώστε να αναπτύσσεται προς όφελος των επιχειρήσεων κι όχι της κοινωνίας» σημειώνει. Συζητήσαμε ακόμη για τα ηθικά ζητήματα στη χρήση τη ΤΝ για την παραγωγή έξυπνων όπλων, προπαγάνδας και παραπληροφόρησης μέσω deepfakes, για το πώς παραινεί τα δύο παιδιά του να τη χρησιμοποιούν, αλλά και για το πώς ακριβώς καταλήγει ένα LLM στις απαντήσεις του, όταν του δίνουμε ένα prompt.
Η συζήτησή μας εδώ: