Οι άνθρωποι που φοβήθηκαν περισσότερο τους κινδύνους της τεχνητής νοημοσύνης αποφάσισαν ότι θα έπρεπε να είναι αυτοί που θα την κατασκευάσουν. Στη συνέχεια, η δυσπιστία πυροδότησε έναν σπειροειδή ανταγωνισμό.
…
Ο Έλον Μασκ γιόρτασε τα 44α γενέθλιά του τον Ιούλιο του 2015 σε ένα τριήμερο πάρτι που διοργάνωσε η σύζυγός του σε ένα θέρετρο στην Καλιφόρνια με διάστικτες καμπίνες. Ήταν μόνο οικογένεια και φίλοι, με παιδιά να τρέχουν γύρω από την πολυτελή ιδιοκτησία στην κοιλάδα της Νάπα.
Αυτό ήταν χρόνια πριν το Twitter γίνει X και η Tesla είχε μια κερδοφόρα χρονιά. Ο κύριος Μασκ και η σύζυγός του, Talulah Riley – μια ηθοποιός που έπαιξε ένα όμορφο αλλά επικίνδυνο ρομπότ στη σειρά επιστημονικής φαντασίας του HBO “Westworld” – απείχαν ένα χρόνο από το να σταματήσουν να προσπαθούν για το καταδικασμένο δεύτερο γάμο τους. Ο Λάρι Πέιτζ, ένας καλεσμένος σε πάρτι, ήταν ακόμα ο διευθύνων σύμβουλος της Google. Και η τεχνητή νοημοσύνη είχε διαπεράσει τη συνείδηση του κοινού μόλις λίγα χρόνια πριν, όταν χρησιμοποιήθηκε για την αναγνώριση γατών στο YouTube — με ακρίβεια 16 τοις εκατό.
Η τεχνητή νοημοσύνη ήταν το μεγάλο θέμα συζήτησης όταν ο κύριος Μασκ και ο κ. Πέιτζ κάθισαν κοντά σε ένα τζάκι δίπλα σε μια πισίνα μετά το δείπνο το πρώτο βράδυ. Οι δύο δισεκατομμυριούχοι ήταν φίλοι για περισσότερο από μια δεκαετία και ο κ. Μασκ μερικές φορές αστειευόταν ότι κατά καιρούς την έπεφτε στον καναπέ του κ. Πέιτζ μετά από μια νύχτα που έπαιζε βιντεοπαιχνίδια.
Αλλά ο τόνος εκείνης της καθαρής νύχτας έγινε σύντομα αμφιλεγόμενος καθώς οι δυο τους συζητούσαν αν η τεχνητή νοημοσύνη θα εξύψωνε τελικά την ανθρωπότητα ή θα την κατέστρεφε.
Καθώς η συζήτηση επεκτεινόταν στις πρωινές ώρες, έγινε έντονη και μερικοί από τους περισσότερους από 30 συμμετέχοντες συγκεντρώθηκαν πιο κοντά για να ακούσουν. Ο κύριος Πέιτζ, που ταλαιπωρούνταν για περισσότερο από μια δεκαετία από μια ασυνήθιστη πάθηση στις φωνητικές του χορδές, περιέγραφε ψιθυριστά το όραμά του για μια ψηφιακή ουτοπία. Οι άνθρωποι τελικά θα συγχωνευθούν με μηχανές τεχνητής νοημοσύνης, είπε. Μια μέρα θα υπήρχαν πολλά είδη νοημοσύνης που θα ανταγωνίζονταν για πόρους και ο καλύτερος θα κέρδιζε.
Αν συμβεί αυτό, είπε ο κ. Μασκ, είμαστε καταδικασμένοι. Οι μηχανές θα καταστρέψουν την ανθρωπότητα.
Με μια δόση απογοήτευσης, ο κ. Πέιτζ επέμεινε ότι η ουτοπία του πρέπει να συνεχιστεί. Τέλος, αποκάλεσε τον κ. Μασκ «specieist» (ΣτΜ. η πεποίθηση του άνθρωπος ότι όλα τα άλλα είδη ζώων είναι κατώτερα), ένα άτομο που ευνοεί τους ανθρώπους έναντι των ψηφιακών μορφών ζωής του μέλλοντος.
Αυτή η προσβολή, είπε αργότερα ο κ. Μασκ, ήταν «η σταγόνα που ξεχείλισε το ποτήρι».
Πολλοί από το πλήθος έδειχναν άναυδοι, αν και διασκέδασαν, καθώς διαλύθηκαν για ύπνο, και το θεώρησαν απλώς ένα από αυτά τα εσωτερικά ντιμπέιτ που ξεσπούν συχνά στα πάρτι της Silicon Valley.
Όμως, οκτώ χρόνια αργότερα, η διαμάχη μεταξύ των δύο ανδρών φαίνεται προειδοποιητική. Το ερώτημα εάν η τεχνητή νοημοσύνη θα εξυψώσει τον κόσμο ή θα τον κατέστρεφε – ή τουλάχιστον θα προκαλούσε σοβαρή ζημιά – έχει πλαισιώσει μια συνεχιζόμενη συζήτηση μεταξύ ιδρυτών της Silicon Valley, χρηστών chatbot, ακαδημαϊκών, νομοθετών και ρυθμιστικών αρχών σχετικά με το εάν η τεχνολογία πρέπει να ελέγχεται ή να ελευθερωθεί.
Αυτή η συζήτηση έφερε αντιμέτωπους μερικούς από τους πλουσιότερους ανθρώπους του κόσμου: τον κ. Μασκ, τον κ. Πέιτζ, τον Μαρκ Ζάκερμπεργκ της Meta, τον επενδυτή τεχνολογίας Πίτερ Θίελ, τον Σάτια Ναντέλα της Microsoft και τον Σαμ Άλτμαν του OpenAI. Όλοι έχουν αγωνιστεί για ένα κομμάτι της επιχείρησης – που μια μέρα θα μπορούσε να αξίζει τρισεκατομμύρια δολάρια – και τη δύναμη να το διαμορφώσουν.
Στο επίκεντρο αυτού του διαγωνισμού βρίσκεται ένα παράδοξο που τεντώνει τον εγκέφαλο. Οι άνθρωποι που λένε ότι ανησυχούν περισσότερο για την τεχνητή νοημοσύνη είναι από τους πιο αποφασισμένους να τη δημιουργήσουν και να απολαύσουν τα πλούτη της. Δικαιολόγησαν τη φιλοδοξία τους με την ισχυρή τους πεποίθηση ότι μόνο αυτοί μπορούν να εμποδίσουν την τεχνητή νοημοσύνη να θέσει σε κίνδυνο τη Γη.
Ο κύριος Μασκ και ο κ. Πέιτζ σταμάτησαν να μιλούν αμέσως μετά το πάρτι εκείνο το καλοκαίρι. Λίγες εβδομάδες αργότερα, ο κ. Μασκ δείπνησε με τον κ. Άλτμαν, ο οποίος τότε διαχειριζόταν μια θερμοκοιτίδα τεχνολογίας, και αρκετούς ερευνητές σε ένα ιδιωτικό δωμάτιο στο ξενοδοχείο Rosewood στο Menlo Park της Καλιφόρνια, ένα ευνοημένο σημείο σύναψης συμφωνιών κοντά στα κεντρικά γραφεία του Sand Hill Road.
Αυτό το δείπνο οδήγησε στη δημιουργία μιας start-up που ονομάζεται OpenAI αργότερα μέσα στη χρονιά. Υποστηριζόμενο από εκατοντάδες εκατομμύρια δολάρια από τον κ. Μασκ και άλλους χρηματοδότες, το εργαστήριο υποσχέθηκε να προστατεύσει τον κόσμο από το όραμα του κ. Πέιτζ.
Χάρη στο chatbot ChatGPT, το OpenAI άλλαξε θεμελιωδώς τη βιομηχανία τεχνολογίας και εισήγαγε τον κόσμο στους κινδύνους και τις δυνατότητες της τεχνητής νοημοσύνης. Το OpenAI αποτιμάται σε περισσότερα από 80 δισεκατομμύρια δολάρια, σύμφωνα με δύο άτομα που γνωρίζουν τον τελευταίο γύρο χρηματοδότησης της εταιρείας, αν και η συνεργασία του κ. Μασκ και του κ. Άλτμαν δεν τα κατάφερε. Οι δυο τους έκτοτε σταμάτησαν να μιλούν.
«Υπάρχει διαφωνία, δυσπιστία, εγωισμοί», είπε ο κ. Άλτμαν. «Όσο πιο κοντά βρίσκονται οι άνθρωποι στο να στρέφονται προς την ίδια κατεύθυνση, τόσο πιο αμφιλεγόμενες είναι οι διαφωνίες. Το βλέπετε αυτό σε αιρέσεις και θρησκευτικά τάγματα. Υπάρχουν σκληροί καβγάδες μεταξύ των πιο κοντινών ανθρώπων».
Τον περασμένο μήνα, αυτή η εσωτερική διαμάχη ήρθε στην αίθουσα συνεδριάσεων του OpenAI. Τα μέλη του συμβουλίου των ανταρτών προσπάθησαν να διώξουν τον κ. Άλτμαν επειδή, πίστευαν, δεν μπορούσαν πλέον να τον εμπιστευτούν για την κατασκευή τεχνητής νοημοσύνης που θα ωφελούσε την ανθρωπότητα. Πάνω από πέντε χαοτικές ημέρες το OpenAI έμοιαζε σαν να επρόκειτο να καταρρεύσει, έως ότου το διοικητικό συμβούλιο – πιεσμένο από κολοσσούς επενδυτές και υπαλλήλους που απείλησαν να ακολουθήσουν τον κ. Άλτμαν έξω από την πόρτα – υποχώρησε.
Το δράμα μέσα στο OpenAI έδωσε στον κόσμο την πρώτη του γεύση από τις πικρές διαμάχες μεταξύ εκείνων που θα καθορίσουν το μέλλον της AI.
Όμως, χρόνια πριν από την σχεδόν κατάρρευση του OpenAI, υπήρχε ένας ελάχιστα δημοσιοποιημένος αλλά άγριος ανταγωνισμός στη Silicon Valley για τον έλεγχο της τεχνολογίας που τώρα γρήγορα αναδιαμορφώνει τον κόσμο, από το πώς διδάσκονται τα παιδιά μέχρι τον τρόπο με τον οποίο διεξάγονται οι πόλεμοι. Οι New York Times μίλησαν με περισσότερα από 80 στελέχη, επιστήμονες και επιχειρηματίες, συμπεριλαμβανομένων δύο ατόμων που παρακολούθησαν το πάρτι γενεθλίων του κ. Μασκ το 2015, για να πουν αυτή την ιστορία φιλοδοξίας, φόβου και χρημάτων.
Η γέννηση του DeepMind
Πέντε χρόνια πριν από το πάρτι της Napa Valley και δύο πριν από το επίτευγμα της γάτας στο YouTube, ο Demis Hassabis, ένας 34χρονος νευροεπιστήμονας, μπήκε σε ένα κοκτέιλ πάρτι στο αρχοντικό του Peter Thiel στο Σαν Φρανσίσκο και συνειδητοποίησε ότι είχε χτυπήσει φλέβα. Εκεί στο σαλόνι του κυρίου Θίελ, με θέα στο Παλάτι των Καλών Τεχνών της πόλης και σε μια λίμνη κύκνων, υπήρχε μια σκακιέρα. Ο Δρ Hassabis ήταν κάποτε ο δεύτερος καλύτερος παίκτης στον κόσμο στην κατηγορία κάτω των 14 ετών.
«Ετοιμαζόμουν για εκείνη τη συνάντηση για ένα χρόνο», είπε ο Δρ Hassabis. «Νόμιζα ότι αυτό θα ήταν ο μοναδικός μου τρόπος διείσδυσης: ήξερα ότι του άρεσε το σκάκι».
Το 2010, ο Δρ Hassabis και δύο συνάδελφοί του, που ζούσαν όλοι στη Βρετανία, έψαχναν για χρήματα για να αρχίσουν να κατασκευάζουν «τεχνητή γενική νοημοσύνη» ή AGI, μια μηχανή που μπορούσε να κάνει ό,τι μπορούσε να κάνει ο εγκέφαλος. Εκείνη την εποχή, λίγοι άνθρωποι ενδιαφέρονταν για την τεχνητή νοημοσύνη Μετά από μισό αιώνα έρευνας, το πεδίο της τεχνητής νοημοσύνης είχε αποτύχει να προσφέρει οτιδήποτε κοντά στον ανθρώπινο εγκέφαλο.
Ωστόσο, ορισμένοι επιστήμονες και στοχαστές είχαν προσηλωθεί στα μειονεκτήματα της τεχνητής νοημοσύνης Πολλοί, όπως και οι τρεις νεαροί άνδρες από τη Βρετανία, είχαν σχέση με τον Eliezer Yudkowsky, έναν φιλόσοφο του Διαδικτύου και αυτοδίδακτο ερευνητή της τεχνητής νοημοσύνης. Ο κ. Yudkowsky ήταν ηγέτης σε μια κοινότητα ανθρώπων που αυτοαποκαλούνταν Ορθολογιστές ή, στα μετέπειτα χρόνια, αποτελεσματικοί αλτρουιστές.
Πίστευαν ότι η τεχνητή νοημοσύνη θα μπορούσε να βρει μια θεραπεία για τον καρκίνο ή να λύσει το πρόβλημα της κλιματικής αλλαγής, αλλά ανησυχούσαν ότι τα ρομπότ τεχνητής νοημοσύνης μπορεί να κάνουν πράγματα που οι δημιουργοί τους δεν είχαν σκοπό. Αν οι μηχανές γίνονταν πιο έξυπνες από τους ανθρώπους, υποστήριζαν οι Ορθολογιστές, οι μηχανές θα μπορούσαν να στραφούν εναντίον των δημιουργών τους.
Ο κ. Thiel είχε γίνει εξαιρετικά πλούσιος μέσω μιας πρώιμης επένδυσης στο Facebook και μέσω της συνεργασίας του με τον κ. Musk στις πρώτες μέρες του PayPal. Είχε αναπτύξει μια γοητεία για τη singularity, ένα τροπάριο επιστημονικής φαντασίας που περιγράφει τη στιγμή που η ευφυής τεχνολογία δεν μπορεί πλέον να ελεγχθεί από την ανθρωπότητα.
Με χρηματοδότηση από τον κ. Thiel, ο κ. Yudkowsky είχε επεκτείνει το εργαστήριό του AI και δημιούργησε ένα ετήσιο συνέδριο για τη singularity. Χρόνια πριν, ένας από τους δύο συναδέλφους του Δρ. Χασάμπις είχε γνωρίσει τον κ. Γιουντκόφσκι και τους προσέγγισε στα πηγαδάκια του συνεδρίου, διασφαλίζοντας ότι θα ήταν καλεσμένοι στο πάρτι του κ. Θίελ.
Ο κ. Yudkowsky σύστησε τον Δρ Hassabis στον κ. Thiel. Ο Δρ Χασάμπης υπέθεσε ότι πολλοί άνθρωποι στο πάρτι θα προσπαθούσαν να στριμώξουν τον οικοδεσπότη τους για χρήματα. Η στρατηγική του ήταν να κανονίσει άλλη μια συνάντηση. Υπήρξε μια βαθιά ένταση μεταξύ του αξιωματικού και του ίππου, είπε στον κύριο Θίελ. Τα δύο κομμάτια είχαν την ίδια αξία, αλλά οι καλύτεροι παίκτες κατάλαβαν ότι οι δυνάμεις τους ήταν πολύ διαφορετικές.
Δούλεψε. Γοητευμένος, ο κύριος Θίελ κάλεσε την ομάδα πίσω την επόμενη μέρα, όπου συγκεντρώθηκαν στην κουζίνα. Ο οικοδεσπότης τους μόλις είχε τελειώσει την πρωινή του προπόνηση και εξακολουθούσε να ιδρώνει με μια γυαλιστερή αθλητική φόρμα. Ένας μπάτλερ του έδωσε μια διαιτητική κόλα. Και οι τρεις έκαναν τον αγώνα τους και σύντομα ο κ. Thiel και η εταιρεία επιχειρηματικών κεφαλαίων του συμφώνησαν να βάλουν 1,4 εκατομμύρια βρετανικές λίρες (περίπου 2,25 εκατομμύρια δολάρια) στην εκκίνηση τους. Ήταν ο πρώτος μεγάλος επενδυτής τους.
Ονόμασαν την εταιρεία τους DeepMind, ένα νεύμα στη «βαθιά μάθηση», έναν τρόπο για τα συστήματα AI να μαθαίνουν δεξιότητες αναλύοντας μεγάλες ποσότητες δεδομένων· στη νευροεπιστήμη· και στον υπερυπολογιστή Deep Thought από το μυθιστόρημα επιστημονικής φαντασίας «The Hitchhiker’s Guide to the Galaxy». Μέχρι το φθινόπωρο του 2010, κατασκεύαζαν τη μηχανή των ονείρων τους. Πίστευαν ολόψυχα ότι επειδή κατανοούσαν τους κινδύνους, ήταν μοναδικά τοποθετημένοι για να προστατεύουν τον κόσμο.
«Δεν το βλέπω ως αντιφατική θέση», είπε ο Μουσταφά Σουλεϊμάν, ένας από τους τρεις ιδρυτές της DeepMind. «Υπάρχουν τεράστια οφέλη από αυτές τις τεχνολογίες. Ο στόχος δεν είναι η εξάλειψή τους ή η παύση της ανάπτυξής τους. Στόχος είναι να μετριαστούν τα μειονεκτήματα».
Έχοντας κερδίσει τον κ. Thiel, ο Δρ Χασάμπις μπήκε στην τροχιά του κ. Μασκ. Περίπου δύο χρόνια αργότερα, συναντήθηκαν σε ένα συνέδριο που διοργάνωσε το επενδυτικό ταμείο του κ. Thiel, το οποίο είχε επίσης βάλει χρήματα στην εταιρεία του κ. Musk SpaceX. Ο Δρ Χασάμπης εξασφάλισε μια ξενάγηση στα κεντρικά γραφεία της SpaceX. Στη συνέχεια, με τα κελύφη από ρουκέτες να κρέμονται από το ταβάνι, οι δύο άντρες γευμάτισαν στην καφετέρια και μίλησαν.
Ο κ. Μασκ εξήγησε ότι το σχέδιό του ήταν να αποικίσει τον Άρη για να ξεφύγει από τον υπερπληθυσμό και άλλους κινδύνους στη Γη. Ο Δρ Χασάμπις απάντησε ότι το σχέδιο θα λειτουργούσε — εφόσον οι υπερέξυπνες μηχανές δεν ακολουθούσαν και δεν κατέστρεφαν την ανθρωπότητα και στον Άρη.
Ο κύριος Μασκ έμεινε άφωνος. Δεν είχε σκεφτεί τον συγκεκριμένο κίνδυνο. Ο κύριος Μασκ επένδυσε σύντομα στο DeepMind στο πλευρό του κ. Thiel, ώστε να μπορεί να είναι πιο κοντά στη δημιουργία αυτής της τεχνολογίας.
Πλήρης με μετρητά, η DeepMind προσέλαβε ερευνητές που ειδικεύονταν στα νευρωνικά δίκτυα, σύνθετους αλγόριθμους που δημιουργήθηκαν στην εικόνα του ανθρώπινου εγκεφάλου. Ένα νευρωνικό δίκτυο είναι ουσιαστικά ένα γιγάντιο μαθηματικό σύστημα που ξοδεύει μέρες, εβδομάδες ή και μήνες εντοπίζοντας μοτίβα σε μεγάλες ποσότητες ψηφιακών δεδομένων. Αναπτύχθηκαν για πρώτη φορά στη δεκαετία του 1950, αυτά τα συστήματα μπορούσαν να μάθουν να χειρίζονται εργασίες μόνα τους. Αφού ανέλυσαν ονόματα και διευθύνσεις γραμμένες σε εκατοντάδες φακέλους, για παράδειγμα, μπορούσαν να διαβάσουν χειρόγραφο κείμενο.
Η DeepMind προχώρησε την ιδέα περαιτέρω. Κατασκεύασε ένα σύστημα που μπορούσε να μάθει να παίζει κλασικά παιχνίδια Atari όπως το Space Invaders, το Pong και το Breakout για να δείξει τι ήταν δυνατό.
Αυτό τράβηξε την προσοχή μιας άλλης δύναμης της Silicon Valley, της Google, και συγκεκριμένα του Larry Page. Είδε μια επίδειξη της μηχανής του Deep Mind που έπαιζε παιχνίδια Atari. Ήθελε να μπει.
Η δημοπρασία ταλέντων
Το φθινόπωρο του 2012, ο Geoffrey Hinton, ένας 64χρονος καθηγητής στο Πανεπιστήμιο του Τορόντο, και δύο μεταπτυχιακοί φοιτητές δημοσίευσαν μια ερευνητική εργασία που έδειξε στον κόσμο τι μπορούσε να κάνει η τεχνητή νοημοσύνη. Εκπαίδευσαν ένα νευρωνικό δίκτυο για να αναγνωρίζει κοινά αντικείμενα όπως λουλούδια, σκύλους και αυτοκίνητα.
Οι επιστήμονες εξεπλάγησαν από την ακρίβεια της τεχνολογίας που κατασκεύασε ο Δρ Hinton και οι μαθητές του. Ένας που έλαβε ιδιαίτερη προσοχή ήταν ο Yu Kai, ένας ερευνητής τεχνητής νοημοσύνης που είχε γνωρίσει τον Δρ Hinton σε ένα ερευνητικό συνέδριο και είχε αρχίσει πρόσφατα να εργάζεται για την Baidu, τη γιγάντια κινεζική εταιρεία Διαδικτύου. Η Baidu πρόσφερε στον Δρ Hinton και στους μαθητές του 12 εκατομμύρια δολάρια για να ενταχθούν στην εταιρεία στο Πεκίνο, σύμφωνα με τρία άτομα που γνωρίζουν την προσφορά.
Ο Δρ Hinton απέρριψε τον Baidu, αλλά τα χρήματα του τράβηξαν την προσοχή.
Ο Βρετανός ομογενής με σπουδές στο Κέιμπριτζ είχε περάσει το μεγαλύτερο μέρος της καριέρας του στον ακαδημαϊκό χώρο, εκτός από περιστασιακές θητείες στη Microsoft και την Google, και δεν δελεάζονταν ιδιαίτερα από τα χρήματα. Αλλά είχε ένα νευροαποκλίνον παιδί και τα χρήματα θα σήμαιναν οικονομική ασφάλεια.
«Δεν ξέραμε πόσο αξίζαμε», είπε ο Δρ Χίντον. Συμβουλεύτηκε δικηγόρους και ειδικούς για τις εξαγορές και κατέληξε σε ένα σχέδιο: «Θα οργανώναμε μια δημοπρασία και θα πουλούσαμε τους εαυτούς μας». Η δημοπρασία θα πραγματοποιούνταν κατά τη διάρκεια ενός ετήσιου συνεδρίου AI στο ξενοδοχείο και το καζίνο του Harrah’s στη λίμνη Tahoe.
Η Big Tech το έλαβε υπόψη. Η Google, η Microsoft, η Baidu και άλλες εταιρείες άρχισαν να πιστεύουν ότι τα νευρωνικά δίκτυα ήταν μια διαδρομή προς μηχανές που όχι μόνο μπορούσαν να δουν, αλλά να ακούσουν, να γράψουν, να μιλήσουν και – τελικά – να σκεφτούν.
Ο κ. Πέιτζ είχε δει παρόμοια τεχνολογία στο Google Brain, το εργαστήριο τεχνητής νοημοσύνης της εταιρείας του, και πίστευε ότι η έρευνα του Δρ. Hinton θα μπορούσε να εξυψώσει το έργο των επιστημόνων του. Έδωσε στον Alan Eustace, τον ανώτερο αντιπρόεδρο μηχανικής της Google, κάτι που ισοδυναμούσε με λευκή επιταγή για να προσλάβει όποια τεχνογνωσία χρειαζόταν.
Ο κ. Eustace και ο Jeff Dean, που ηγήθηκαν του εργαστηρίου Brain, πέταξαν στη λίμνη Tahoe και πήγαν τον Dr Hinton και τους μαθητές του για δείπνο σε ένα steakhouse μέσα στο ξενοδοχείο το βράδυ πριν από τη δημοπρασία. Η μυρωδιά των παλιών τσιγάρων ήταν απίστευτη, θυμάται ο Δρ Ντιν. Έκαναν την υπόθεση να έρθουν να δουλέψουν στη Google.
Την επόμενη μέρα, ο Δρ Χίντον διεξήγαγε τη δημοπρασία από το δωμάτιο του ξενοδοχείου του. Λόγω ενός παλιού τραυματισμού στην πλάτη, σπάνια καθόταν. Γύρισε έναν κάδο απορριμμάτων ανάποδα σε ένα τραπέζι, έβαλε το φορητό υπολογιστή του από πάνω και είδε τις προσφορές να έρχονται τις επόμενες δύο ημέρες.
Η Google έκανε μια προσφορά. Το ίδιο και η Microsoft. Η DeepMind λύγισε γρήγορα καθώς η τιμή ανέβηκε. Οι κολοσσοί της βιομηχανίας ώθησαν τις προσφορές στα 20 εκατομμύρια δολάρια και στη συνέχεια στα 25 εκατομμύρια δολάρια, σύμφωνα με έγγραφα που περιγράφουν λεπτομερώς τη δημοπρασία. Καθώς η τιμή ξεπέρασε τα 30 εκατομμύρια δολάρια, η Microsoft παραιτήθηκε, αλλά συμμετείχε ξανά στην προσφορά στα 37 εκατομμύρια δολάρια.
«Αισθανθήκαμε σαν να ήμασταν σε ταινία», είπε ο Δρ Χίντον.
Στη συνέχεια, η Microsoft αποχώρησε για δεύτερη φορά. Μόνο η Baidu και η Google έμειναν και ώθησαν την προσφορά στα 42 εκατομμύρια δολάρια, 43 εκατομμύρια δολάρια. Τελικά, στα 44 εκατομμύρια δολάρια, ο Δρ Hinton και οι μαθητές του διέκοψαν τη δημοπρασία. Οι προσφορές εξακολουθούσαν να ανεβαίνουν, αλλά ήθελαν να δουλέψουν για την Google. Και τα λεφτά ήταν τρελά.
Ήταν ένα αναμφισβήτητο σημάδι ότι οι εταιρείες με βαθιές τσέπες ήταν αποφασισμένες να αγοράσουν τους πιο ταλαντούχους ερευνητές τεχνητής νοημοσύνης – κάτι που δεν πέρασε απαρατήρητο από τον Δρ Χασάμπις στο DeepMind. Πάντα έλεγε στους υπαλλήλους του ότι η DeepMind θα παρέμενε μια ανεξάρτητη εταιρεία. Αυτός ήταν, πίστευε, ο καλύτερος τρόπος για να διασφαλιστεί ότι η τεχνολογία του δεν θα μετατραπεί σε κάτι επικίνδυνο.
Αλλά καθώς η Big Tech μπήκε στον αγώνα ταλέντων, αποφάσισε ότι δεν είχε άλλη επιλογή: Ήταν καιρός να πουλήσει.
Μέχρι το τέλος του 2012, η Google και το Facebook προσπαθούσαν να αποκτήσουν το εργαστήριο του Λονδίνου, σύμφωνα με τρία άτομα που γνωρίζουν το θέμα. Ο Δρ. Hassabis και οι συνιδρυτές του επέμειναν σε δύο προϋποθέσεις: Καμία τεχνολογία DeepMind δεν θα μπορούσε να χρησιμοποιηθεί για στρατιωτικούς σκοπούς και η τεχνολογία AGI της πρέπει να επιβλέπεται από ένα ανεξάρτητο συμβούλιο τεχνολόγων και ηθικών.
Η Google πρόσφερε 650 εκατομμύρια δολάρια. Ο Mark Zuckerberg του Facebook πρόσφερε μεγαλύτερη πληρωμή στους ιδρυτές του DeepMind, αλλά δεν συμφωνούσε με τους όρους. Το DeepMind πωλήθηκε στην Google.
Ο κ. Zuckerberg ήταν αποφασισμένος να φτιάξει ένα δικό του εργαστήριο AI. Προσέλαβε τον Yann LeCun, έναν Γάλλο επιστήμονα υπολογιστών που είχε κάνει επίσης πρωτοποριακή έρευνα για την τεχνητή νοημοσύνη, για να το τρέξει. Ένα χρόνο μετά τη δημοπρασία του Dr. Hinton, ο κ. Zuckerberg και ο Dr. LeCun πέταξαν στη λίμνη Tahoe για το ίδιο συνέδριο AI. Καθώς έβαζε τις κάλτσες του σε μια σουίτα στο καζίνο του Harrah, ο κ. Zuckerberg πήρε προσωπικά συνεντεύξεις από κορυφαίους ερευνητές, στους οποίους σύντομα προσφέρθηκαν εκατομμύρια δολάρια σε μισθό και μετοχές.
Η τεχνητή νοημοσύνη κάποτε χλευάζονταν. Τώρα οι πλουσιότεροι άνδρες στη Σίλικον Βάλεϊ ξόδευαν δισεκατομμύρια για να μην μείνουν πίσω.
Το χαμένο συμβούλιο δεοντολογίας
Όταν ο κ. Μασκ επένδυσε στο DeepMind, παραβίασε τον δικό του άτυπο κανόνα – ότι δεν θα επένδυε σε καμία εταιρεία που δεν διηύθυνε ο ίδιος. Τα μειονεκτήματα της απόφασής του ήταν ήδη εμφανή όταν, μόλις ένα μήνα περίπου μετά τη φιλονικία των γενεθλίων του με τον κύριο Πέιτζ, βρέθηκε ξανά πρόσωπο με πρόσωπο με τον πρώην φίλο και δισεκατομμυριούχο συνάδελφό του.
Αφορμή ήταν η πρώτη συνάντηση του συμβουλίου δεοντολογίας της DeepMind, στις 14 Αυγούστου 2015. Το διοικητικό συμβούλιο είχε συσταθεί με την επιμονή των ιδρυτών της start-up για να διασφαλιστεί ότι η τεχνολογία τους δεν θα βλάψει μετά την πώληση. Τα μέλη συγκεντρώθηκαν σε μια αίθουσα συνεδριάσεων λίγο έξω από το γραφείο του κ. Μασκ στο SpaceX, με ένα παράθυρο που βλέπει στο εργοστάσιο πυραύλων του, σύμφωνα με τρία άτομα που γνωρίζουν τη συνάντηση.
Αλλά εκεί τελείωσε ο έλεγχος του κυρίου Μασκ. Όταν η Google αγόρασε το DeepMind, αγόρασε το σύνολο. Ο κύριος Μασκ ήταν απ΄ έξω. Οικονομικά είχε βγει κερδισμένος, αλλά ήταν δυσαρεστημένος.
Τρία στελέχη της Google είχαν πλέον σταθερά τον έλεγχο του DeepMind: Ο κ. Πέιτζ. ο Sergey Brin, συνιδρυτής της Google και επενδυτής της Tesla· και ο Eric Schmidt, πρόεδρος της Google. Μεταξύ των άλλων παρευρισκομένων ήταν ο Reid Hoffman, ένας άλλος ιδρυτής του PayPal, και ο Toby Ord, ένας Αυστραλός φιλόσοφος που μελετούσε τον «υπαρξιακό κίνδυνο».
Οι ιδρυτές της DeepMind ανέφεραν ότι προχωρούσαν στη δουλειά τους, αλλά ότι γνώριζαν ότι η τεχνολογία ενέχει σοβαρούς κινδύνους.
Ο κ. Σουλεϊμάν, ο συνιδρυτής της DeepMind, έκανε μια παρουσίαση με τίτλο «The Pitchforkers Are Coming». Η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε έκρηξη στην παραπληροφόρηση, είπε στο διοικητικό συμβούλιο. Ανησυχούσε ότι καθώς η τεχνολογία θα αντικαθιστούσε αμέτρητες θέσεις εργασίας τα επόμενα χρόνια, το κοινό θα κατηγορούσε την Google ότι τους κλέβει τα προς το ζην. Η Google θα χρεαιζόταν να μοιραστεί τον πλούτο της με τα εκατομμύρια που δεν μπορούσαν πλέον να βρουν δουλειά και να παρέχουν ένα «καθολικό βασικό εισόδημα», υποστήριξε.
Ο κύριος Μασκ συμφώνησε. Αλλά ήταν αρκετά ξεκάθαρο ότι οι καλεσμένοι του στο Google δεν ήταν διατεθειμένοι να ξεκινήσουν μια αναδιανομή του πλούτου (τους). Ο κ. Schmidt είπε ότι πίστευε ότι οι ανησυχίες ήταν εντελώς υπερβολικές. Με τον συνηθισμένο του ψίθυρο, ο κύριος Πέιτζ συμφώνησε. Η τεχνητή νοημοσύνη θα δημιουργούσε περισσότερες θέσεις εργασίας από όσες αφαιρούσε, υποστήριξε.
Οκτώ μήνες αργότερα, το DeepMind είχε μια σημαντική ανακάλυψη που κατέπληξε την κοινότητα της τεχνητής νοημοσύνης και τον κόσμο. Μια μηχανή DeepMind που ονομάζεται AlphaGo κέρδισε έναν από τους καλύτερους παίκτες στον κόσμο στο αρχαίο παιχνίδι Go. Το παιχνίδι, που μεταδόθηκε μέσω του Διαδικτύου, παρακολούθησαν 200 εκατομμύρια άνθρωποι σε όλο τον κόσμο. Οι περισσότεροι ερευνητές είχαν υποθέσει ότι η τεχνητή νοημοσύνη χρειαζόταν άλλα 10 χρόνια για να συγκεντρώσει την εφευρετικότητα για να το κάνει.
Ορθολογιστές, αποτελεσματικοί αλτρουιστές και άλλοι που ανησυχούσαν για τους κινδύνους της τεχνητής νοημοσύνης ισχυρίστηκαν ότι η νίκη του υπολογιστή επικύρωσε τους φόβους τους.
«Αυτή είναι άλλη μια ένδειξη ότι η τεχνητή νοημοσύνη προχωρά πιο γρήγορα από ό,τι περίμεναν πολλοί ειδικοί», έγραψε σε μια ανάρτηση σε ιστολόγιο η Victoria Krakovna, η οποία σύντομα θα ενταχθεί στο DeepMind ως ερευνήτρια «AI Security».
Οι ιδρυτές της DeepMind ανησυχούσαν όλο και περισσότερο για το τι θα έκανε η Google με τις εφευρέσεις τους. Το 2017 προσπάθησαν να απομακρυνθούν από την εταιρεία. Η Google απάντησε αυξάνοντας τους μισθούς και τα πακέτα βραβείων μετοχών των ιδρυτών της DeepMind και του προσωπικού τους. Έμειναν στη θέση τους.
Το συμβούλιο δεοντολογίας δεν είχε ποτέ δεύτερη συνεδρίαση.
Ο χωρισμός
Πεπεισμένος ότι η αισιόδοξη άποψη του κ. Πέιτζ για την τεχνητή νοημοσύνη ήταν τελείως λανθασμένη και θυμωμένος με την απώλεια του DeepMind, ο κ. Μασκ έφτιαξε το δικό του εργαστήριο.
Το OpenAI ιδρύθηκε στα τέλη του 2015, λίγους μόλις μήνες αφότου συναντήθηκε με τον Sam Altman στο ξενοδοχείο Rosewood στη Silicon Valley. Ο κύριος Μασκ άντλησε χρήματα στο εργαστήριο και οι πρώην φίλοι του στο PayPal, ο κ. Χόφμαν και ο κ. Θίελ, ήρθαν για τη βόλτα. Οι τρεις άνδρες και άλλοι υποσχέθηκαν να βάλουν 1 δισεκατομμύριο δολάρια στο έργο, το οποίο ο κ. Άλτμαν, ο οποίος ήταν 30 ετών τότε, θα βοηθούσε στην εκτέλεση. Για να ξεκινήσουν, έκαναν λαθροθηρία στον Ilya Sutskever από την Google. (Ο Δρ. Σούτσκεβερ ήταν ένας από τους μεταπτυχιακούς φοιτητές που «αγόρασε» η Google στη δημοπρασία του Δρ. Χίντον.)
Αρχικά, ο κ. Μασκ ήθελε να λειτουργήσει το OpenAI ως μη κερδοσκοπικός οργανισμός, απαλλαγμένος από τα οικονομικά κίνητρα που οδηγούσαν την Google και άλλες εταιρείες. Αλλά τη στιγμή που η Google εντυπωσίασε την τεχνολογική κοινότητα με το κόλπο Go, ο κ. Μασκ άλλαζε γνώμη για το πώς θα έπρεπε να λειτουργεί. Ήθελε απεγνωσμένα το OpenAI να εφεύρει κάτι που θα αιχμαλώτιζε τη φαντασία του κόσμου και θα κάλυπτε το χάσμα με την Google, αλλά δεν έκανε τη δουλειά του ως μη κερδοσκοπικός οργανισμός.
Στα τέλη του 2017, επινόησε ένα σχέδιο για να αφαιρέσει τον έλεγχο του εργαστηρίου από τον κ. Άλτμαν και τους άλλους ιδρυτές και να το μετατρέψει σε μια εμπορική επιχείρηση που θα ένωνε τις δυνάμεις του με την Tesla και θα βασιζόταν σε υπερυπολογιστές που ανέπτυξε η εταιρεία αυτοκινήτων, σύμφωνα με τέσσερα άτομα που γνωρίζουν σχετικά με το θέμα.
Όταν ο κ. Άλτμαν και άλλοι το απώθησαν, ο Μασκ παραιτήθηκε και είπε ότι θα επικεντρωθεί στη δική του δουλειά στην τεχνητή νοημοσύνη στην Tesla. Τον Φεβρουάριο του 2018, ανακοίνωσε την αναχώρησή του στο προσωπικό του OpenAI στον τελευταίο όροφο των γραφείων της start-up σε ένα μετασκευασμένο εργοστάσιο φορτηγών, είπαν τρία άτομα που συμμετείχαν στη συνάντηση. Όταν είπε ότι το OpenAI έπρεπε να κινηθεί πιο γρήγορα, ένας ερευνητής απάντησε στη συνάντηση ότι ο κ. Μασκ ήταν απερίσκεπτος.
Ο κ. Μασκ αποκάλεσε τον ερευνητή «jackass» και αποχώρησε δημιουργώντας θύελλα παίρνοντας μαζί του τις βαθιές τσέπες του.
Το OpenAI χρειάστηκε ξαφνικά νέα χρηματοδότηση βιαστικά. Ο κ. Άλτμαν πέταξε στο Sun Valley για μια διάσκεψη και έπεσε πάνω στον Σάτια Ναντέλα, τον διευθύνοντα σύμβουλο της Microsoft. Ένα δέσιμο φαινόταν φυσικό. Ο κ. Άλτμαν γνώριζε τον επικεφαλής τεχνολογίας της Microsoft, Κέβιν Σκοτ. Η Microsoft είχε αγοράσει το LinkedIn από τον κ. Χόφμαν, μέλος του διοικητικού συμβουλίου του OpenAI. Ο κ. Nadella είπε στον κ. Scott να το κάνει. Η συμφωνία έκλεισε το 2019 .
Ο κ. Altman και η OpenAI είχαν δημιουργήσει μια κερδοσκοπική εταιρεία υπό τον αρχικό μη κερδοσκοπικό οργανισμό, είχαν 1 δισεκατομμύριο δολάρια σε φρέσκο κεφάλαιο και η Microsoft είχε έναν νέο τρόπο να ενσωματώσει την τεχνητή νοημοσύνη στην τεράστια υπηρεσία cloud computing της.
Δεν ήταν όλοι μέσα στο OpenAI ευχαριστημένοι.
Ο Dario Amodei, ένας ερευνητής με δεσμούς με την αποτελεσματική αλτρουιστική κοινότητα, βρισκόταν στο ξενοδοχείο Rosewood όταν γεννήθηκε το OpenAI. Ο Δρ. Amodei, ο οποίος έστριβε ατελείωτα τις μπούκλες του ανάμεσα στα δάχτυλά του καθώς μιλούσε, καθοδηγούσε τις προσπάθειες του εργαστηρίου για την κατασκευή ενός νευρωνικού δικτύου που ονομάζεται μοντέλο μεγάλου γλωσσικού μοντέλου που μπορούσε να μάθει από τεράστιες ποσότητες ψηφιακού κειμένου. Αναλύοντας αμέτρητα άρθρα της Wikipedia, ψηφιακά βιβλία και πίνακες μηνυμάτων, θα μπορούσε να δημιουργήσει κείμενο από μόνο του. Είχε επίσης την ατυχή συνήθεια να φτιάχνει πράγματα. Ονομάστηκε GPT-3 και κυκλοφόρησε το καλοκαίρι του 2020.
Ερευνητές εντός του OpenAI, της Google και άλλων εταιρειών σκέφτηκαν ότι αυτή η ταχέως βελτιούμενη τεχνολογία θα μπορούσε να είναι μια πορεία προς το AGI
Αλλά ο Δρ. Amodei ήταν δυσαρεστημένος για τη συμφωνία της Microsoft επειδή πίστευε ότι οδηγούσε το OpenAI σε μια πραγματικά εμπορική κατεύθυνση. Αυτός και άλλοι ερευνητές πήγαν στο ταμπλό για να προσπαθήσουν να απωθήσουν τον κ. Άλτμαν, σύμφωνα με πέντε άτομα που γνωρίζουν το θέμα. Αφού απέτυχαν, έφυγαν. Όπως και οι ιδρυτές της DeepMind πριν από αυτούς, ανησυχούσαν ότι οι νέοι εταιρικοί άρχοντες θα ευνοούσαν τα εμπορικά συμφέροντα έναντι της ασφάλειας.
Το 2021, η ομάδα περίπου 15 μηχανικών και επιστημόνων δημιούργησε ένα νέο εργαστήριο που ονομάζεται Anthropic. Το σχέδιο ήταν να χτιστεί η τεχνητή νοημοσύνη με τον τρόπο που οι αποτελεσματικοί αλτρουιστές πίστευαν ότι έπρεπε να γίνει — με πολύ αυστηρούς ελέγχους.
«Δεν υπήρξε καμία απόπειρα απομάκρυνσης του Sam Altman από το OpenAI από τους συνιδρυτές του Anthropic», δήλωσε η Sally Aldous, εκπρόσωπος της Anthropic. «Οι ίδιοι οι συνιδρυτές κατέληξαν στο συμπέρασμα ότι ήθελαν να φύγουν από το OpenAI για να ξεκινήσουν τη δική τους εταιρεία, το έκαναν γνωστό στην ηγεσία του OpenAI και για αρκετές εβδομάδες διαπραγματεύτηκαν μια έξοδο με αμοιβαία αποδεκτούς όρους».
Η Anthropic δέχτηκε μια επένδυση 4 δισεκατομμυρίων δολαρίων από την Amazon και άλλα 2 δισεκατομμύρια δολάρια από την Google δύο χρόνια αργότερα.
Η Αποκάλυψη
Αφού το OpenAI έλαβε άλλα 2 δισεκατομμύρια δολάρια από τη Microsoft, ο κ. Άλτμαν και ένα άλλο ανώτερο στέλεχος, ο Γκρεγκ Μπρόκμαν, επισκέφτηκαν τον Μπιλ Γκέιτς στην τεράστια έπαυλή του στις όχθες της λίμνης Ουάσιγκτον, έξω από το Σιάτλ. Ο ιδρυτής της Microsoft δεν ασχολούνταν πλέον με την εταιρεία καθημερινά, αλλά διατηρούσε τακτική επαφή με τα στελέχη της.
Κατά τη διάρκεια του δείπνου, ο κ. Γκέιτς τους είπε ότι αμφέβαλλε ότι τα μεγάλα γλωσσικά μοντέλα θα μπορούσαν να λειτουργήσουν. Θα παρέμενε δύσπιστος, είπε, έως ότου η τεχνολογία εκτελέσει μια εργασία που απαιτούσε κριτική σκέψη – περνώντας ένα τεστ βιολογίας AP, για παράδειγμα.
Πέντε μήνες αργότερα, στις 24 Αυγούστου 2022, ο κ. Άλτμαν και ο κ. Μπρόκμαν επέστρεψαν και έφεραν μαζί μια ερευνήτρια του OpenAI, την Τσέλσι Βος. Η κ. Βος είχε πάρει μετάλλιο σε διεθνή Ολυμπιάδα βιολογίας ως μαθήτρια γυμνασίου. Ο κ. Nadella και άλλα στελέχη της Microsoft ήταν επίσης εκεί.
Σε μια τεράστια ψηφιακή οθόνη σε ένα περίπτερο έξω από το σαλόνι του κ. Γκέιτς, το πλήρωμα του OpenAI παρουσίασε μια τεχνολογία που ονομάζεται GPT-4.
Ο κ. Brockman έδωσε στο σύστημα ένα προηγμένο τεστ βιολογίας πολλαπλών επιλογών και η κ. Voss βαθμολόγησε τις απαντήσεις. Η πρώτη ερώτηση αφορούσε πολικά μόρια, ομάδες ατόμων με θετικό φορτίο στο ένα άκρο και αρνητικό φορτίο στο άλλο. Το σύστημα απάντησε σωστά και εξήγησε την επιλογή του. «Εκπαιδεύτηκε μόνο για να δώσει μια απάντηση», είπε ο κ. Brockman. «Η φύση της συνομιλίας έπεσε έξω, σχεδόν μαγικά». Με άλλα λόγια, έκανε πράγματα που δεν το είχαν σχεδιάσει πραγματικά να κάνει.
Υπήρχαν 60 ερωτήσεις. Το GPT-4 έλαβε μόνο μία λάθος απάντηση.
Ο κύριος Γκέιτς κάθισε στην καρέκλα του και τα μάτια του άνοιξαν διάπλατα. Το 1980 είχε παρόμοια αντίδραση όταν οι ερευνητές του έδειξαν το γραφικό περιβάλλον χρήστη που έγινε η βάση για τον σύγχρονο προσωπικό υπολογιστή. Πίστευε ότι το GPT ήταν τόσο επαναστατικό.
Μέχρι τον Οκτώβριο, η Microsoft προσέθετε την τεχνολογία στις διαδικτυακές της υπηρεσίες, συμπεριλαμβανομένης της μηχανής αναζήτησής της Bing. Και δύο μήνες αργότερα το OpenAI κυκλοφόρησε το chatbot ChatGPT, το οποίο χρησιμοποιείται πλέον από 100 εκατομμύρια άτομα κάθε εβδομάδα.
Το OpenAI είχε κερδίσει τους αποτελεσματικούς αλτρουιστές στο Anthropic. Οι αισιόδοξοι του κ. Πέιτζ στη Google έτρεξαν να κυκλοφορήσουν το δικό τους chatbot, το Bard, αλλά έγινε ευρέως αντιληπτό ότι έχασαν τον αγώνα με το OpenAI. Τρεις μήνες μετά την κυκλοφορία του ChatGPT, η μετοχή της Google μειώθηκε κατά 11%. Ο κύριος Μασκ δεν υπήρχε πουθενά.
Αλλά ήταν μόνο η αρχή.
*Φωτογραφία εξωφύλλου: Ο Λάρι Πέιτζ και ο Έλον Μασκ ήταν σε αντίθετες πλευρές στη συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης. Πίστωση… Hokyoung Kim
Από τους Cade Metz , Karen Weise , Nico Grant και Mike Isaac
Πηγή: nytimes
