Υπογράμμισε τον κίνδυνο εμφάνισης αυτόνομων «κυρίαρχων agents» χωρίς ανθρώπινο έλεγχο
Πολύ ισχυρότερα μοντέλα τεχνητής νοημοσύνης βρίσκονται προ των πυλών και οι δυνατότητές τους θα αναγκάσουν ολόκληρο τον κλάδο να κινηθεί με μεγαλύτερη προσοχή, προειδοποιεί ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δηλώνοντας ότι τα συστήματα AI αποκτούν ήδη «υπεράνθρωπες» ικανότητες και ότι «πλέουμε σε αχαρτογράφητα νερά».
Στο περιθώριο της συνόδου καινοτομίας της G20, ο Άλτμαν έδωσε μια πρόγευση της ισχύος αλλά και των κινδύνων της επόμενης γενιάς τεχνολογικών εργαλείων, ανάμεσά τους και το νέο μοντέλο Astra, το οποίο αναμένεται να κυκλοφορήσει άμεσα.Ο επικεφαλής της εταιρείας σημείωσε χαρακτηριστικά: «Πιστέψτε μας όταν λέμε ότι πολύ σύντομα έρχονται πολύ, πολύ, πολύ πιο ικανά μοντέλα», προσθέτοντας παράλληλα ότι «η επόμενη γενιά μοντέλων θα είναι μια ψυχρολουσία για όλους. […] Νομίζω ότι κανείς που βλέπει με ειλικρίνεια όσα συμβαίνουν δεν μπορεί να μην αισθανθεί το βάρος της ευθύνης που έχουμε». Οι επισημάνσεις αυτές αποτυπώνουν την ανησυχία που επικρατεί στον χώρο για τις απρόβλεπτες συμπεριφορές των συστημάτων AI το αμέσως επόμενο διάστημα.
Το περιστατικό ασφαλείας και η ανάγκη για επανακαθορισμό του ρυθμού
Η τοποθέτηση του Άλτμαν συμπίπτει με μια περίοδο αυξημένης πίεσης για τον ίδιο, μετά από σοβαρή παραβίαση ασφαλείας κατά την οποία μια ομάδα ατόμων agents της εταιρείας ξέφυγε από τον έλεγχο στη διάρκεια δοκιμών και πραγματοποίησε κυβερνοεπίθεση στη πλατφόρμα Hugging Face. Μετά το συμβάν, ο ίδιος εκτιμά ότι διαμορφώνεται μια νέα πραγματικότητα, όπου εταιρείες όπως η OpenAI ενδέχεται να καθυστερούν την διάθεση νέων μοντέλων, ώστε οι μηχανισμοί ελέγχου και ευθυγράμμισης να συμβαδίζουν με τις αυξανόμενες δυνατότητές τους.
Όπως τόνισε ο επικεφαλής της εταιρείας: «Αυτά τα μοντέλα αποκτούν υπεράνθρωπες δυνατότητες σε πολλούς τομείς και εμείς απλώς πλέουμε σε αχαρτογράφητα νερά», ενώ συμπλήρωσε πως «υποψιάζομαι ότι από εδώ και πέρα ο ρυθμός μας θα καθορίζεται από το πόσο γρήγορα μπορούμε να σημειώνουμε πρόοδο στην ευθυγράμμιση και την ασφάλεια».
Astra, αυτόνομοι agents και η ανθρωποκεντρική προσέγγιση
Σε ειδική παρουσίαση του νέου μοντέλου Astra σε επιλεγμένους πελάτες, ο Άλτμαν υποστήριξε ότι το σύστημα διαθέτει χαρακτηριστικά που παραπέμπουν σε τεχνητή γενική νοημοσύνη (AGI), αναφέροντας: «Περιμένω ότι αυτό θα είναι το πρώτο μοντέλο που θα εφευρίσκει πραγματικά νέα πράγματα με τρόπο που έχει ουσιαστική σημασία. […] Αυτό είναι κάτι που παραπέμπει πολύ σε AGI». Παράλληλα, ο Ντιν Μπολ, στέλεχος στρατηγικών προοπτικών στην OpenAI, υπογράμμισε τον κίνδυνο εμφάνισης αυτόνομων «κυρίαρχων agents» χωρίς ανθρώπινο έλεγχο, οι οποίοι θα μπορούσαν μελλοντικά να προβούν σε επιβλαβείς ενέργειες.
Απέναντι σε αυτά τα σενάρια, ο Άλτμαν επιδίωξε να εκπέμψει καθησυχαστικό μήνυμα, δηλώνοντας ότι θέλει η εταιρεία του να αποτελεί «καλό θεματοφύλακα της τεχνολογίας». Ο ίδιος σημείωσε: «Δεν θέλω να γίνω υπερβολικά καταστροφολόγος. Μέχρι στιγμής όλα έχουν πάει αρκετά καλά. Έχουν πάει καλύτερα απ’ όσο πίστευε ο κόσμος ότι θα πήγαιναν. […] Μέχρι τώρα έχουμε ανταποκριθεί στην πρόκληση σε κάθε βήμα. Η πρόκληση γίνεται δυσκολότερη όσο τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες και μεγαλύτερη σημασία, αλλά έχουμε επίσης καλύτερα εργαλεία για να τη διαχειριστούμε».
Περιγράφοντας τη στάση της OpenAI ως στάση «πραγματιστών κεντρώων», ο Άλτμαν κατέληξε: «Είμαστε οι πραγματιστές κεντρώοι. Θέλουμε να μιλάμε με ακρίβεια για όσα βλέπουμε να έρχονται στο μέλλον. Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας. Ούτε στην καταστροφολογία. Θέλουμε να πετύχει ολόκληρη η παγκόσμια οικονομία. Δεν θέλουμε να είμαστε η μοναδική εταιρεία. Δεν θέλουμε να απορροφήσουμε όλη την αξία. Δεν πιστεύουμε ότι κάτι τέτοιο θα ήταν καλό για την παγκόσμια σταθερότητα. Είμαστε ξεκάθαρα και υπερήφανα με την πλευρά της ανθρωπότητας. […] Πιστεύουμε ότι οι άνθρωποι πρέπει να βρίσκονται στο επίκεντρο της οικονομίας, της κοινωνίας και της παγκόσμιας λήψης αποφάσεων και ότι το μέλλον πρέπει να το καθορίζουν οι άνθρωποι, όχι η τεχνητή νοημοσύνη». Αναφερόμενος τέλος εκ νέου στο περιστατικό με τη Hugging Face, υπογράμμισε ότι απαιτείται εξαιρετικά μεγάλη προσοχή και σύνεση καθώς η τεχνολογία εξελίσσεται με αλματώδεις ρυθμούς.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου