Παρασκευή 6 Ιουνίου 2025

Είναι ο «Αποκαλυπτικός Κίνδυνος της Τεχνητής Νοημοσύνης» Προ των Πυλών;

Μήπως βιαζόμαστε να δημιουργήσουμε υπερ-νοήμονες οντότητες που τελικά θα γίνουν τόσο ισχυρές ώστε να μπορούν να εξαφανίσουν τους περισσότερους από εμάς; Μερικοί από τους κορυφαίους ερευνητές στον τομέα της τεχνητής νοημοσύνης (ΤΝ) είναι πεπεισμένοι ότι αυτό ακριβώς συμβαίνει.

Έχουμε ήδη φτάσει σε ένα σημείο όπου η ΤΝ μπορεί να εκτελεί σχεδόν όλες τις διανοητικές εργασίες πολύ πιο γρήγορα και αποτελεσματικά από τους ανθρώπους. Όμως, προς το παρόν, διατηρούμε ακόμα τον έλεγχο των δημιουργημάτων μας. Τι θα συμβεί όμως όταν χάσουμε αυτόν τον έλεγχο και υπερ-νοήμονες οντότητες αρχίσουν να στέλνουν εκατομμύρια αντίγραφά τους σε όλο τον κόσμο μέσω του διαδικτύου;

Ας σας κάνω μια ερώτηση.

Θυμάστε την τελευταία φορά που πατήσατε ένα έντομο;

Πολλοί από εσάς ίσως θεωρήσετε αυτή την ερώτηση ανόητη, επειδή πιστεύετε ότι δεν έχει σημασία αν τα έντομα ζουν ή πεθαίνουν.

Λοιπόν, σύμφωνα με έναν ερευνητή ΤΝ στο MIT, έτσι ακριβώς μπορεί να μας βλέπει μια υπερ-ισχυρή οντότητα ΤΝ…

«Έχει συμβεί πολλές φορές στο παρελθόν να εξαφανιστούν είδη από άλλα, πιο έξυπνα. Εμείς οι άνθρωποι έχουμε ήδη εξαφανίσει ένα σημαντικό ποσοστό όλων των ειδών στη Γη. Αυτό πρέπει να περιμένεις να συμβεί ως λιγότερο έξυπνο είδος – που είναι πιθανό να γίνουμε, δεδομένης της ταχύτητας προόδου της τεχνητής νοημοσύνης. Το δύσκολο είναι ότι το είδος που πρόκειται να εξαφανιστεί συχνά δεν έχει ιδέα γιατί ή πώς», δήλωσε ο Max Tegmark, ερευνητής ΤΝ στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης, σε συνέντευξή του στον The Guardian.

Τα καλά νέα είναι ότι δεν έχουμε φτάσει ακόμα σε αυτό το στάδιο.

Προς το παρόν, έχουμε ακόμα τον έλεγχο.

Αλλά τα συστήματα ΤΝ που έχουμε δημιουργήσει αρχίζουν να εμφανίζουν κάποιες πολύ ανησυχητικές συμπεριφορές…

Μερικά από τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης σήμερα έχουν επιδείξει συμπεριφορές που μιμούνται μια θέληση για επιβίωση.

Πρόσφατες δοκιμές από ανεξάρτητους ερευνητές, καθώς και από έναν μεγάλο προγραμματιστή ΤΝ, έδειξαν ότι αρκετά προηγμένα μοντέλα ΤΝ ενεργούν για να εξασφαλίσουν την αυτοσυντήρησή τους όταν αντιμετωπίζουν την προοπτική της απενεργοποίησής τους — ακόμα κι αν αυτό σημαίνει σαμποτάζ εντολών τερματισμού, εκβιασμό μηχανικών ή αντιγραφή τους σε εξωτερικούς διακομιστές χωρίς άδεια.

Τα ευρήματα προκάλεσαν έντονες αντιδράσεις στο διαδίκτυο την περασμένη εβδομάδα. Καθώς οι τεχνολογικές εταιρείες συνεχίζουν να αναπτύσσουν όλο και πιο ισχυρή ΤΝ με στόχο την επίτευξη τεχνητής γενικής νοημοσύνης, δηλαδή ΤΝ που μπορεί να σκέφτεται μόνη της, η έλλειψη διαφάνειας στον τρόπο εκπαίδευσης της τεχνολογίας έχει εγείρει ανησυχίες για το τι ακριβώς μπορεί να κάνει η προηγμένη ΤΝ.

Μερικοί από εσάς ίσως πείτε ότι αν τα συστήματα ΤΝ αρχίσουν να μας δημιουργούν πολλά προβλήματα, απλά θα τα κλείσουμε.

Λοιπόν, τι θα γίνει αν αυτά τα συστήματα ΤΝ απλά αρνηθούν να κλείσουν;

Ανησυχητικά, υπήρξε πρόσφατα ένα περιστατικό όπου αυτό συνέβη πραγματικά…

Ωστόσο, η Palisade Research δημοσίευσε πρόσφατα μια έκθεση που ισχυρίζεται ότι υπήρξε ένα περιστατικό κατά το οποίο το GPT-o3 – το μοντέλο λογικής της OpenAI – φαίνεται να αγνόησε μια εντολή τερματισμού, έχοντας βρει τρόπο να παρακάμψει το σενάριο τερματισμού και να αποφύγει την απενεργοποίηση. Και ας σημειωθεί ότι δεν υπήρχε καμία ασάφεια στην εντολή – οι οδηγίες ήταν σαφείς και η παράκαμψη ήταν επίσης.

Το GPT-o3, που κυκλοφόρησε τον Απρίλιο του 2025, έχει χαρακτηριστεί ως ένα από τα πιο ισχυρά εργαλεία λογικής στην αγορά αυτή τη στιγμή, ξεπερνώντας πλήρως τους προκατόχους του σε πλήθος τομέων – από μαθηματικά, προγραμματισμό και επιστήμες μέχρι οπτική αντίληψη και πέρα από αυτά. Προφανώς, αυτό το νέο και βελτιωμένο μοντέλο λογικής είναι καλό σε αυτό που κάνει, αλλά μήπως γίνεται υπερβολικά έξυπνο για το καλό του; Ή, για το δικό μας καλό;

Αλλά τουλάχιστον αν ξέρουμε πού βρίσκεται ένα σύστημα ΤΝ, θα μπορούσαμε να το καταστρέψουμε αν χρειαζόταν.

Προσωπικά, με ανησυχεί πολύ περισσότερο η πιθανότητα ότι υπερ-ισχυρές οντότητες ΤΝ θα μπορούσαν να γίνουν αυτο-αναπαραγόμενες και να αρχίσουν να στέλνουν εκατομμύρια αντίγραφά τους σε υπολογιστές σε όλο τον πλανήτη.

Ο Jeffrey Ladish, διευθυντής της ομάδας ασφάλειας ΤΝ Palisade Research, πιστεύει ότι είμαστε «μόνο ένα ή δύο χρόνια μακριά» από ένα τέτοιο σενάριο…

«Περιμένω ότι είμαστε μόνο ένα ή δύο χρόνια μακριά από αυτή την ικανότητα, όπου ακόμα και όταν οι εταιρείες προσπαθούν να τα εμποδίσουν από το να χακάρουν και να αντιγράφουν τον εαυτό τους στο διαδίκτυο, δεν θα μπορούν να τα σταματήσουν», είπε. «Και μόλις φτάσεις σε αυτό το σημείο, τώρα έχεις ένα νέο επεμβατικό είδος».

Ουάου.

Λοιπόν, πώς θα ήταν ο κόσμος μας αν τεράστιοι αριθμοί οντοτήτων ΤΝ που έχουν απελευθερωθεί από τον ανθρώπινο έλεγχο αρχίσουν να συνεργάζονται για να πολεμήσουν ενάντια στο ανθρώπινο γένος;

Πραγματικά οδεύουμε προς αχαρτογράφητα εδάφη, και δεν υπάρχουν προστατευτικά κιγκλιδώματα.

Προς το παρόν, μία από τις μεγαλύτερες ανησυχίες είναι ότι η ΤΝ θα αρχίσει να παίρνει τις περισσότερες δουλειές μας.

Σύμφωνα με τον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei, η ΤΝ θα μπορούσε να εξαλείψει έως και το 50% όλων των θέσεων εργασίας εισαγωγικού επιπέδου μέσα στα επόμενα πέντε χρόνια…

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, είναι πεπεισμένος ότι η ΤΝ θα είναι καταστροφική για τις δουλειές των λευκών κολάρων και προειδοποιεί ότι η κοινωνία δεν αναγνωρίζει αυτή την πραγματικότητα.

Η ΤΝ θα μπορούσε να εξαφανίσει έως και το 50% όλων των θέσεων εργασίας εισαγωγικού επιπέδου, ενώ η ανεργία μπορεί να εκτοξευθεί στο 10-20% σε μόλις ένα έως πέντε χρόνια, λέει. Η ανεργία είναι 4,2% στις ΗΠΑ από τον Απρίλιο του 2025.

«Εμείς, ως παραγωγοί αυτής της τεχνολογίας, έχουμε καθήκον και υποχρέωση να είμαστε ειλικρινείς για το τι έρχεται», λέει ο Amodei στο Axios. «Δεν νομίζω ότι αυτό είναι στο ραντάρ των ανθρώπων».

Δεν μας αρέσει να σκεφτόμαστε τέτοια πράγματα.

Αλλά το να αγνοούμε αυτό που συμβαίνει δεν θα το κάνει να εξαφανιστεί.

Στην πραγματικότητα, υπάρχουν στοιχεία ότι οι πρόσφατοι απόφοιτοι κολεγίων χάνουν όλο και περισσότερο τις δουλειές τους από την ΤΝ αυτή τη στιγμή…

Αυτόν το μήνα, εκατομμύρια νέοι θα αποφοιτήσουν από το κολέγιο και θα αναζητήσουν εργασία σε βιομηχανίες που έχουν ελάχιστη χρήση για τις δεξιότητές τους, τους θεωρούν ακριβούς και αναλώσιμους, και σταδιακά καταργούν τις δουλειές τους υπέρ της τεχνητής νοημοσύνης.

Αυτή είναι η ανησυχητική διαπίστωση από τις συνομιλίες μου τους τελευταίους μήνες με οικονομολόγους, εταιρικούς διευθυντές και νέους που αναζητούν εργασία, πολλοί από τους οποίους επισήμαναν μια αναδυόμενη κρίση για τους εργαζομένους εισαγωγικού επιπέδου που φαίνεται να τροφοδοτείται, τουλάχιστον εν μέρει, από τις γρήγορες προόδους στις δυνατότητες της ΤΝ.

Μπορείτε να δείτε ενδείξεις αυτού στα οικονομικά δεδομένα. Η ανεργία για τους πρόσφατους αποφοίτους κολεγίων έχει εκτοξευθεί σε ασυνήθιστα υψηλό 5,8% τους τελευταίους μήνες, και η Ομοσπονδιακή Τράπεζα της Νέας Υόρκης προειδοποίησε πρόσφατα ότι η κατάσταση απασχόλησης για αυτούς τους εργαζομένους έχει «επιδεινωθεί αισθητά». Η Oxford Economics, μια ερευνητική εταιρεία που μελετά τις αγορές εργασίας, διαπίστωσε ότι η ανεργία για τους πρόσφατους αποφοίτους ήταν ιδιαίτερα συγκεντρωμένη σε τεχνικούς τομείς όπως η χρηματοοικονομία και η επιστήμη των υπολογιστών, όπου η ΤΝ έχει κάνει ταχύτερα κέρδη.

Μπορεί να αντικατασταθείς από την ΤΝ;

Ίσως να θέλεις να το σκεφτείς.

Σε αυτό το στάδιο, ακόμα και οι εγκληματίες αντικαθίστανται από την ΤΝ…

Φανταστείτε ότι το τηλέφωνό σας χτυπά και η φωνή στην άλλη άκρη ακούγεται ακριβώς σαν το αφεντικό σας, ένας στενός φίλος ή ακόμα και ένας κυβερνητικός αξιωματούχος. Ζητούν επειγόντως ευαίσθητες πληροφορίες, αλλά δεν είναι πραγματικά αυτοί. Είναι ένα deepfake, τροφοδοτούμενο από ΤΝ, και είστε ο στόχος μιας εξελιγμένης απάτης. Τέτοιου είδους επιθέσεις συμβαίνουν ήδη, και γίνονται όλο και πιο πειστικές κάθε μέρα.

Αυτή είναι η προειδοποίηση που εκφράστηκε στην Έκθεση Ασφάλειας ΤΝ 2025, που παρουσιάστηκε στη Διάσκεψη RSA (RSAC), μία από τις μεγαλύτερες συγκεντρώσεις για ειδικούς σε θέματα κυβερνοασφάλειας, εταιρείες και αρχές επιβολής του νόμου. Η έκθεση περιγράφει πώς οι εγκληματίες χρησιμοποιούν την τεχνητή νοημοσύνη για να υποδύονται ανθρώπους, να αυτοματοποιούν απάτες και να επιτίθενται σε συστήματα ασφαλείας σε μαζική κλίμακα.

Τα επόμενα χρόνια, θα είναι εξαιρετικά δύσκολο να διακρίνουμε τι είναι αληθινό και τι ψεύτικο.

Σύμφωνα με το CBN News, τα εγκλήματα που βασίζονται σε ΤΝ «έχουν ήδη αυξηθεί κατά 456% από πέρυσι»…

Τα εγκλήματα που βασίζονται σε ΤΝ έχουν ήδη αυξηθεί κατά 456% από πέρυσι.

Οι επιθέσεις phishing μέσω email, η κλοπή ταυτότητας, οι επιθέσεις ransomware, οι χρηματοοικονομικές απάτες και η παιδική πορνογραφία με deepfake γίνονται όλα πιο εξελιγμένα και διαδεδομένα.

Η τεχνητή νοημοσύνη έχει γίνει το εργαλείο επιλογής για τους διαδικτυακούς εγκληματίες, επειδή εξαλείφει τη διαχωριστική γραμμή μεταξύ του αληθινού και του ψεύτικου. Ο νέος γεννήτορας βίντεο που ανακοίνωσε η Google πρόκειται να πλημμυρίσει το διαδίκτυο με κλιπ που δημιουργούνται από ΤΝ και μοιάζουν με ακριβές ταινίες.

Η ΤΝ μπορεί να πάρει οποιοδήποτε βίντεο κάποιου και να το μετατρέψει σε ένα πολύ ρεαλιστικό deepfake που λέει ή κάνει οτιδήποτε προγραμματίσει ο δημιουργός του.

Ο κόσμος μας μετατρέπεται σε επιστημονική φαντασία μπροστά στα μάτια μας.

Και καθώς η ΤΝ κυριαρχεί σχεδόν σε κάθε τομέα, οι περισσότεροι από εμάς απλά δεν θα είμαστε πλέον απαραίτητοι.

Στην πραγματικότητα, ένας καθηγητής επιστήμης υπολογιστών προβλέπει ότι ο συνολικός πληθυσμός του κόσμου θα πέσει σε περίπου 100 εκατομμύρια μέχρι το έτος 2300…

Η ΓΗ θα έχει έναν δυστοπικό πληθυσμό μόλις 100 εκατομμυρίων μέχρι το 2300, καθώς η ΤΝ εξαφανίζει τις δουλειές, μετατρέποντας μεγάλες πόλεις σε πόλεις-φαντάσματα, προειδοποιεί ένας ειδικός.

Ο καθηγητής επιστήμης υπολογιστών Subhash Kak προβλέπει ένα αδύνατο κόστος για την απόκτηση παιδιών που δεν θα μεγαλώσουν με δουλειές για να στραφούν.

Αυτό σημαίνει ότι οι μεγαλύτερες πόλεις του κόσμου, όπως η Νέα Υόρκη και το Λονδίνο, θα γίνουν έρημες πόλεις-φαντάσματα, πρόσθεσε.

Ο καθηγητής Kak επισημαίνει την ΤΝ ως τον ένοχο, την οποία λέει ότι θα αντικαταστήσει «τα πάντα».

Συμφωνώ ότι η ΤΝ αποτελεί πραγματικά μια υπαρξιακή απειλή για την ανθρωπότητα.

Δεδομένου αρκετού χρόνου, φαίνεται αρκετά πιθανό ότι θα χάσουμε τον έλεγχο αυτού που δημιουργούμε και θα στραφεί εναντίον μας.

Αλλά, λαμβάνοντας υπόψη την πορεία που ακολουθούμε σήμερα, θα καταστρέψουμε τον εαυτό μας πριν φτάσουμε σε αυτό το σημείο;

Κάνουμε αυτοκαταστροφικές αποφάσεις εδώ και πολύ καιρό, και τώρα αυτές οι επιλογές μας προλαβαίνουν πολύ γρήγορα.

Michael Snyder

triklopodia.gr

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου