Θα μπορούσε μια επίθεση AI να αφήσει τράπεζες, ρεύμα και νερό εκτός λειτουργίας;
Εξετάζουν σενάρια καταστροφής για μέσα στους επόμενους 6-12 μήνες.
Ένα εξαιρετικά ανησυχητικό παρασκήνιο αποκαλύπτεται γύρω από τις μεγαλύτερες εταιρείες Τεχνητής Νοημοσύνης, καθώς κορυφαία στελέχη φέρονται να προετοιμάζονται ήδη για ένα ενδεχόμενο σοβαρής κρίσης, η οποία θα μπορούσε να έχει καταστροφικές συνέπειες για την κοινωνία και την οικονομία.
Σύμφωνα με δημοσίευμα του Axios, στελέχη της OpenAI, της Anthropic και άλλων εταιρειών τεχνητής νοημοσύνης εξετάζουν κεκλεισμένων των θυρών σενάρια στα οποία η ίδια η τεχνολογία είτε θα μπορούσε να προκαλέσει ένα καταστροφικό περιστατικό είτε να αξιοποιηθεί από κακόβουλους παράγοντες για μια επίθεση πρωτοφανούς κλίμακας.
Οι φόβοι δεν περιορίζονται σε κάποια δυσλειτουργία ενός ψηφιακού συστήματος.
Στο τραπέζι βρίσκονται πολύ πιο εφιαλτικά ενδεχόμενα:
Κυβερνοεπιθέσεις που θα μπορούσαν να παραλύσουν τις τράπεζες και τα χρηματοπιστωτικά συστήματα, να διακόψουν την πρόσβαση στο διαδίκτυο, αλλά ακόμη και να προκαλέσουν σοβαρά προβλήματα στην ηλεκτροδότηση και την υδροδότηση.
Με άλλα λόγια, ένα ενδεχόμενο ψηφιακό χτύπημα θα μπορούσε να ξεπεράσει τα όρια του κυβερνοχώρου και να επηρεάσει άμεσα βασικές λειτουργίες της καθημερινής ζωής.
Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι, σύμφωνα με τις ανώνυμες πηγές που επικαλείται το Axios, ορισμένοι παράγοντες του κλάδου δεν αντιμετωπίζουν πλέον ένα σοβαρό περιστατικό ως μια μακρινή και θεωρητική πιθανότητα.
Μάλιστα, υπάρχουν εκτιμήσεις ότι ένα τέτοιο συμβάν θα μπορούσε να σημειωθεί μέσα στους επόμενους έξι έως δώδεκα μήνες.
Πρόκειται, ωστόσο, για εκτιμήσεις πηγών και όχι για επιβεβαιωμένη πρόβλεψη ή επίσημη προειδοποίηση ότι μια καταστροφή βρίσκεται προ των πυλών.
Δεν φοβούνται μόνο την κρίση, αλλά και την κοινωνική έκρηξη που θα μπορούσε να ακολουθήσει
Το πιο αποκαλυπτικό στοιχείο των προετοιμασιών δεν αφορά αποκλειστικά την τεχνική αντιμετώπιση μιας πιθανής καταστροφής.
Σύμφωνα με το δημοσίευμα, οι εταιρείες εξετάζουν παράλληλα και το πώς θα αντιδρούσαν η κοινωνία, η κοινή γνώμη και η πολιτική ηγεσία.
Ένα περιστατικό στο οποίο ένα σύστημα τεχνητής νοημοσύνης θα ξέφευγε από τον έλεγχο ή θα χρησιμοποιούνταν από εγκληματικές ομάδες για μια καταστροφική επίθεση θα μπορούσε να πυροδοτήσει τεράστιες αντιδράσεις.
Οι πιέσεις για πάγωμα της ανάπτυξης της τεχνολογίας, αυστηρούς περιορισμούς και δραστικές νομοθετικές παρεμβάσεις θα μπορούσαν να γίνουν ασφυκτικές.
Γι' αυτό, σύμφωνα με το Axios, οι εταιρείες σχεδιάζουν να ενημερώσουν όσο το δυνατόν ταχύτερα μέλη του αμερικανικού Κογκρέσου σχετικά με τις δυνατότητες της τεχνολογίας και τους κινδύνους που ενδέχεται να προκύψουν. Με αυτόν τον τρόπο επιδιώκουν να συμμετάσχουν ενεργά στη διαμόρφωση της πολιτικής και νομοθετικής αντίδρασης σε περίπτωση κρίσης.
Η OpenAI επιβεβαίωσε στο Axios ότι εξετάζει τακτικά διαφορετικά σενάρια κρίσης, διευκρινίζοντας ωστόσο ότι δεν θεωρεί τέτοια γεγονότα αναπόφευκτα.
Από την πλευρά της, η Anthropic αρνήθηκε να σχολιάσει.
Το μεγάλο ερώτημα: Ποιος θα ελέγξει τους τεχνολογικούς κολοσσούς;
Η υπόθεση ανοίγει ένα εξαιρετικά σοβαρό ζήτημα: πόσο ασφαλής είναι μια κοινωνία που εξαρτά ολοένα και περισσότερο τη λειτουργία της από συστήματα τεχνητής νοημοσύνης, όταν ακόμη και οι εταιρείες που τα αναπτύσσουν εξετάζουν σενάρια καταστροφικών συνεπειών;
Τράπεζες, δημόσιες υπηρεσίες, επιχειρήσεις, επικοινωνίες και κρίσιμες υποδομές συνδέονται όλο και στενότερα με την ψηφιακή τεχνολογία. Ένα εκτεταμένο περιστατικό θα μπορούσε να προκαλέσει αλυσιδωτές επιπτώσεις, εφόσον επηρεάζονταν ταυτόχρονα κρίσιμα συστήματα.
Ακόμη πιο ανησυχητικό είναι το ζήτημα της πολιτικής επιρροής.
Οι ίδιες εταιρείες που αναπτύσσουν την τεχνολογία και αξιολογούν τους πιθανούς κινδύνους της φαίνεται, σύμφωνα με το δημοσίευμα, να προετοιμάζονται και για τη διαμόρφωση των κανόνων που θα ακολουθήσουν μια ενδεχόμενη κρίση.
Το ερώτημα, επομένως, δεν είναι μόνο τι μπορεί να συμβεί εάν η Τεχνητή Νοημοσύνη χρησιμοποιηθεί καταστροφικά.
Είναι και ποιος θα έχει τον τελευταίο λόγο όταν οι κίνδυνοι αυτοί πάψουν να αποτελούν θεωρητικά σενάρια.
Το ενδεχόμενο μιας μεγάλης καταστροφής δεν έχει αποδειχθεί ότι επίκειται.
Το γεγονός, όμως, ότι οι μεγαλύτεροι παίκτες της βιομηχανίας εξετάζουν ήδη τόσο ακραία σενάρια και τις πολιτικές συνέπειές τους αποτελεί μια εξέλιξη που δύσκολα μπορεί να περάσει απαρατήρητη.
ΠΗΓΗ: pentapostagma.gr
Tο gaidouri.com δημοσιεύει κάθε σχόλιο το οποίο είναι σχετικό με το θέμα στο οποίο αναφέρεται το άρθρο.
Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του.
Ωστόσο, αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να μην δημοσιεύουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε.
Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το gaidouri.com ουδεμία νομική ή άλλη ευθύνη φέρει.