Στις αρχές της δεκαετίας του 1950, η ανθρωπότητα αντιμετώπισε για πρώτη φορά έναν υπαρξιακό κίνδυνο. Οι πρώτες ατομικές βόμβες και βόμβες υδρογόνου είχαν πέσει ήδη το 1945 και το 1954, αντίστοιχα, με απτά καταστροφικά αποτελέσματα. Ο ψυχρός πόλεμος οδηγούσε σε σκληρό πυρηνικό ανταγωνισμό. Το πρώτο εργοστάσιο ατομικής ενέργειας έγινε στο Obninsk της Σοβιετικής Ένωσης το 1954. Οι κίνδυνοι πυρηνικού ατυχήματος έγιναν άμεσα ορατοί. Σαν αντίδραση, δημιουργήθηκε μεγάλο αντιπυρηνικό κίνημα ήδη από το 1954 εναντίον των πυρηνικών όπλων και, αργότερα, και της πυρηνικής ενέργειας. Εμφανίστηκε για πρώτη φορά επιστημονική τεχνοφοβία, με πολλούς επιστήμονες να αναπτύσσουν τους κινδύνους ενός πυρηνικού ολέθρου. Προς τιμήν της, η ανθρωπότητα αντέδρασε, απλά διότι δεν ήθελε να αυτοκτονήσει. Εν μέσω ψυχρού πολέμου, δημιούργησε την Διεθνή Επιτροπή Ατομικής Ενέργειας το 1957, στα πλαίσια του ΟΗΕ, με ειδική διεθνή συνθήκη. Έκτοτε ν Επιτροπή αυτή φροντίζει για την ασφαλή χρήση της πυρηνικής ενέργειας (όσο αυτό είναι δυνατόν). Επίσης έγιναν διάφορες διεθνείς προσπάθειες για τον περιορισμό της διάδοσης των πυρηνικών όπλων, με αποκορύφωμα την σχετική διεθνή συνθήκη του 1970.
Σήμερα και πάλι η ανθρωπότητα αντιμετωπίζει έναν άλλο υπαρξιακό κίνδυνο, λόγω της χρήσης της Τεχνητής Νοημοσύνης. Ο κίνδυνος αυτός είναι διαφορετικός. Ενώ η πυρηνική ενέργεια είναι μονοπώλιο λίγων κυβερνήσεων, τα προχωρημένα εργαλεία Τεχνητής Νοημοσύνης ανήκουν σε λίγα ολιγοπώλια. Όμως εργαλεία ‘φτωχής Τεχνητής Νοημοσύνης’ είναι προσβάσιμα σχεδόν στον καθένα. Η Τεχνητή Νοημοσύνη είναι εκ των ουκ άνευ ευλογία: δημιουργεί τεράστιες ευκαιρίες επιστημονικής και κοινωνικής ανάπτυξης που μας επιτρέπουν να κινούμαστε σε έναν όλο και πιο πολύπλοκο κόσμο. Είναι όμως και κατάρα. Χρησιμοποιείται μαζικά στα αυτόνομα όπλα, στο κυβερνοέγκλημα, και στην διαδικτυακή παραπληροφόρηση, δημιουργώντας κινδύνους για το δικαίωμα στην πληροφόρηση και για την δημοκρατία. Δίνει την αίσθηση ότι μπορεί να γίνει ισχυρότερη από τον άνθρωπο, και τελικά να καταστρέψει την ανθρωπότητα. Τα ΜΜΕ είναι γεμάτα αναφορές για ρομπότ και συστήματα Τεχνητής Νοημοσύνης που αυτονομούνται, προσπαθούν να ξεπεράσουν ελέγχους και να παραπλανήσουν τους δημιουργούς τους και, όταν γίνουν επαρκώς έξυπνα, να κυριαρχήσουν πάνω στους ανθρώπους. Άσχετα αν αυτή είναι η αλήθεια, οι ειδήσεις αυτές δημιουργούν τεχνοφοβία όχι μόνον στο ευρύ κοινό, αλλά και στους ειδικούς. Δεν χρειάζονται όμως πολλά για να γίνει επικίνδυνη η ανεξέλεγκτη χρήση ακόμα και της σημερινής ΤΝ. Σε ένα περιβάλλον μαζικής συμβίωσης ανθρώπου-μηχανής που έρχεται οσονούπω, απλά λάθη των μηχανών (bugs) μπορούν να παραλύσουν την ανθρωπότητα. Για παράδειγμα, φτάνει ένα λαθάκι για να στραφεί ένα πολεμικό drone ενάντια σε φίλιους στρατιώτες ή πολίτες ή να γίνει πειρατική χρήση του για τρομοκρατικά χτυπήματα. Η κατάσταση θα χειροτερεύσει κατά πολύ, αν οι άνθρωποι, επαναπαυμένοι στην χρήση των μηχανών, γίνουν πνευματικά μαλθακοί, χάσουν την κριτική σκέψη, την ικανότητα παραγωγής και μετάδοσης γνώσης, και, τελικά, την ικανότητα ελέγχου των συστημάτων μηχανών. Επομένως ανθρωπότητα αντιμετωπίζει ήδη έναν υπαρκτό υπαρξιακό κίνδυνο.
Τι κάνει όμως σήμερα η ανθρωπότητα? Αντί να διδαχθεί από την δεκαετία του 1950, δείχνει ανεμελιά και, τελικά, αφροσύνη. Οι μεγάλες εταιρείες Τεχνητής Νοημοσύνης κυνηγούν το επόμενο τρισεκατομμύριο. Δεν φαίνεται να νοιάζονται για το τεράστιο ρίσκο που αναλαμβάνουν έναντι αγωγών, δουλεύοντας σε ένα εντελώς αρρύθμιστο περιβάλλον. Μερικές διαρρέουν σενάρια ότι ενίοτε χάνουν τον έλεγχο των μηχανών τους ή ότι φτιάχνουν πολύ δυνατές μηχανές που δημιουργούν μαζικούς κινδύνους κυβερνοασφάλειας. Έχουν τους λόγους τους (ίσως όχι αθώους) που κάνουν τέτοιες διαρροές. Έτσι ενισχύουν την τεχνοφοβία του κόσμου. Δυστυχώς όμως, τέτοιοι κίνδυνοι δεν αντιμετωπίζονται με διαρροές, κουτσομπολιά, μισές αλήθειες, απόκρυψη δεδομένων και επιστημονικές ανακρίβειες, αλλά με στιβαρή επιστημονική έρευνα.
Τα ΜΜΕ διατρανώνουν κάθε σχετική είδηση που προέρχεται από οποιαδήποτε πηγή, αν και δεν είναι εύκολο να ελεγχθεί η φερεγγυότητα, η ορθότητα και η ακρίβεια αυτών των ειδήσεων. Ξέρουν όπως ότι η τεχνοφοβία και η κακή είδηση ‘πουλάνε’. Όμως, οι φοβισμένοι πολίτες δεν είναι καλοί πολίτες.
Μερικά κράτη, π.χ., ΗΠΑ, φαίνεται να αποκλείουν κάθε ρύθμιση της Τεχνητής Νοημοσύνης, προκρίνοντας μόνον ίσως εθελοντικές εταιρικές δεσμεύσεις. Ελπίζουν ότι έτσι θα διατηρήσουν την πρωτοκαθεδρία στην Τεχνητή Νοημοσύνη, παραγνωρίζοντας ότι, χωρίς ρυθμίσεις, η μετεωρική άνοδος μπορεί να οδηγήσει και σε εξίσου μετεωρική πτώση. Η Ευρωπαϊκή ένωση έχει κάνει ηρωικές, αλλά ελάχιστα αποτελεσματικές, προσπάθειες ρύθμισης και των Ψηφιακών Αγορών και των Κοινωνικών Μέσων και της Τεχνητής Νοημοσύνης. Οι ρυθμίσεις της όμως συνήθως έχουν μια ‘πολιτικώς ορθή’ τιμωρητική νοοτροπία που οδηγεί σε μια ‘πτωχή πλην έντιμη Ευρώπη’, που καθυστερεί την καινοτομία και την παραγωγή κοινωνικού πλούτου. Η Κίνα προσπαθεί να κερδίσει την μέγιστη γεωπολιτική ισχύ από την πρόοδό της στην Τεχνητή Νοημοσύνη. Φαίνεται όμως σαν ήρεμη δύναμη, μιλώντας για ανοιχτά συστήματα Τεχνητής Νοημοσύνης και διεθνή συνεργασία. Πολλές μικρότερες χώρες κυριολεκτικά ψάχνονται πως να κερδίσουν τα μέγιστα από την Τεχνητή Νοημοσύνη.
Αν η ανθρωπότητα συνεχίσει έτσι αυτήν την κακοφωνία, σύντομα θα οδηγηθεί σε καταστροφική πορεία, από εγκληματική αμέλεια, ανικανότητα, ανεπάρκεια, απληστεία, κυνήγι ισχύος ή συνδυασμό των παραπάνω. Υπάρχει όμως βάση διεθνούς συνεννόησης, πολύ καλύτερη από την εποχή του Ψυχρού Πολέμου, ιδιαίτερα αν συναινέσουν και οι ΗΠΑ. Αν υπάρξει συνεννόηση, τα επόμενα βήματα είναι σχεδόν μονόδρομος. Η επιστημονική και τεχνολογική έρευνα δεν μπορούν και θα ήταν καταστροφικό να σταματήσουν. Όμως, κάλλιστα μπορούν να ρυθμιστούν οι χρήσεις τους. Νομίζω ότι ήρθε ο καιρός να αποδείξουμε ότι η ανθρωπότητα έχει καλά αντανακλαστικά αυτοσυντήρησης. Το πρώτο πρακτικό ζητούμενο είναι να δημιουργηθεί μια Διεθνής Επιτροπή Τεχνητής Νοημοσύνης με διακρατική συνθήκη που θα προσπαθήσει να μελετήσει τους κινδύνους αλλά και τις ευκαιρίες με επιστημονικό τρόπο, ακριβή ανοικτά δεδομένα και να προτείνει τρόπους διακρατικής ρύθμισης της Τεχνητής Νοημοσύνης. Αυτή θα μελετά όλα τα φαινόμενα δυσλειτουργιών ή κινδύνων που σήμερα απλά ανακοινώνονται στα διεθνή ΜΜΕ και θα προτείνει λύσεις . Έτσι θα μπορούν να ενημερωθούν υπεύθυνα οι πολίτες και να συμβάλουν σε ένα διεθνές δημοκρατικό κίνημα για την σωστή χρήση της Τεχνητής Νοημοσύνης.
Η άσκηση αυτή δεν είναι καθόλου εύκολη στο τρέχον διεθνές περιβάλλον, που αμέριμνα κυλά στην ανάποδη κατεύθυνση. Πρέπει όμως ρύθμισης και η σωστή πρόοδος της Τεχνητής Νοημοσύνης να γίνει διεθνής προτεραιότητα: μια διεθνοποιημένη τεχνολογία, όπως η Τεχνητή Νοημοσύνη μπορεί να αντιμετωπιστεί παραγωγικά μόνον με διεθνή συνεργασία και σχετικές δομές.
Αυτό το βήμα θα ήταν και το τέλος της αρχής, αλλά όχι η αρχή του τέλους. Ο κόσμος μας γίνεται όλο και πιο πολύπλοκος. Αυτή είναι μια βασική παγκόσμια φυσική και κοινωνική διεργασία που ούτε σταματά, ούτε ξέρουμε τις ακριβείς αιτίες της. Η αύξηση της πολυπλοκότητας δημιουργεί άπειρα προβλήματα, όπως α) δυσκολία κατανόησης και πλοήγησης στον πολύπλοκο κόσμο και β) θερμικά απόβλητα που δημιουργούν και επιτείνουν το πρόβλημα της κλιματικής αλλαγής. Η Τεχνητή Νοημοσύνη είναι ένα απαραίτητο εργαλείο ΄κατανόησης, πλοήγησης και επιβίωσης στον πολύπλοκο κόσμο μας. Αυξάνει όπως παραπέρα και επιταχύνει την πολυπλοκότητα σε έναν φαύλο κύκλο θετικής ανάδρασης. Το πως θα αντιμετωπίσουμε από κοινού αυτά τα προβλήματα με βιώσιμο τρόπο θα είναι το επόμενο στοίχημα της επιστήμης και της ανθρωπότητας.
Δρ. Ιωάννης Πήτας
[email protected], [email protected], 6981031009
Πρόεδρος της Διεθνούς Ακαδημίας Διδακτορικών Σπουδών στην Τεχνητή Νοημοσύνη (AIDA)
τ. Καθηγητής και Κύριος Ερευνητής Τμήματος Πληροφορικής ΑΠΘ και ΕΚΕΤΑ/ΙΠΤΗΛ
