Ο κόσμος της τεχνολογίας τροφοδότησε με άφθονα πρωτοσέλιδα τα ΜΜΕ το 2022. Τον Οκτώβριο, ο Ίλον Μασκ αγόρασε το Twitter – μία από τις κύριες πλατφόρμες κοινωνικής δικτύωσης που χρησιμοποιείται από δημοσιογράφους, ακαδημαϊκούς, επιχειρήσεις και υπεύθυνους χάραξης πολιτικής – και προχώρησε στην απόλυση του μεγαλύτερου μέρους του προσωπικού που ασχολείται με τον έλεγχο του περιεχομένου, αφήνοντας να εννοηθεί ότι η εταιρεία θα στηριχθεί αντ’ αυτών στην τεχνητή νοημοσύνη.
Στη συνέχεια, τον Νοέμβριο, μια ομάδα εργαζομένων στη Meta ανακοίνωσε ότι δημιούργησε ένα πρόγραμμα τεχνητής νοημοσύνης ικανό να νικήσει τους περισσότερους ανθρώπους στο παιχνίδι στρατηγικής Diplomacy. Στη Σενζέν της Κίνας, οι αξιωματούχοι χρησιμοποιούν “ψηφιακά δίδυμα” χιλιάδων κινητών συσκευών που είναι συνδεδεμένες με 5G για να παρακολουθούν και να διαχειρίζονται τις ροές ανθρώπων, την κυκλοφορία και την κατανάλωση ενέργειας σε πραγματικό χρόνο. Και με την τελευταία έκδοση του μοντέλου γλωσσικής πρόβλεψης του ChatGPT, πολλοί κηρύσσουν το τέλος της πανεπιστημιακής εργασίας.
Εν ολίγοις, ήταν μια χρονιά κατά την οποία οι ήδη σοβαρές ανησυχίες σχετικά με τον τρόπο με τον οποίο σχεδιάζονται και χρησιμοποιούνται οι τεχνολογίες βάθυναν σε ακόμη πιο επείγουσες επιφυλάξεις. Ποιος είναι επικεφαλής εδώ; Ποιος πρέπει να είναι επικεφαλής; Οι δημόσιες πολιτικές και τα θεσμικά όργανα θα πρέπει να σχεδιάζονται έτσι ώστε να διασφαλίζουν ότι οι καινοτομίες βελτιώνουν τον κόσμο, ωστόσο πολλές τεχνολογίες αναπτύσσονται επί του παρόντος στο κενό. Χρειαζόμαστε συμπεριληπτικές δομές διακυβέρνησης με στοχοπροσήλωση, οι οποίες θα εστιάζουν σε ένα πραγματικό κοινό καλό. Ικανές κυβερνήσεις μπορούν να διαμορφώσουν αυτή την τεχνολογική επανάσταση για να εξυπηρετήσουν το δημόσιο συμφέρον.
Πάρτε παράδειγμα την τεχνητή νοημοσύνη, την οποία το λεξικό της Οξφόρδης ορίζει ευρέως ως “τη θεωρία και την ανάπτυξη συστημάτων υπολογιστών ικανών να εκτελούν εργασίες που συνήθως απαιτούν ανθρώπινη νοημοσύνη, όπως η οπτική αντίληψη, η αναγνώριση ομιλίας, η λήψη αποφάσεων και η μετάφραση των γλωσσών”. Η τεχνητή νοημοσύνη μπορεί να κάνει τη ζωή μας καλύτερη με πολλούς τρόπους. Μπορεί να βελτιώσει την παραγωγή και τη διαχείριση τροφίμων, καθιστώντας τη γεωργία πιο αποτελεσματική και βελτιώνοντας την ασφάλεια των τροφίμων. Μπορεί να μας βοηθήσει να ενισχύσουμε την ανθεκτικότητα έναντι φυσικών καταστροφών, να σχεδιάσουμε ενεργειακά αποδοτικά κτίρια, να βελτιώσουμε την αποθήκευση ενέργειας και να βελτιστοποιήσουμε την ανάπτυξη ανανεώσιμων πηγών ενέργειας. Και μπορεί να βελτιώσει την ακρίβεια της ιατρικής διάγνωσης, όταν συνδυάζεται με τις εκτιμήσεις των ίδιων των γιατρών.
Αυτές οι εφαρμογές θα βελτιώσουν τη ζωή μας με πολλούς τρόπους. Αλλά χωρίς αποτελεσματικούς κανόνες, η τεχνητή νοημοσύνη είναι πιθανό να δημιουργήσει νέες ανισότητες και να ενισχύσει τις προϋπάρχουσες. Δεν χρειάζεται να ψάξει κανείς μακριά για να βρει παραδείγματα συστημάτων με τεχνητή νοημοσύνη που αναπαράγουν άδικες κοινωνικές προκαταλήψεις. Σε ένα πρόσφατο πείραμα, τα ρομπότ που χρησιμοποιούνταν από έναν αλγόριθμο μηχανικής μάθησης έγιναν ανοιχτά ρατσιστικά και σεξιστικά. Χωρίς καλύτερη εποπτεία, οι αλγόριθμοι που υποτίθεται ότι βοηθούν τον δημόσιο τομέα να διαχειρίζεται τα επιδόματα πρόνοιας μπορεί να κάνουν διακρίσεις εις βάρος οικογενειών που έχουν πραγματική ανάγκη. Εξίσου ανησυχητικό είναι το γεγονός ότι οι κρατικές αρχές σε ορισμένες χώρες χρησιμοποιούν ήδη τεχνολογία αναγνώρισης προσώπου με τεχνητή νοημοσύνη για να ελέγχουν τις πολιτικές διαφωνίες και να υποβάλλουν τους πολίτες σε καθεστώτα μαζικής παρακολούθησης.
Η συγκέντρωση της αγοράς αποτελεί επίσης μείζονα ανησυχία. Η ανάπτυξη της τεχνητής νοημοσύνης – και ο έλεγχος των υποκείμενων δεδομένων – κυριαρχείται από λίγους ισχυρούς παίκτες σε λίγους μόνο τόπους. Μεταξύ 2013 και 2021, η Κίνα και οι Ηνωμένες Πολιτείες αντιπροσώπευαν το 80% των ιδιωτικών επενδύσεων στην Τεχνητή Νοημοσύνη παγκοσμίως. Υπάρχει πλέον μια τεράστια ανισορροπία ισχύος μεταξύ των ιδιωτών ιδιοκτητών αυτών των τεχνολογιών και των υπολοίπων από εμάς.
Αλλά η Τεχνητή Νοημοσύνη ενισχύεται και από μαζικές δημόσιες επενδύσεις. Η χρηματοδότηση αυτή θα πρέπει να διέπεται από το κοινό καλό και όχι από το συμφέρον των λίγων. Χρειαζόμαστε μια ψηφιακή αρχιτεκτονική που να κατανέμει πιο δίκαια τα οφέλη της συλλογικής δημιουργίας αξίας. Η εποχή της χαλαρής αυτορρύθμισης πρέπει να τελειώσει. Όταν επιτρέπουμε να επικρατήσει ο φονταμενταλισμός της αγοράς, το κράτος και οι φορολογούμενοι καταδικάζονται να διασώζουν εκ των υστέρων (όπως είδαμε στο πλαίσιο της χρηματοπιστωτικής κρίσης του 2008 και της πανδημίας COVID-19), συνήθως με μεγάλο οικονομικό κόστος και με μακροχρόνιες κοινωνικές πληγές. Ακόμη χειρότερα, με την τεχνητή νοημοσύνη, δεν γνωρίζουμε καν αν μια εκ των υστέρων παρέμβαση θα είναι αρκετή. Όπως επεσήμανε πρόσφατα ο Economist, οι ίδιοι οι προγραμματιστές Τεχνητής Νοημοσύνης συχνά εκπλήσσονται από τη δύναμη των δημιουργημάτων τους.
Ευτυχώς, γνωρίζουμε ήδη πώς να αποτρέψουμε άλλη μια κρίση που προκαλείται από το laissez-faire. Χρειαζόμαστε ένα πρόγραμμα “ηθικού σχεδιασμού” για την τεχνητή νοημοσύνη που θα υποστηρίζεται από ορθές ρυθμίσεις και ικανές κυβερνήσεις που θα εργάζονται για να διαμορφώσουν αυτή την τεχνολογική επανάσταση προς το κοινό συμφέρον και όχι μόνο προς το συμφέρον των μετόχων. Με αυτούς τους πυλώνες σε εφαρμογή, ο ιδιωτικός τομέας μπορεί και θα συμμετάσχει στην ευρύτερη προσπάθεια να γίνουν οι τεχνολογίες ασφαλέστερες και δικαιότερες.
Η αποτελεσματική δημόσια εποπτεία θα πρέπει να διασφαλίζει ότι η ψηφιοποίηση και η τεχνητή νοημοσύνη δημιουργούν ευκαιρίες για τη δημιουργία αξίας για το κοινωνικό σύνολο. Η αρχή αυτή αποτελεί αναπόσπαστο μέρος της Σύστασης της UNESCO για τη δεοντολογία της Τεχνητής Νοημοσύνης, ένα κανονιστικό πλαίσιο που εγκρίθηκε από 193 κράτη μέλη τον Νοέμβριο του 2021. Επιπλέον, βασικοί φορείς αναλαμβάνουν πλέον την ευθύνη για την αναδιαμόρφωση της συζήτησης, με την κυβέρνηση του προέδρου των ΗΠΑ Joe Biden να προτείνει ένα νομοσχέδιο για τα Δικαιώματα της Τεχνητής Νοημοσύνης και την Ευρωπαϊκή Ένωση να αναπτύσσει ένα ολιστικό πλαίσιο για τη διακυβέρνηση της Τεχνητής Νοημοσύνης.
Παρόλα αυτά, πρέπει επίσης να κρατήσουμε τη χρήση της Τεχνητής Νοημοσύνης από τον δημόσιο τομέα σε ορθή δεοντολογική βάση. Με την Τεχνητή Νοημοσύνη να υποστηρίζει όλο και περισσότερο τη λήψη αποφάσεων, είναι σημαντικό να διασφαλιστεί ότι τα συστήματα Τεχνητής Νοημοσύνης δεν χρησιμοποιούνται με τρόπους που υπονομεύουν τη δημοκρατία ή παραβιάζουν τα ανθρώπινα δικαιώματα.
Πρέπει επίσης να αντιμετωπίσουμε την έλλειψη επενδύσεων στις καινοτόμες και διοικητικές δυνατότητες του ίδιου του δημόσιου τομέα. Ο COVID-19 υπογράμμισε την ανάγκη για πιο δυναμικές ικανότητες του δημόσιου τομέα. Χωρίς ισχυρούς όρους και προϋποθέσεις που να διέπουν τις συμπράξεις δημόσιου και ιδιωτικού τομέα, για παράδειγμα, οι εταιρείες μπορούν εύκολα να μονοπωλήσουν την ατζέντα.
Το πρόβλημα, ωστόσο, είναι ότι η ανάθεση δημόσιων συμβάσεων σε εξωτερικούς συνεργάτες έχει γίνει όλο και περισσότερο εμπόδιο στην ανάπτυξη ικανοτήτων του δημόσιου τομέα. Οι κυβερνήσεις πρέπει να είναι σε θέση να αναπτύσσουν την τεχνητή νοημοσύνη με τρόπο που να μην εξαρτώνται από τον ιδιωτικό τομέα για ευαίσθητα συστήματα, ώστε να μπορούν να διατηρούν τον έλεγχο πάνω σε σημαντικά προϊόντα και να διασφαλίζουν ότι τηρούνται τα ηθικά πρότυπα. Ομοίως, πρέπει να είναι σε θέση να υποστηρίξουν την ανταλλαγή πληροφοριών και διαλειτουργικών πρωτοκόλλων και μετρήσεων μεταξύ υπηρεσιών και υπουργείων. Όλα αυτά θα απαιτήσουν δημόσιες επενδύσεις σε κυβερνητικές δυνατότητες, ακολουθώντας μια προσέγγιση προσανατολισμένη στο στόχο.
Δεδομένου ότι τόση γνώση και εμπειρία έχει πλέον συγκεντρωθεί στον ιδιωτικό τομέα, οι συνέργειες μεταξύ του δημόσιου και του ιδιωτικού τομέα είναι ταυτόχρονα αναπόφευκτες και επιθυμητές. Ο προσανατολισμός στο στόχο αφορά την επιλογή των πρόθυμων – με κοινές επενδύσεις με εταίρους που αναγνωρίζουν τις δυνατότητες των υπό κρατική καθοδήγηση δράσεων. Το κλειδί είναι να εξοπλίσουμε το κράτος με την ικανότητα να διαχειρίζεται τον τρόπο με τον οποίο αναπτύσσονται και χρησιμοποιούνται τα συστήματα Τεχνητής Νοημοσύνης, αντί να τρέχει πίσω από τις εξελίξεις. Για να επιμεριστούν οι κίνδυνοι και τα οφέλη των δημόσιων επενδύσεων, οι υπεύθυνοι χάραξης πολιτικής μπορούν να συνδέσουν όρους με τη δημόσια χρηματοδότηση. Μπορούν επίσης, και θα πρέπει, να απαιτήσουν από τις μεγάλες τεχνολογικές επιχειρήσεις να είναι πιο ανοικτές και διαφανείς.
Το μέλλον των κοινωνιών μας βρίσκεται υπό διακύβευση. Πρέπει όχι μόνο να διορθώσουμε τα προβλήματα και να ελέγξουμε τους κινδύνους της Τεχνητής Νοημοσύνης, αλλά και να διαμορφώσουμε την κατεύθυνση του ψηφιακού μετασχηματισμού και της τεχνολογικής καινοτομίας ευρύτερα. Στην αρχή μιας νέας χρονιάς, δεν υπάρχει καλύτερη στιγμή για να ξεκινήσουμε να βάζουμε τα θεμέλια για απεριόριστη καινοτομία προς το συμφέρον όλων.
Η Gabriela Ramos είναι Βοηθός Γενική Διευθύντρια Κοινωνικών και Ανθρωπιστικών Επιστημών στην UNESCO.
Η Mariana Mazzucato, καθηγήτρια στα Οικονομικά της Καινοτομίας και της Δημόσιας Αξίας στο University College του Λονδίνου, είναι ιδρυτική διευθύντρια του UCL Institute for Innovation and Public Purpose, πρόεδρος του Συμβουλίου του Παγκόσμιου Οργανισμού Υγείας για τα Οικονομικά της Υγείας για Όλους και συμπροεδρεύει της Παγκόσμιας Επιτροπής για τα Οικονομικά του Νερού.
Μετάφραση: Κώστας Ψιούρης
