Τόσο η τεχνητή νοημοσύνη (artificial intelligence) όσο και η αυτοματοποιημένη διαδικασία λήψης αποφάσεων (automated decision making) συνιστούν πλέον παράγοντες θεμελιακής σημασίας για το οικονομικό μοντέλο παραγωγής. Ωστόσο, είναι απολύτως σημαντικό να βρεθεί το σημείο ισορροπίας ανάμεσα στα εταιρικά κέρδη και τα ψηφιακά δικαιώματα των χρηστών. Σήμερα, αλλά και στο μέλλον, αυτή η προσπάθεια δεν μπορεί παρά να εστιάσει στη νέα πραγματικότητα που διαμορφώνεται στον τομέα της παραγωγής στο πλαίσιο του ψηφιακού μετασχηματισμού, καθώς και στο καθεστώς ιδιοκτησίας των δεδομένων. Ένα νέο πλαίσιο λειτουργίας συνιστά πολιτικό ζητούμενο.
Στη δημόσια σφαίρα σήμερα υπάρχει ένα μεγάλο κενό σχετικά με την τεχνολογία και την τεχνητή νοημοσύνη ειδικότερα. Το θεσμικό πλαίσιο ή διαδικασία δημόσιας λήψης αποφάσεων που θα εξασφαλίζει ότι οι πολίτες έχουν ενημερωθεί και ερωτηθεί σχετικά με το εάν επιθυμούν την εφαρμογή και ανάπτυξη μιας τεχνολογικής καινοτομίας ή όχι, δεν υφίσταται. Δεν υπάρχει καμία μέριμνα σχετικά με το εάν προτεραιοποιούν μια τεχνολογική εξέλιξη ή την εφαρμογή της ως περισσότερο επείγουσα και σημαντική για τις ζωές τους σε σχέση με μια άλλη. Δεν προβλέπεται καμία διαδικασία μέσω της οποίας να ερωτώνται οι εργαζόμενοι εάν επιθυμούν την εφαρμογή ενός τεχνολογικού εργαλείου στον χώρο εργασίας τους. Δυστυχώς, το ίδιο ισχύει και στην ιδιωτική σφαίρα, υπό τη νέα «οντολογική ιδιότητα» του χρήστη που επικαλούνται οι ψηφιακοί κολοσσοί.
Στο πλαίσιο των σημερινών διαδικασιών λήψης αποφάσεων, από τη στιγμή που μια τεχνολογική εξέλιξη εγγυάται κέρδη για τον ιδιωτικό τομέα, λαμβάνει το «πράσινο φως». Η επένδυση σε μια τεχνολογική εξέλιξη σημαίνει ότι χάνεται η ευκαιρία επένδυσης σε μια άλλη. Εξαιτίας της απουσίας δημοκρατικής διαδικασίας λήψης αποφάσεων σχετικά με τις επενδύσεις στην τεχνολογία και την έρευνα που αυτή προϋποθέτει, στερούμαστε ως κοινωνίες τη δυνατότητα, όχι μόνο να προστατευτούμε από κακόβουλες και παθογόνες τεχνολογικές εφαρμογές, αλλά και να προτεραιοποιήσουμε το δημόσιο συμφέρον επί των εταιρικών κερδών. Δεν υπάρχει κάποια μεθοδολογία που να εφαρμόζεται προκειμένου να διερευνήσει τις προσδοκίες των πολιτών από την τεχνολογία. Το κριτήριο της κερδοφορίας είναι αυτό που υπερισχύει παρότι η τεχνολογία σήμερα φέρει επιπλοκές σε κάθε επίπεδο της ανθρώπινης ζωής.
Ορίζουμε την κοινωνική ωφελιμότητα των τεχνολογικών εφαρμογών στη βάση των απαντήσεων που δίνουν οι stakeholders του τεχνολογικού τομέα σχετικά με τις μελλοντικές τους επενδύσεις. Εταιρικά forums και συνδεόμενα lobbies διαθέτουν ισχυρή και θεσμοποιημένη επιρροή, τη στιγμή που η γνώμη των πολιτών δεν ερωτάται καν. Κατά τον ίδιο τρόπο λαμβάνονται οι αποφάσεις σχετικά με την κατεύθυνση που ακολουθεί η έρευνα ανάπτυξης εφαρμογών στο επίπεδο της παραγωγής. Ωστόσο, η έρευνα για την ανάπτυξη των πιο σημαντικών τεχνολογικών καινοτομιών έχει χρηματοδοτηθεί από δημόσιους πόρους, από τα χρήματα των πολιτών ως φορολογουμένων, για τους οποίους δεν προβλέπεται ρόλος στο πλαίσιο των διαδικασιών λήψης αποφάσεων.
Εξαιτίας των τεχνολογικών αλλαγών των τελευταίων δεκαετιών, έχει διαμορφωθεί ένα μοντέλο παραγωγής το οποίο αποδίδει στο μέγιστο της κερδοφορίας του μέσω της έρευνας και της καινοτομίας, ιδιαίτερα σε κλάδους όπως το λογισμικό, η βιοτεχνολογία, η φαρμακοβιομηχανία, η νανοτεχνολογία ή η τεχνητή νοημοσύνη. Αντίθετα με τον νεοφιλελεύθερο μύθο που επικρατεί, καμία από αυτές τις τεχνολογικές επαναστάσεις δεν θα είχε επέλθει χωρίς τον καθοδηγητικό ρόλο του κράτους (Kotsaka, 2021). Σε πολλές περιπτώσεις, από το Internet έως τη νανοτεχνολογία, στην πραγματικότητα ήταν το κράτος και όχι ο ιδιωτικός τομέας που είχε το όραμα της στρατηγικής αλλαγής. Προχώρησε στις απαραίτητες τεράστιες επενδύσεις και ενεργοποίησε ένα αποκεντρωμένο δίκτυο δρώντων προκειμένου να πραγματοποιήσουν εκείνο το στάδιο της έρευνας που ενέχει μεγάλο ρίσκο. Στάδιο-προϋπόθεση προκειμένου, στη συνέχεια, η ανάπτυξη και η εμπορευματοποιήση της διαδικασίας να επέλθει με τρόπο δυναμικό (Mazzucato, 2011).
Την ίδια στιγμή, όταν τίθενται ερωτήσεις σχετικά με την τεχνολογία, ο τρόπος που αυτό γίνεται είναι προβληματικός (Eurobarometer, 2021). Σήμερα έχουμε βρεθεί σε μια συνθήκη στην όποια η κριτική στην ανάπτυξη ή εφαρμογή συγκεκριμένων τεχνολογιών από την πλευρά πολιτών, πολιτικών, ακόμα και ειδικών στον τομέα αντιμετωπίζεται ως τεχνοφοβική σχεδόν ως αυτοματισμός. Το τεχνοφοβικό στίγμα συνιστά την τέλεια παγίδα στον δημόσιο λόγο, προκειμένου να προωθείται όποια τεχνολογική καινοτομία είναι επικερδής για τον ιδιωτικό τομέα, ανεξάρτητα από το κοινωνικό ή περιβαλλοντικό κόστος που επιφέρει. Κατά αυτόν τον τρόπο, η περίπτωση όπου οι πολίτες δεν επιθυμούν την εξέλιξη της τεχνολογίας προς συγκεκριμένες κατευθύνσεις, ιδιαίτερα όταν αυτό πραγματοποιείται με τα δικά τους χρήματα ως φορολογουμένων, δεν ανιχνεύεται, καθώς οι ερωτήσεις δεν τίθενται ποτέ σε αυτό το επίπεδο.
Μια χρήσιμη αναλογία
Το έλλειμμα δημοκρατίας στον τομέα της τεχνολογίας δεν μπορεί να ιδωθεί ανεξάρτητα από την ευρύτερη συνθήκη ελλείμματος εμπιστοσύνης στην πολιτική σφαίρα. Το ζήτημα της εμπιστοσύνης των πολιτών σε δημόσιους και ιδιωτικούς θεσμούς οι οποίοι διαχειρίζονται τις σημαντικότερες αποφάσεις για το μέλλον βρίσκεται σήμερα στην κορυφή της πολιτικής ατζέντας σε ευρωπαϊκό -και όχι μόνο- επίπεδο. Ζητήματα όπως η πολιτική διαχείριση της κλιματικής αλλαγής και της τεχνητής νοημοσύνης αξιολογούνται ως σημαντικά σε υπαρξιακό, πλέον, επίπεδο. Η έλλειψη εμπιστοσύνης εκφράζεται δυναμικά, όχι μόνο από την πλευρά μεμονωμένων πολιτών, αλλά και από φορείς κάθε είδους, όπως εργατικές ενώσεις, περιβαλλοντικές οργανώσεις, ερευνητικοί φορείς, μικρομεσαίες επιχειρήσεις, μικρές αγροτουριστικές επιχειρήσεις, δίκτυα ομότιμης παραγωγής κ.λπ. Η διαχείριση της πανδημίας και στον τομέα της τεχνολογίας, στο πλαίσιο της οποίας ο δημόσιος διάλογος σχετικά με την εφαρμογή συγκεκριμένων ψηφιακών εργαλείων απλά παρακάμφθηκε με συνθήκες κατεπείγοντος, έκανε τα πράγματα μάλλον χειρότερα (Cohen, Péron & Algan, 2022).
Το έλλειμμα εμπιστοσύνης στους θεσμούς από την πλευρά των πολιτών συνδέεται άμεσα με τον βαθμό συμμετοχής τους στις διαδικασίες λήψης αποφάσεων. Κάτι που φάνηκε με ιδιαίτερη ένταση τα τελευταία χρόνια και στον τομέα της κλιματικής κρίσης. Πρόκειται για άλλον έναν τομέα πολιτικής όπου εμπλέκονται αποφάσεις μεγάλης σημασίας και τεράστια ποσά δημόσιων -και όχι μόνο- επενδύσεων. Ωστόσο, στην περίπτωση της κλιματικής μετάβασης και των περιβαλλοντικών πολιτικών, φαίνεται ότι βρισκόμαστε ένα βήμα μπροστά σχετικά με τη συμμετοχή των πολιτών στη λήψη αποφάσεων. Πρόκειται για τομείς περισσότερο ώριμους στον δημόσιο διάλογο συγκρινόμενοι με τις ψηφιακές τεχνολογίες και την τεχνητή νοημοσύνη. Οι άνθρωποι γνωρίζουν περισσότερα και κατανοούν καλύτερα αυτά τα ζητήματα και αυτό ενδυναμώνει το αίτημά τους για συμμετοχή στη λήψη αποφάσεων.
Φυσικά τα πράγματα δεν ήταν πάντα έτσι. Η συζήτηση γύρω από τα περιβαλλοντικά ζητήματα ξεκίνησε συγκροτημένα τη δεκαετία του 1980 και χρειάστηκαν τέσσερις δεκαετίες πολιτικών αγώνων, μαζικών κινημάτων, τεκμηρίωσης και ενημέρωσης σχετικά, τόσο με τα ίδια, όσο και με την πολυπλοκότητα των συνδεόμενων συμφερόντων. Η περίπτωση των «κίτρινων γιλέκων» στη Γαλλία αποτελεί ένα πρόσφατο χρήσιμο παράδειγμα το οποίο κατόρθωσε να φέρει αποτελέσματα στη διαδικασία λήψης αποφάσεων. Αυτό δεν θα μπορούσε να συμβεί χωρίς τους κοινωνικούς αγώνες που οργάνωσε το κίνημα και τις μακροχρόνιες εξεγέρσεις που με την επιμονή τους οδήγησαν σε μια νέα δομή συμμετοχικής λήψης αποφάσεων.
Στη Γαλλία, η Συνέλευση Πολιτών για το Κλίμα (Citizens’ Convention for Climate, CCC) θεμελιώθηκε την περίοδο 2019-2020 (White, 2022). Οι Συνελεύσεις Πολιτών για το Κλίμα έχουν τις ρίζες τους στα «κίτρινα γιλέκα» και τις μαζικές ταραχές στους δρόμους της Γαλλίας όπως ξεκίνησαν στα τέλη του 2018 ως αντίδραση στην απόφαση της κυβέρνησης σχετικά με την εισαγωγή ενός νέου φόρου άνθρακα στους πολίτες. Προσπαθώντας η γαλλική κυβέρνηση να χειριστεί τις εξεγέρσεις -οι οποίες άντλησαν υποστήριξη από το σύνολο του πολιτικού φάσματος- προσπάθησε να δώσει διέξοδο στη συσσωρευμένη ένταση με τη διοργάνωση ενός «Μεγάλου Εθνικού Διαλόγου», όπως ονομάστηκε. Αυτή η προσπάθεια πήρε τη μορφή πλήθους τοπικών Συνελεύσεων Πολιτών (Citizens Assemblies, CA). Μέσα από αυτήν την εμπειρία, προέκυψε η ιδέα της υποστήριξης μιας εθνικής Συνέλευσης Πολιτών με αποκλειστικό αντικείμενο τις πολιτικές για το κλίμα. Με αυτόν τον σκοπό, τον Ιούλιο του 2019, η κυβέρνηση ανακοίνωσε ότι η Συνέλευση Πολιτών για το Κλίμα έχει την αποστολή να καταθέσει προτάσεις σχετικά με το πώς η Γαλλία θα κατορθώσει να περιορίσει τις εκπομπές άνθρακα στο 40% του επιπέδου του 1990 έως το 2030, με έναν κοινωνικά δίκαιο τρόπο.
Η Συνέλευση Πολιτών για το Κλίμα συγκροτήθηκε σε σώμα αρκετές φορές μεταξύ 2019-2020, στη συνέχεια οι εργασίες της διακόπηκαν εξαιτίας της πανδημίας. Ωστόσο, κατέληξε σε 149 προτεινόμενα μέτρα, τα οποία περιελάμβαναν και δύο τροπολογίες στο γαλλικό Σύνταγμα. Ο Πρόεδρος Μακρόν δήλωσε, στην αρχική του τοποθέτηση σχετικά με τις προτάσεις, ότι αυτές γίνονται αποδεκτές 146 από τις 149. Η Συνέλευση είχε τη δυνατότητα να θέσει τις προτάσεις της σε εθνικό δημοψήφισμα. Τα περισσότερα μέλη της Συνέλευσης δεν θέλησαν να ακολουθήσουν αυτόν τον δρόμο και προτίμησαν να αναφέρονται στο εθνικό κοινοβούλιο. Σήμερα, σχεδόν δύο χρόνια μετά την έκθεση της Συνέλευσης, υπάρχει ανησυχία αναφορικά με την έλλειψη δράσης από τη γαλλική κυβέρνηση ως προς την εφαρμογή των προτάσεων.
Η γαλλική περίπτωση συμπληρώνεται και από άλλα συμμετοχικά μοντέλα σε διαφορετικά μέρη του κόσμου, τα οποία δίνουν χώρο στους πολίτες στη διαδικασία λήψης αποφάσεων, όπως η Συνέλευση για το Κλίμα στο Ηνωμένο Βασίλειο (Climate Assembly, CAUK) ή η Παγκόσμια Συνέλευση. Ο Οργανισμός για την Οικονομική Συνεργασία και την Ανάπτυξη (OECD) έχει υποστηρίξει τις Συνελεύσεις Πολιτών ως μέρος αυτού που ονομάζει «το διαβουλευτικό κύμα» της δημοκρατικής μεταρρύθμισης (OECD 2020). Έχει καταγράψει οκτώ μοντέλα, όπως προκύπτουν από υπαρκτές πρακτικές, τα οποία μπορούν να λάβουν υπόψη οι διαμορφωτές πολιτικών (OECD 2021)1. Την ίδια στιγμή, η καμπάνια για την κλιματική δικαιοσύνη Extinction Rebellion (XR), έχει θέσει ως «Τρίτο Αίτημα» ότι οι κυβερνήσεις πρέπει να δημιουργούν και να ακολουθούν τον δρόμο που χαράσσουν οι Συνελεύσεις Πολιτών σχετικά με την «κλιματική και οικολογική δικαιοσύνη».
Θα μπορούσαν τα συμμετοχικά μοντέλα να αποτελέσουν ένα εργαλείο για την αντιμετώπιση του ελλείμματος δημοκρατίας στη λήψη αποφάσεων σχετικά με την τεχνολογία; Οι καθιερωμένες διαδικασίες της αντιπροσωπευτικής δημοκρατίας δεν φαίνεται να επαρκούν, τόσο στον τομέα της τεχνολογίας, όσο και του περιβάλλοντος. Οι πρωτοβουλίες σχετικά με την κλιματική αλλαγή βρίσκονται ένα βήμα μπροστά, κάτι που ακολουθεί και το αντίστοιχο επίπεδο πληροφορίας και γνώσης των πολιτών σε αυτόν τον τομέα πολιτικής. Το ζητούμενο της «τεχνολογικής εγγραμματοσύνης» των πολιτών δεν μπορεί να συνεχίσει να περιορίζεται στην πρόσβαση στο internet και στην απόκτηση ψηφιακών δεξιοτήτων. Η γνώση και η διάθεση της σχετικής πληροφορίας στους πολίτες συνιστά προϋπόθεση προκειμένου να λειτουργήσει η δημοκρατία στους κρίσιμους τομείς της τεχνητής νοημοσύνης, της ιδιωτικότητας, της διαχείρισης δεδομένων, της ψηφιακής εργασίας, της αυτοματοποιημένης λήψης αποφάσεων, της ελευθερίας του λόγου και σε πλήθος άλλων επιπέδων της συλλογικής μας ζωής, τα οποία πλέον συνδέονται άρρηκτα με την τεχνολογία.
Η συζήτηση έχει ανοίξει και νέοι ορισμοί, για παράδειγμα, σχετικά με τα ιδιοκτησιακά δικαιώματα των χρηστών επί των δεδομένων τους στην Ευρωπαϊκή Ένωση, ενδυναμώνουν αυτήν την τάση. Πολλοί υποστηρίζουν ότι τα προσωπικά μας δεδομένα θα πρέπει να γίνονται σεβαστά ως εργασία και η ιδιοκτησία τους να αποδίδεται στον παραγωγό τους, προκειμένου να τα διαφυλάξει ή να τα εμπορευτεί. Οι ραγδαίες εξελίξεις της τεχνολογίας αλλοιώνουν τη φύση της εργασίας, καθιστούν ασαφή τη διάκριση εργασίας και ελεύθερου χρόνου και μας ζητούν να γίνουμε δια βίου συμμέτοχοι στην παραγωγή αγαθών και εκτός του χώρου εργασίας (Zuboff, 2019). Η αυξανόμενη ικανότητα των ψηφιακών εφαρμογών θα μπορούσε να αντιμετωπίζεται ως μια νέα πηγή καλοπληρωμένων θέσεων εργασίας ή συμπλήρωσης εισοδήματος. Η επίγνωση από την πλευρά των χρηστών της σημασίας του ρόλου τους είναι που κάνει τη μεγάλη διαφορά. Είναι ενδεικτικό ότι, ήδη σε διαφορετικούς τομείς της αγοράς, οι χρήστες μπορούν να ιδρύουν Σωματεία Παραγωγών Δεδομένων (Data Unions) και οργανώνονται με αίτημα μια δίκαιη αποζημίωση που θα αναλογεί στον πλούτο που παράγουν2.
Σήμερα, νέα πεδία διεκδικήσεων δημιουργούνται σχετικά με τα κοινωνικά και πολιτικά δικαιώματα στον ψηφιακό κόσμο και η αναγκαιότητα της ρύθμισης επανέρχεται με όρους που σε αυτόν τον τομέα δεν μπορούν απλώς να επανεπινοηθούν, καθώς δεν υπάρχει προηγούμενο (Κοτσακά & Manouach, 2020). Ένα ρυθμιστικό πλαίσιο στο πεδίο των εφαρμοσμένων ψηφιακών πολιτικών θα πρέπει να δημιουργηθεί για πρώτη φορά και το αν θα λειτουργήσει προς όφελος ή εναντίον των περισσοτέρων δεν μπορεί παρά να συνιστά μια συλλογική πρόκληση και ένα μείζον πολιτικό διακύβευμα3.
Σημειώσεις:
Είναι ενδεικτικό ότι η πρόσφατη έκθεση του OECD προτείνει οκτώ τρόπους προκειμένου να θεσμοποιηθεί η «συμβουλευτική δημοκρατία» (deliberative democracy). Περιλαμβάνει την ιδέα «συνδυασμού της συμβουλευτικής και της άμεσης δημοκρατίας» ως έναν από τους οκτώ τρόπους που σκιαγραφεί (OECD 2021, 22-23). Κυρίως εξετάζει τη μεθοδολογία που εφαρμόζει το Citizens’ Initiative Review σε ορισμένες πολιτείες των ΗΠΑ και αλλού. Σε αυτές τις περιπτώσεις, ένα ολιγάριθμο σώμα με τα χαρακτηριστικά των Συνελεύσεων Πολιτών παρέχει στους πολίτες μια αξιολόγηση των προτάσεων που τίθενται σε δημοψήφισμα. Η έκθεση του OECD σημειώνει ότι υπάρχουν προτάσεις στο Βέλγιο για ένα είδος μόνιμης Συνέλευσης Πολιτών που θα έχει την εξουσία να αποφασίζει σχετικά με τις πολιτικές που θα τίθενται σε δημοψήφισμα (OECD 2021, 23).
Ενδεικτικά, https://thedataunion.eu/, https://medium.com/streamrblog/what-are-data-unions-how-do-they-work-which-ones-can-i-use-887e67fb7716, https://www.thedataunion.org/.
Προς αυτήν την κατεύθυνση φαίνεται να κινείται η Ευρωπαϊκή Ένωση με τις πρόσφατες Digital Services Act και (DSA) Digital Market Act (DMA) οι οποίες επιχειρούν να ρυθμίσουν για πρώτη φορά σε παγκόσμιο επίπεδο το πλαίσιο λειτουργίας των ψηφιακών κολοσσών. Ωστόσο, αυτή η περίπλοκη προσπάθεια δεν είναι χωρίς προβλήματα. Περισσότερα στο https://bit.ly/3HGe4uR.
Βιβλιογραφικές αναφορές
Cohen, D., Péron, M., Algan Y. (2022) Trust: The other factor in the Covid-19 crisis. Διαθέσιμο στο: https://voxeu.org/article/trust-other-factor-covid-19-crisis.
Eurobarometer (2021). European citizens’ knowledge and attitudes towards science and technology. Διαθέσιμο στο: https://europa.eu/eurobarometer/surveys/detail/2237.
Kotsaka, Th. (2021). Governing knowledge commons into the framework of 4th industrial revolution, Force Project, Ινστιτούτο Εναλλακτικών Πολιτικών, pdf.
Κοτσακά Δ. και Manouach, I. (2020) Athens Data Union: Σε ποιον ανήκουν τα δεδομένα της Αθήνας; Η παραγωγή δεδομένων ως αξία και τα όρια της ρύθμισης. Διαθέσιμο στο: https://www.onassis.org/el/culture/publications/hackathens-the-uncommon-planner
Mazzucato, M. (2011). The entrepreneurial state, Demos, Διαθέσιμο στο: www.demos.co.uk/files/Entrepreneurial_State_-‐_web.pdf.
OECD (2021). Eight ways to institutionalise deliberative democracy. Διαθέσιμο στο:https://www.oecd.org/gov/open-government/eight-ways-to-institutionalise-deliberative-democracy.htm.
White, St. (April 2022). Citizens’ assemblies and democratic renewall, Jesus College Oxford, Ena Institute, Διαθέσιμο στο: https://www.enainstitute.org/en/publication/citizens-assemblies-democratic-renewal/
Zuboff, Sh. (2019). The age of surveillance capitalism. Profile Books
Δώρα Κοτσακά
