Η πιο ανησυχητική εξέλιξη της εποχής μας, όπως την έχει επιβάλει η σύγχρονη τεχνολογία, είναι η τάση απόλυτης εξάρτησης της λειτουργίας του κράτους -αλλά και της ίδιας της πολιτικής δραστηριότητας- από συστήματα συλλογής και επεξεργασίας πληροφοριών, την πρόσβαση στα οποία παρέχουν αποκλειστικά οι ιδιωτικοί κολοσσοί του big tech. Εταιρείες όπως οι Microsoft, Google, Apple, Meta κ.λπ. εξαρτούν κυριολεκτικά τα κράτη σε παγκόσμια κλίμακα, καθώς παρέχουν το τεχνολογικό περιβάλλον τόσο για τον πολιτικό ανταγωνισμό όσο και για τις διάφορες «πλατφόρμες» του φορολογικού, του ασφαλιστικού, του υγειονομικού, του εκπαιδευτικού κ.λπ. συστήματος, όπως τις ξέρουμε.
Από τα τέλη του 19ου αιώνα ώς την έκρηξη του Β΄ Παγκοσμίου Πολέμου, η εμπειρία μιας εντυπωσιακής επιστημονικής προόδου σε όλους τους τομείς είχε οδηγήσει την Ανθρωπότητα στην πεποίθηση ότι, χάρη στην τεχνολογία, κάθε κοινωνικό πρόβλημα θα έβρισκε τη λύση του.
Το αποτύπωμα των τεχνολογικών επιτευγμάτων εκείνης της εποχής εξακολουθεί να είναι πολύ περισσότερο σημαντικό από το αποτύπωμα που αφήνουν σήμερα οι νέες τεχνολογίες: αρκεί να σκεφτούμε τι σήμαιναν ο ηλεκτρισμός, το τηλέφωνο και οι μηχανές εσωτερικής καύσης για την οργάνωση της παραγωγής, την καθημερινή ζωή και τη θέση της γυναίκας.
Κι όμως εκείνη η χρυσή εποχή της τεχνολογίας, που με την ορμή της παραμέριζε αξίες όπως τα ανθρώπινα δικαιώματα και η δημοκρατία -αφού υποσχόταν καλύτερες απαντήσεις στα κοινωνικά προβλήματα-, διαψεύστηκε με τον πόλεμο. Η επίκληση της επιστήμης και της τεχνολογίας για την εξυπηρέτηση ολοκληρωτικών σχεδίων -που έφταναν στην παράνοια της «βελτίωσης» του ανθρώπου μέσω της ευγονικής, αλλά και της «τελικής λύσης»- αποτέλεσε βασική προδιαγραφή του ναζισμού. Η παγκόσμια καταστροφή που ακολούθησε, έδειξε ταυτόχρονα τα όρια αυτής της τεχνολατρίας, αφήνοντας σαν τελευταίο επεισόδιο το δέος της χρήσης των ατομικών όπλων, που ακόμα μας στοιχειώνει.
Μετά την καταστροφή, η Ανθρωπότητα θυμήθηκε τις ξεχασμένες αξίες των δικαιωμάτων, της ισότητας, της δημοκρατίας και -λίγο αργότερα- της οικολογίας και φάνηκε να τις εμπιστεύεται πάλι ως εργαλεία για τη λύση των προβλημάτων των κοινωνιών. Ηδη όμως, και η εποχή αυτή φαίνεται να περνάει σήμερα, καθώς η φτώχεια, οι ανισότητες, ο κοινωνικός αποκλεισμός, ο ρατσισμός, ο σεξισμός, η περιβαλλοντική καταστροφή, ο πόλεμος επιμένουν και εντείνονται: οι αξίες μας σχετικοποιούνται δραματικά από το ίδιο παραγωγικό μοντέλο που μας επέβαλε η βιομηχανική επανάσταση εδώ και δυόμισι αιώνες.
Τις τελευταίες δεκαετίες (από τα τέλη του ’80 πάνω-κάτω), μια νέα δυναμική εποχή για την τεχνολογία έχει προβάλει, διεκδικώντας και πάλι το αποκλειστικό προνόμιο της «λύσης» κάθε κοινωνικού προβλήματος. Η «λύση» της «ουδέτερης» τεχνολογίας προωθείται από ειδικούς και μη, για ακόμη μία φορά, πέρα από αξίες και καθεστώτα: εμφανίζεται να ταιριάζει με όλα.
Πέρα από τον διάχυτο ενθουσιασμό για τις δυνατότητες που μας προσφέρουν τα έξυπνα κινητά, τα εμβόλια γενετικής τεχνολογίας, οι καινοτομίες ελέγχου της ηλιακής ακτινοβολίας ή το Chat GPT, καλό είναι να σκεφτούμε και τα παρακάτω:
● Οι νέες τεχνολογίες (ιδίως εκείνες που συνδέονται με εφαρμογές τεχνητής νοημοσύνης) απαιτούν τη συγκέντρωση μεγάλου όγκου δεδομένων (big data), συμπεριλαμβανομένου ενός σημαντικού ποσοστού προσωπικών δεδομένων μας. Η συγκέντρωση προσωπικών δεδομένων διευκολύνεται απίστευτα με το λεγόμενο «opt-out»: το opt-out επιτρέπει αυτόματη πρόσβαση στα δεδομένα μας χωρίς την άδειά μας, εκτός αν εκ των υστέρων ζητήσουμε να διακοπεί αυτή η πρόσβαση. Η τάση αυτή είναι παράνομη, κυριαρχεί ωστόσο όλο και περισσότερο, κάτι που μοιραία θα οδηγήσει στην αποδοχή της και από τον νόμο.
Γιατί πρέπει να μας απασχολεί το θέμα; Επειδή η διαρροή δεδομένων μας προς τρίτους, χωρίς να το ξέρουμε και να το επιτρέπουμε εκ των προτέρων, μπορεί να μεταβάλει την κοινωνία σε έναν απέραντο χώρο επιτήρησης «διαφανών» ατόμων, όπου κράτος και μεγάλες ιδιωτικές εταιρείες θα δημιουργούν λεπτομερή «προφίλ» «υγιών» και «συμμορφωμένων» ή, αντίθετα, «ελαττωματικών» και «αντικοινωνικών» υπηκόων, με βάση αρχεία αποθηκευμένα στα clouds μιας επιβλεπόμενης από ελάχιστους τεχνοδομής στις ΗΠΑ ή στην Κίνα.
● Τεχνολογικές καινοτομίες με προοπτική ευρείας υλοποίησης, όπως εφαρμογές γενετικά τροποποιημένων φυτών και ζώων, εφαρμογές ανανεώσιμων πηγών ενέργειας, ρύθμισης της ηλιακής ακτινοβολίας ή επείγουσας παραγωγής εμβολίων και φαρμάκων, συναρτώνται με σημαντικό βαθμό αβεβαιότητας ως προς τις επιπτώσεις τους, ακριβώς λόγω του ανοιχτού περιβάλλοντος όπου αναπτύσσονται.
Ωστόσο, πρόκειται για τεχνολογίες βασισμένες σε μεγάλες δημόσιες ή ιδιωτικές επενδύσεις, που απαιτούν την προώθησή τους πάση θυσία, ανεξάρτητα από οποιαδήποτε εκτίμηση των πιθανών επιπτώσεων. Δημοκρατικά εκλεγμένες κυβερνήσεις που στηρίζουν επενδύσεις σε παρόμοιες τεχνολογίες υψηλού ρίσκου, προτιμούν το ρίσκο αυτό από το ρίσκο της απώλειας επενδύσεων. Γιατί ξέρουν ότι η απώλεια επενδύσεων μπορεί να τους στοιχίσει πολιτικά, ενώ οι επιπτώσεις π.χ. για το περιβάλλον, τη διατροφή, τη δημόσια υγεία κ.λπ. εντοπίζονται συνήθως σε βάθος χρόνου. Η περίπτωση της εγκατάστασης ΑΠΕ σε δασικές περιοχές, με οικτρές συνέπειες για τη βιοποικιλότητα, είναι σε εμάς χαρακτηριστικό παράδειγμα. Αλλο παράδειγμα είναι οι τεχνολογίες αντανάκλασης της ηλιακής ακτινοβολίας, με σκοπό την αντιμετώπιση της παγκόσμιας υπερθέρμανσης, αλλά με εντελώς άγνωστες επιπτώσεις στο κλίμα του πλανήτη (αντί της αναγκαίας μείωσης των εκπομπών αερίων του θερμοκηπίου που συναντά αντιδράσεις από τη βιομηχανία).
● Ισως η πιο ανησυχητική εξέλιξη της εποχής μας, όπως την έχει επιβάλει η σύγχρονη τεχνολογία, είναι η τάση απόλυτης εξάρτησης της λειτουργίας του κράτους -αλλά και της ίδιας της πολιτικής δραστηριότητας- από συστήματα συλλογής και επεξεργασίας πληροφοριών, την πρόσβαση στα οποία παρέχουν αποκλειστικά οι ιδιωτικοί κολοσσοί του big tech. Εταιρείες όπως οι Microsoft, Google, Apple, Meta κ.λπ. εξαρτούν κυριολεκτικά τα κράτη σε παγκόσμια κλίμακα, καθώς παρέχουν το τεχνολογικό περιβάλλον τόσο για τον πολιτικό ανταγωνισμό όσο και για τις διάφορες «πλατφόρμες» του φορολογικού, του ασφαλιστικού, του υγειονομικού, του εκπαιδευτικού κ.λπ. συστήματος, όπως τις ξέρουμε.
Οι εταιρείες αυτές δεν έχουν μόνο την τεχνογνωσία, αλλά επιπλέον και τη δυνατότητα επενδύσεων στην καινοτομία, σε κλίμακα που κανένας προϋπολογισμός κράτους, ένωσης κρατών ή διεθνούς οργανισμού δεν μπορεί να αντέξει. Το αποτέλεσμα είναι ότι οι δημοκρατικά νομιμοποιημένοι αντιπρόσωποί μας έχουν εκχωρήσει εν λευκώ εξουσία ελέγχου και ουσιαστικής λήψης αποφάσεων (συχνά αυτοματοποιημένης) στους big tech ιδιώτες. Πώς διασφαλίζουμε τον έλεγχο αυτής της τεράστιας εκχώρησης, με όρους δημοκρατίας; Πώς ξέρουμε ότι οι big tech δεν απολαμβάνουν μια ολιγαρχική εξουσία πρωτόγνωρη στην Ιστορία;
Εκείνο που δείχνουν τα παραδείγματα αυτά είναι ότι η σύγχρονη τεχνολογία δημιουργεί περισσότερα προβλήματα στην ποιότητα μιας δημοκρατικής κοινωνίας, από αυτά που λύνει, όσο οι στόχοι και οι πιθανές χρήσεις της δεν ελέγχονται. Ισως «πληρώνουμε» πολύ περισσότερο απ’ όσο φανταζόμαστε το ότι δεν κάνουμε ουρές στην εφορία ή στις τράπεζες ή ότι δεν χρειάζεται να αγοράζουμε εφημερίδες στα περίπτερα.
Ο έλεγχος της τεχνολογίας, όμως, δεν μπορεί να εξασφαλιστεί από την ίδια την τεχνολογία: είναι δουλειά ανθρώπων που σχετίζονται μεταξύ τους και παίρνουν αποφάσεις στη βάση αξιών – εκείνων που σήμερα στην τρέχουσα πολιτική ρητορική έχουν καταντήσει κενές λέξεις. Σε εποχές πλήρους απαξίωσης της πολιτικής (όπως τη γνωρίσαμε πολύ πρόσφατα), είναι καιρός να αποφασίσουμε αν, στο όνομα κάποιου «εκσυγχρονισμού», είμαστε πρόθυμοι να εγκαταλείψουμε δικαιώματα και αρχές, όπως η ελεύθερη γνώμη, η ελεύθερη πληροφόρηση, η ιδιωτικότητα, η ισότητα, ο σεβασμός στη φύση.
Η σύμπτωση της νέας μόδας της τεχνολατρίας με την παγκόσμια άνοδο του φασισμού και την κρυφή γοητεία των high-tech πολέμων δεν φαίνεται τυχαία…
Ο Τάκης Βιδάλης είναι μέλος της ομάδας των δεκαπέντε εμπειρογνωμόνων του European Group on Ethics in Science and New Technologies της Ευρωπαϊκής Επιτροπής. Διδάσκει δίκαιο και ηθική των νέων τεχνολογιών στο Διεθνές Πανεπιστήμιο της Ελλάδος και στη Νομική Σχολή Αθηνών
