Την περασμένη εβδομάδα διάβασα δύο άρθρα που αναδεικνύουν πως η τεχνολογία που χρησιμοποιείται για τη λήψη αποφάσεων και τα κοινωνικά δίκτυα μπορεί να αποτελέσει σημαντικό κίνδυνο για τη δημοκρατία. Στο επίκεντρο και των δύο άρθρων οι αλγόριθμοι, είτε πρόκειται για αυτούς που χρησιμοποιούνται για τη λήψη αποφάσεων από δημόσιες υπηρεσίες, είτε πρόκειται για αυτούς που επιλέγουν τι θα εμφανιστή στη ροή των χρηστών των μέσων κοινωνικής δικτύωσης.
Θα ξεκινήσω με τη δεύτερη κατηγορία: τους αλγόριθμους που «επιλέγουν» τι θα εμφανιστεί στη ροή των χρηστών των μέσων κοινωνικής δικτύωσης και πως αυτοί μπορούν να επηρεάσουν τους ψηφοφόρους. Σε αυτό έχει ήδη αναδειχθεί η τάση που έχουν τα μέσα κοινωνικής δικτύωσης να πολώνουν το πολιτικό κλίμα, καθώς οι αλγόριθμοι της ροής, έχοντας ως βασικό στόχο να κρατήσουν τους χρήστες όσο το δυνατόν περισσότερο στην οθόνη, προτεραιοποιώντας αναρτήσεις που ευθυγραμμίζονται με τις προτιμήσεις τους. Το αποτέλεσμα ο μέσος χρήστης να βλέπει σχεδόν αποκλειστικά αναρτήσεις που συμφωνούν με τις διαμορφωμένες πεποιθήσεις του, να μην εκτίθεται σε αντίλογο, να περιορίζεται ο δημοκρατικός διάλογος και να πολώνεται η κοινωνία. Όμως οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης φαίνεται να μην κάνουν μόνο αυτό. Σε ένα πείραμα που έκανε η μη-κυβερνητική οργάνωση Global Witness φαίνεται ότι στη Γερμανία, ανεξαρτήτως των προτιμήσεων ενός χρήστη, τα μέσα κοινωνικής δικτύωσης προωθούν σε μεγαλύτερο βαθμό αναρτήσεις του ακροδεξιού κόμματος AfD. Πως έγινε το πείραμα; Οι ερευνητές δημιούργησαν νέους λογαριασμούς σε μέσα κοινωνικής δικτύωσης και ο καθένας από αυτούς ξεκίνησε να ακολουθεί τις αναρτήσεις τεσσάρων κομμάτων και των αρχηγών τους. Αν οι αλγόριθμοι ήταν «ουδέτεροι» θα έπρεπε να θεωρήσουν ότι πρόκειται για έναν μη κομματικοποιημένο χρήστη και να εμφανίζουν στη ροή υλικό από όλα τα κόμματα. Αυτό που παρατηρήθηκε είναι ότι, κατά μέσο όρο, οι αναρτήσεις που εμφανιζόταν είχαν δεξιό προσανατολισμό κατά 60% στο Instagram, κατά 74% στο TikTok και κατά 72% στο X. Και το μεγαλύτερο κομμάτι ανάμεσα σε αυτό το υλικό ήταν για το AfD. Μακριά δηλαδή από μια πλουραλιστική ροή όπως θα ήταν το αναμενόμενο. Θα μπορούσε να αλλάξει αυτό; Βεβαίως. Είναι θέμα λειτουργίας των αλγορίθμων. Ωστόσο εδώ βλέπουμε τον κίνδυνο για τις σύγχρονες δημοκρατίες όταν η ενημέρωση των πολιτών αποφασίζεται από τεχνολογίες οι οποίες βρίσκονται υπό τον έλεγχο λίγων δισεκατομμυριούχων και από τις οποίες απουσιάζει κάθε είδους δημοκρατική λογοδοσία.
Όμως οι αλγόριθμοι δεν μας επηρεάζουν μόνο μέσα από τα μέσα κοινωνικής δικτύωσης. Έχουν αρχίσει και μπαίνουν σιγά σιγά στην καρδιά της διακυβέρνησης και της δημόσιας διοίκησης. Ήδη εργαλεία τεχνητής νοημοσύνης, αλλά και πιο απλές τεχνολογίες, χρησιμοποιούνται διεθνώς για λήψη αποφάσεων από το κοινωνικό κράτος μέχρι τα ταχυδρομεία. Τα πιθανά οφέλη προφανή: βελτιστοποίηση και επιτάχυνση διαδικασιών, μεγαλύτερη αποδοτικότητα των υπηρεσιών, εκμετάλλευση του τεράστιου όγκου δεδομένων για την καλύτερη λήψη αποφάσεων. Και εδώ όμως οι κίνδυνοι είναι μεγάλοι. Πρώτον γιατί μειώνεται η διαφάνεια και η λογοδοσία. Οι σύγχρονες τεχνολογίες αυτού του είδους πλέον έχουν γίνει τόσο σύνθετες που ακόμη και ειδικοί δυσκολεύονται να κατανοήσουν πλήρως τον τρόπο που λειτουργούν. Το γεγονός αυτό, σε συνδυασμό με τη διαρκή προσπάθεια του νεοφιλελευθερισμού για περιορισμό του μεγέθους και των ικανοτήτων του κράτους ανοίγει την πόρτα στη χρήση τεχνολογιών που για το δημόσιο είναι «μαύρα κουτιά», δηλαδή που κανείς δεν ξέρει τι ακριβώς κάνουν εκτός από τις εταιρείες που τα έχουν φτιάξει και έτσι είναι αδύνατο να γίνουν αντικείμενα δημοκρατικού ελέγχου. Δεύτερον γιατί πολλές φορές οι τεχνολογίες που χρησιμοποιούνται δεν έχουν σχεδιαστεί για χρήση από το δημόσιο. Για παράδειγμα ένα εργαλείο που έχει σχεδιαστεί από μια ιδιωτική εταιρεία για να χρησιμοποιηθεί από μια άλλη ιδιωτική εταιρεία κατά πάσα πιθανότητα θα έχει σαν προτεραιότητα τη μεγιστοποίηση του κέρδους. Συνεπώς το ίδιο εργαλείο είναι ακατάλληλο για την υλοποίηση δημοσίων πολιτικών, στις οποίες η προτεραιότητα δεν είναι το κέρδος αλλά το δημόσιο συμφέρον.
Το δίδαγμα και από τις δύο οδούς που χρησιμοποιούνται οι αλγόριθμοι είναι κοινό. Αν και η τεχνολογία μπορεί να βελτιώσει τη ζωή όλων μας, θα πρέπει να μπουν δικλείδες ασφαλείας για διαφάνεια και δημοκρατική λογοδοσία. Αλλά μάλλον θα πρέπει η Αριστερά να σηκώσει το ζήτημα αυτές οι επιχειρήσεις να είναι τεθούν σε δημόσια ιδιοκτησία, γιατί όπως επιχειρηματολόγησα και στις σημειώσεις #5, το ιδιοκτησιακό καθεστώς συνδέεται άμεσα με την ισχύ. Διαφορετικά οι κίνδυνοι είναι πολλοί και απειλούν τόσο τη δημοκρατία όσο και την κοινωνική συνοχή.
