Macro

Ανθρωποειδή ρομπότ σε δράση κοινωνικού ελέγχου

Πριν από περίπου 19 χρόνια ο Στίβεν Σπίλμπεργκ μας είχε προειδοποιήσει στην ταινία του «Minority Report» για τη μελλοντική ειδική αστυνομική μονάδα που θα μπορούσε να συλλάβει εγκληματίες… προτού καν διαπράξουν το έγκλημά τους. Ε, κάπως έτσι διαμορφώνεται σήμερα η ποινικοκαταστολή με τη βοήθεια της βιονανοτεχνολογίας και της τεχνητής νοημοσύνης που έχουν ήδη αναλάβει υπηρεσία. Οχι μόνο ανθρωποειδή ρομπότ αστυνόμοι έχουν ήδη βγει σε περιπολίες σε κάποιες περιοχές του πλανήτη αλλά ακόμη και αλγόριθμοι με ειδικό λογισμικό αποκτούν… δικανική κρίση καθώς καλούνται να λύσουν αυτοματοποιημένα δικαστικές διαφορές.

Κάπως έτσι ο Μεγάλος Αδελφός φαντάζει παιδικό παραμύθι. Κάπως έτσι διαμορφώνεται μια νέα πραγματικότητα η οποία αποτελεί την εισαγωγή σε μια μεταδικαιωματική εποχή που φαίνεται να συρρικνώνει δικαιώματα και ελευθερίες, καθώς αποπροσωποποιούνται οι τεχνικές διαχείρισης του κοινωνικού, εκχωρούνται προσωπικά δεδομένα, τεμαχίζεται και εργαλειοποιείται το ανθρώπινο σώμα και επανανοηματοδούνται οι όροι της ασφάλειας, της διαλογής, των γενετικά τροποποιημένων οργανισμών.

Εξελίξεις που φυσικά δεν είναι απροκατάληπτες, αφού απροκατάληπτοι δεν είναι ούτε αυτοί που κατέχουν την εξουσία ούτε και οι τεχνικοί που προγραμματίζουν τα ρομπότ, αφού δεν παύουν να αναπαράγουν τα κοινωνικά και σεξιστικά στερεότυπα, την πατριαρχία, αλλά και την κυριαρχία της υφιστάμενης τάξης πραγμάτων προς όφελος των ισχυρών που φαίνεται να συνεχίζουν να εγκληματούν κατά της ζωής, της φύσης και της ανθρωπότητας και να παραμένουν στο απυρόβλητο.

Τα παραπάνω αποτελούν ένα μικρό μόνο μέρος της εισήγησης «Το ποινικό φαινόμενο στην εποχή της νανοβιοτεχνολογίας», που παρουσίασε ο δρ εγκληματολογίας, διδάσκων και ερευνητής στο Πανεπιστήμιο Αιγαίου Χρήστος Κουρούντζας στο δεύτερο διαδικτυακό συνέδριο της Ελληνικής Εταιρείας Μελέτης του Εγκλήματος και του Κοινωνικού Ελέγχου (ΕΕΜΕΚΕ), με τίτλο «Κοινωνική πραγματικότητα, κριτικός λόγος και ποινικό φαινόμενο».

Στην ανακοίνωσή του ο κ. Κουρούντζας έκανε λόγο για τη ρευστότητα που χαρακτηρίζει την 4η Βιομηχανική Επανάσταση, η οποία μετατοπίζεται στα σύνορα μεταξύ υλικού και άυλου, αναμορφώνοντας τους γεωπολιτικούς μηχανισμούς επιτήρησης και κοινωνικού ελέγχου μεμονωμένων σωμάτων και πληθυσμών τους οποίους μπορούν να επιλέγουν ακόμη και σε προγεννητικό στάδιο ή να τροποποιούν τεχνολογικά.

Περιέγραψε την ανάδυση ενός πεδίου προεγκληματικών καταστάσεων τις οποίες ορίζουν οι έξυπνες τεχνολογίες πρόληψης, που συνάμα σημαίνουν και την αυστηροποίηση του τυπικού κοινωνικού ελέγχου καθώς αυτός αυτοματοποιείται, τις συνέπειες των δυσδιάκριτων ορίων μεταξύ βιολογικού, φυσικού και εικονικού, αλλά και τον μύθο ότι το ποινικοκατασταλτικό σύστημα και οι νανοτεχνολογίες μπορεί να είναι ουδέτερες.

Ανέδειξε έτσι την ανάγκη νέων πηγών ανάλυσης και πολιτικής δράσης, αντιπαραβάλλοντας την αέναη ζωντάνια των μηχανών απέναντι στην αδράνεια των ανθρώπων, καθώς η ζωή με τα ρομπότ και τη βιοτεχνολογία αλλάζει τα όρια, επεμβαίνοντας στο ανθρώπινο είδος, στην προσωπική ζωή και στην κοινωνική συγκρότηση, δοκιμάζοντας συνάμα το μέλλον των κοινωνιών και των κοινωνικών επιστημών.

Αναφέρθηκε ακόμη στη γενετικοποίηση της παραβατικής συμπεριφοράς και έδωσε πλήθος παραδειγμάτων, από επιλογές δοτών σε τράπεζα σπέρματος που θυμίζουν ευγονικές μεθόδους, ελέγχοντας το εγκληματικό υπόβαθρο με λογισμικά και αλγόριθμους αποκλεισμού, μέχρι την παρουσία ανθρωπόμορφων ρομπότ σε αεροδρόμια, ρομπότ που συμμετέχουν σε εκθέσεις ζωγραφικής ή διευθύνουν χορωδίες, μη επανδρωμένα μικρά αεροσκάφη (drone) σε ρόλο ιδιωτικής φρουράς και επίβλεψης ή την εμφύτευση μικροτσίπ στα σώματα εργαζομένων σε εταιρεία στη Στοκχόλμη ώστε να τους επιτρέπεται η διαβαθμισμένη πρόσβαση σε χώρους της επιχείρησης.

Επίβλεψη που ξεφεύγει από τα όρια του ιδιωτικού για να ελέγξει το κοινωνικό, όταν φτάνει να αφορά την ασφάλεια και προστασία από φαινόμενα βιοτρομοκρατίας, θέτοντας επί τάπητος τη σύμπραξη νανοτεχνολογίας και στρατιωτικής βιομηχανίας, ενώ ήδη αναφέρεται η σάρωση των μέσων κοινωνικής δικτύωσης για τον εντοπισμό «επικίνδυνων περιβαλλόντων» που μπορεί να αναφέρονται στις συναθροίσεις και στην αποτροπή τους και να συνδέονται με συλλογικές δράσεις.

Για να φτάσουμε και στην ταινία του Σπίλμπεργκ, ο εγκληματολόγος μίλησε για ήδη εφαρμοζόμενη προγνωστική αστυνόμευση σε πόλεις της Αμερικής με βάση λίστα στόχων από άτομα που προχαρακτηρίζονται ως βίαια και ως εν δυνάμει εγκληματίες αφού έχουν χαρακτηριστεί επικίνδυνα συγκεκριμένα περιβάλλοντα αναγγέλλοντας την πρόβλεψη του εγκλήματος πριν τελεστεί, μια εξέλιξη μεθόδων που στηρίζεται στον νόμο των πιθανοτήτων με τις υποκείμενες αντιλήψεις αυτών που τροφοδοτούν την αυτοματοποίηση του συστήματος κοινωνικού ελέγχου.

Σκυλιά ρομπότ που αντικαθιστούν αστυνομικούς σε επικίνδυνες αποστολές, χρήση ρομπότ που καλούν τους πολίτες στα πάρκα να κρατούν τα μέτρα ασφαλείας και περιπολίες του πρώτου αστυνομικού ρομπότ στο Ντουμπάι που χρησιμοποιεί τεχνητή νοημοσύνη και έχει ανιχνευτή κίνησης, αναγνώριση προσώπου, μετάδοση μέσω βίντεο στα αστυνομικά γραφεία των όσων καταγράφει και τάμπλετ όπου οι πολίτες καταγγέλλουν αδικήματα είναι μερικά από τα τεχνολογικά προϊόντα που έχουν ήδη τεθεί σε λειτουργία.

Τα παραδείγματα δεν αφορούσαν μόνο τους σχεδιασμούς κοινωνικής επιτήρησης και ελέγχου αλλά επεκτάθηκαν και σε λογισμικά που αναλαμβάνουν ρόλους ιατροδικαστή, εφαρμόζοντας εικονική νεκροψία στο Πανεπιστήμιο της Βέρνης για την αποφυγή ανθρώπινου λάθους, εγκληματολογική διερεύνηση με προηγμένες τεχνικές DNA για τους φερόμενους ως δράστες, την αυτοματοποίηση της δικαστικής λειτουργίας με στόχο την ταχύτερη έκδοση αποφάσεων, αλλά και την κανονικοποίηση των τεχνολογιών αυτών λόγω της πανδημίας και την υποκατάσταση μεθόδων επιτήρησης στις φυλακές.

Ανάμεσα στα παραδείγματα που εντυπωσίασαν είναι ότι το πλαίσιο επιτήρησης και ελέγχου με τις νέες τεχνολογίες έχει ήδη μπει και στον κόσμο της εργασίας, ενώ υψηλόβαθμα στελέχη που ηγούνται πολυεθνικών είναι ήδη ανθρωποειδή ρομπότ.

Την ίδια ώρα που τα ερωτήματα πληθαίνουν γύρω από τις ριζικές αλλαγές και τις επιπτώσεις της 4ης Βιομηχανικής Επανάστασης, εκκρεμεί να ανοίξει μια δημόσια συζήτηση για τα όριά της.

Τη δημόσια συζήτηση για τα όρια που οφείλουν τα τεθούν στη ρομποτική επιτήρηση και καταστολή φαίνεται να ανοίγει η διεθνής οργάνωση Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων (Human Rights Watch) με αναφορά που δημοσιοποίησε μία μέρα πριν από την ανακοίνωση της δικαστικής απόφασης για τον αστυνομικό που δολοφόνησε τον Φλόιντ, αλλά και πριν από τις πρόσφατες «εκτελέσεις» πολιτών, επίσης από αστυνομικούς, και στις δύο πλευρές του Ατλαντικού.

Στην ανακοίνωση «Μην οπλίζετε τα ρομπότ στην αστυνόμευση», η διεθνής οργάνωση θέτει ενώπιον των εκλεγμένων αξιωματούχων και των τοπικών αρχών τόσο στις ΗΠΑ όσο και διεθνώς, προκειμένου να σκεφτούν την υιοθέτησή της, την «καινοτόμο» όπως τη χαρακτηρίζει νομοθετική πρόταση που υποβλήθηκε στις 18 Μαρτίου από δύο μέλη του Δημοτικού Συμβουλίου στη Νέα Υόρκη και ζητά να απαγορευτεί στην αστυνομία να οπλίζει τα ρομπότ που χρησιμοποιεί στις επιχειρήσεις επιβολής του νόμου.

Αυτό το μοντέλο κανονισμού που ορίζει συγκεκριμένα την απαγόρευση στο αστυνομικό τμήμα της Νέας Υόρκης (NYPD) «να χρησιμοποιεί ή να απειλεί να χρησιμοποιήσει ρομπότ οπλισμένα ή να χρησιμοποιήσει ρομπότ με οποιονδήποτε τρόπο είναι ουσιαστικά πιθανό να προκαλέσει θάνατο ή σοβαρό τραυματισμό» είναι το αποτέλεσμα της κατακραυγής που ξεσήκωσε η χρήση ενός άοπλου ρομπότ εδάφους, βάρους 70 κιλών, που κατασκευάστηκε από την Boston Dynamics, σε μια αστυνομική επιχείρηση που είχε λάβει χώρα έναν μήνα πριν στο Μπρονξ, με το μέλος της Βουλής των Αντιπροσώπων των Ηνωμένων Πολιτειών για τη 14η περιφέρεια της Νέας Υόρκης, Αλεξάντρια Οκάσιο-Κορτέζ, να κατακρίνει τη χρήση του ενάντια σε «χαμηλού εισοδήματος κοινότητες εγχρώμων με υποχρηματοδοτούμενα σχολεία», αντιπροτείνοντας ότι η πόλη οφείλει να επενδύσει στην εκπαίδευση.

Από την πλευρά της εταιρείας επισημάνθηκε ότι απαγορεύει στους πελάτες να συνδέουν όπλα στα ρομπότ της που είναι άοπλα και ζητά να μην τα χρησιμοποιούν σκόπιμα «για να βλάψουν ή να εκφοβίσουν οποιοδήποτε άτομο ή ζώο» ή «ως όπλο», προσθέτοντας πως «θα επιτύχουν μακροπρόθεσμη εμπορική βιωσιμότητα μόνο εάν οι άνθρωποι βλέπουν τα ρομπότ ως χρήσιμα, ευεργετικά εργαλεία, χωρίς να ανησυχούν για το εάν πρόκειται να προκαλέσουν βλάβη».

Παράλληλα, στην ανακοίνωση της οργάνωσης αναφέρεται πως παρόμοια μέτρα ισχύουν και για τις άλλες εταιρείες τεχνολογίας όπως οι Paravision, Skydio και Clearpath Robotics.

Ωστόσο η Human Rights Watch και άλλα μέλη της εκστρατείας για τη διακοπή χρήσης των ρομπότ δολοφόνων τονίζουν ότι «απαιτούνται νόμοι για να διασφαλιστεί πως οι αστυνομικές δυνάμεις δεν θα αγνοήσουν αυτούς τους κινδύνους καθώς επεκτείνουν τη χρήση της τεχνητής νοημοσύνης και των αναδυόμενων τεχνολογιών. Οι δεσμεύσεις να μην οπλιστούν τα ρομπότ δεν θα αποτρέψουν ένα μέλλον ψηφιακού, απάνθρωπου και αυτοματοποιημένου θανάτου. Πλήρως αυτόνομα συστήματα όπλων πρέπει να απαγορεύονται σε όλες τις περιστάσεις, συμπεριλαμβανομένης της ένοπλης σύγκρουσης, της επιβολής του νόμου και του ελέγχου των συνόρων».

Και καταλήγει επιχειρώντας να θέσει ένα όριο: «Το να επιτρέπεται στις μηχανές να επιλέγουν και να επιτίθενται σε ανθρώπους χωρίς ουσιαστικό ανθρώπινο έλεγχο ξεπερνά μια ηθική γραμμή. Η ρύθμιση με τη μορφή νέων νόμων είναι η μόνη βιώσιμη επιλογή όταν αντιμετωπίζει τις σοβαρές ηθικές, νομικές, επιχειρησιακές και άλλες προκλήσεις που δημιουργούνται από την απομάκρυνση του ανθρώπινου ελέγχου από τη χρήση βίας».

Σαν να μη μας έλειπαν οι… τυχαίες εκπυρσοκροτήσεις και η υπέρβαση των ορίων από τους ανθρώπους που είναι επιφορτισμένοι με την ασφάλεια, τώρα έχει αναδυθεί και ένα εντελώς καινούργιο πεδίο οριοθέτησης που αφορά τον έλεγχό μας από τα ρομπότ…

Ιωάννα Σωτήρχου

Πηγή: Εφημερίδα των Συντακτών