Οι « φορείς » της τεχνητής νοημοσύνης έρχονται, είτε είμαστε έτοιμοι είτε όχι. Αν και υπάρχει μεγάλη αβεβαιότητα σχετικά με το πότε τα μοντέλα ΤΝ θα είναι σε θέση να αλληλεπιδρούν αυτόνομα με ψηφιακές πλατφόρμες, άλλα εργαλεία ΤΝ, ακόμη και ανθρώπους, δεν υπάρχει αμφιβολία ότι αυτή η εξέλιξη θα είναι μετασχηματιστική – προς το καλύτερο ή το χειρότερο. Ωστόσο, παρ’ όλα τα σχόλια (και τη διαφημιστική εκστρατεία) γύρω από το agentic AI, πολλά μεγάλα ερωτήματα παραμένουν ανεπίλυτα, το μεγαλύτερο από τα οποία είναι ποιο είδος φορέα AI επιδιώκει να αναπτύξει η βιομηχανία υψηλής τεχνολογίας;
Διαφορετικά μοντέλα θα έχουν πολύ διαφορετικές επιπτώσεις. Με μια προσέγγιση « ΤΝ ως σύμβουλος», οι φορείς ΤΝ θα προσφέρουν ατομικά ρυθμισμένες συστάσεις στους ανθρώπους που λαμβάνουν αποφάσεις, αφήνοντας πάντα τον άνθρωπο στη θέση του οδηγού. Αλλά με ένα μοντέλο «αυτόνομης ΤΝ», οι φορείς θα αναλαμβάνουν το τιμόνι για λογαριασμό των ανθρώπων. Αυτή είναι μια διάκριση με βαθιές και μεγάλης εμβέλειας επιπτώσεις. Οι άνθρωποι λαμβάνουν εκατοντάδες αποφάσεις κάθε μέρα, μερικές από τις οποίες έχουν σημαντικές συνέπειες για την καριέρα τους, τον βιοπορισμό τους ή την ευτυχία τους. Πολλές από αυτές τις αποφάσεις βασίζονται σε ατελείς ή ελλιπείς πληροφορίες και καθορίζονται περισσότερο από συναισθήματα, διαίσθηση, ένστικτα ή παρορμήσεις. Όπως το έθεσε περίφημα ο Ντέιβιντ Χιουμ, «Η λογική είναι και θα έπρεπε να είναι μόνο σκλάβος των παθών». Οι άνθρωποι μπορεί να λαμβάνουν τις περισσότερες αποφάσεις χωρίς συστηματική λογική ή χωρίς να δίνουν τη δέουσα προσοχή στις πλήρεις συνέπειες, αλλά όπως αναγνώρισε ο Χιουμ με το μέρος «θα έπρεπε» της δήλωσής του, αυτό δεν είναι και τόσο κακό. Είναι αυτό που μας κάνει ανθρώπους. Το πάθος αντικατοπτρίζει τον σκοπό και μπορεί επίσης να διαδραματίσει βασικό ρόλο στον τρόπο με τον οποίο αντιμετωπίζουμε έναν πολύπλοκο κόσμο. Με τους συμβούλους τεχνητής νοημοσύνης που παρέχουν εξατομικευμένες, αξιόπιστες, σχετικές με το πλαίσιο, χρήσιμες πληροφορίες, πολλές σημαντικές αποφάσεις μπορούν να βελτιωθούν, αλλά τα ανθρώπινα κίνητρα θα παραμείνουν κυρίαρχα. Αλλά τι το κακό έχει η αυτόνομη τεχνητή νοημοσύνη που λαμβάνει αποφάσεις για λογαριασμό μας; Δεν θα μπορούσε να βελτιώσει ακόμη περισσότερο τη λήψη αποφάσεων, να εξοικονομήσει χρόνο και να αποτρέπει τα λάθη;
Υπάρχουν διάφορα προβλήματα με αυτή την οπτική γωνία. Πρώτον, η ανθρώπινη αυτενέργεια είναι ζωτικής σημασίας για την ανθρώπινη μάθηση και ευημερία. Η ίδια η πράξη της λήψης αποφάσεων και του συλλογισμού των αποτελεσμάτων – ακόμη και αν τα δεδομένα και οι συμβουλές προέρχονται από μη ανθρώπινους φορείς – επιβεβαιώνει την αίσθηση της δικής μας αυτενέργειας και του σκοπού μας. Πολλά από αυτά που κάνουν οι άνθρωποι δεν έχουν να κάνουν με υπολογισμούς ή με τη συλλογή δεδομένων για να αποφασίσουν για τη βέλτιστη πορεία δράσης- μάλλον, έχουν να κάνουν με την ανακάλυψη – μια εμπειρία που θα γίνεται όλο και πιο σπάνια αν όλες οι αποφάσεις ανατεθούν σε έναν φορέα τεχνητής νοημοσύνης. Επιπλέον, αν η βιομηχανία υψηλής τεχνολογίας ασχοληθεί κυρίως με αυτόνομους φορείς τεχνητής νοημοσύνης, η πιθανότητα αυτοματοποίησης περισσότερων ανθρώπινων θέσεων εργασίας θα αυξηθεί σημαντικά. Ωστόσο, αν η ΤΝ γίνει κυρίως ένα μέσο επιτάχυνσης της αυτοματοποίησης, κάθε ελπίδα για ευρεία κοινή ευημερία θα εξανεμιστεί.
Το πιο σημαντικό είναι ότι υπάρχει μια θεμελιώδης διαφορά μεταξύ των φορέων ΤΝ που ενεργούν για λογαριασμό των ανθρώπων και των ανθρώπων που ενεργούν για τον εαυτό τους. Πολλά περιβάλλοντα στα οποία οι άνθρωποι αλληλεπιδρούν έχουν τόσο συνεργατικά όσο και συγκρουσιακά στοιχεία. Σκεφτείτε την περίπτωση μιας εταιρείας που παρέχει δεδομένα σε μια άλλη. Εάν αυτά τα δεδομένα είναι αρκετά πολύτιμα για τον αγοραστή, μια συναλλαγή μεταξύ των δύο εταιρειών είναι αμοιβαία επωφελής (και συνήθως ωφελεί και την κοινωνία). Αλλά για να υπάρξει οποιαδήποτε ανταλλαγή, η τιμή των δεδομένων πρέπει να καθοριστεί μέσω μιας εγγενώς συγκρουσιακής διαδικασίας. Όσο υψηλότερη είναι η τιμή, τόσο περισσότερο επωφελείται ο πωλητής σε σχέση με τον αγοραστή. Το αποτέλεσμα αυτής της διαπραγμάτευσης καθορίζεται συχνά από ένα συνδυασμό κανόνων (όπως δικαιοσύνη), θεσμών (όπως συμβόλαια που επιβάλλουν κόστος σε περίπτωση παραβίασης) και δυνάμεων της αγοράς (όπως αν ο πωλητής έχει τη δυνατότητα να πουλήσει σε κάποιον άλλο). Φανταστείτε όμως ο αγοραστής να έχει τη φήμη ότι είναι εντελώς ασυμβίβαστος – ότι αρνείται να δεχτεί οτιδήποτε άλλο εκτός από τη χαμηλότερη εφικτή τιμή. Εάν δεν υπάρχουν άλλοι αγοραστές, ο πωλητής μπορεί να αναγκαστεί να δεχτεί τη χαμηλή προσφορά. Ευτυχώς, στις καθημερινές μας συναλλαγές, τέτοιες ασυμβίβαστες στάσεις είναι σπάνιες, εν μέρει επειδή αξίζει να μην έχεις κακή φήμη και, κυρίως, επειδή οι περισσότεροι άνθρωποι δεν έχουν ούτε το θράσος ούτε τη διάθεση να ενεργήσουν τόσο επιθετικά. Αλλά τώρα φανταστείτε ότι ο αγοραστής έχει έναν αυτόνομο φορέα τεχνητής νοημοσύνης που δεν ενδιαφέρεται για τις ανθρώπινες λεπτότητες και διαθέτει μη ανθρώπινα ατσάλινα νεύρα. Η τεχνητή νοημοσύνη μπορεί να εκπαιδευτεί να υιοθετεί πάντα αυτή την ασυμβίβαστη στάση και ο αντισυμβαλλόμενος δεν θα έχει καμία ελπίδα να την καλοπιάσει προς ένα πιο αμοιβαία επωφελές αποτέλεσμα. Αντίθετα, σε έναν κόσμο με την ΤΝ ως σύμβουλο, το μοντέλο μπορεί να εξακολουθεί να συνιστά μια ασυμβίβαστη στάση, αλλά ο άνθρωπος θα αποφασίζει τελικά αν θα ακολουθήσει αυτό το δρόμο. Βραχυπρόθεσμα, λοιπόν, οι αυτόνομες τεχνητές νοημοσύνες μπορεί να φέρουν έναν πιο άνισο κόσμο, όπου μόνο ορισμένες εταιρείες ή άτομα θα έχουν πρόσβαση σε ικανότατα και αξιόπιστα σκληρά μοντέλα τεχνητής νοημοσύνης. Αλλά ακόμη και αν όλοι αποκτήσουν τελικά τα ίδια εργαλεία, αυτό δεν θα ήταν καλύτερο. Ολόκληρη η κοινωνία μας θα υποβαλλόταν σε παιχνίδια «πολέμου φθοράς» στα οποία οι φορείς ΤΝ ωθούν κάθε συγκρουσιακή κατάσταση στα όρια της κατάρρευσης. Τέτοιες αντιπαραθέσεις είναι εγγενώς επικίνδυνες. Όπως σε ένα παιχνίδι «κότας» (όταν δύο αυτοκίνητα επιταχύνουν το ένα προς το άλλο για να δουν ποιο θα υποχωρήσει πρώτο), είναι πάντα πιθανό κανένα από τα δύο μέρη να μην υποχωρήσει. Όταν συμβαίνει αυτό, και οι δύο οδηγοί «κερδίζουν» – και χάνονται και οι δύο. Μια τεχνητή νοημοσύνη που έχει εκπαιδευτεί να κερδίζει στο « παιχνίδι της κότας » δεν θα υποχωρήσει ποτέ. Αν και η ΤΝ θα μπορούσε να είναι ένας καλός σύμβουλος για τους ανθρώπους – παρέχοντάς μας χρήσιμες, αξιόπιστες και σχετικές πληροφορίες σε πραγματικό χρόνο – ένας κόσμος αυτόνομων φορέων ΤΝ είναι πιθανό να φέρει πολλά νέα προβλήματα, ενώ θα εξανεμίσει πολλά από τα οφέλη που θα μπορούσε να προσφέρει η τεχνολογία.
Project Syndicate
