Η δικαστική αναμέτρηση που βρίσκεται σε εξέλιξη στις Ηνωμένες Πολιτείες ανάμεσα στη Meta και τους γενικούς εισαγγελείς 29 Πολιτειών είναι πολύ μεγαλύτερη από μια ακόμη υπόθεση εναντίον ενός τεχνολογικού κολοσσού. Στην πραγματικότητα, ανοίγει ξανά μια συζήτηση που αφορά όλες τις σύγχρονες κοινωνίες: ποιος θέτει τους κανόνες στον ψηφιακό δημόσιο χώρο;
Οι αμερικανικές αρχές κατηγορούν τη Meta ότι το Facebook και το Instagram σχεδιάστηκαν με χαρακτηριστικά που μπορούν να ενισχύσουν την εξάρτηση των νεότερων χρηστών. Η υπόθεση μπορεί να οδηγήσει ακόμη και σε τεράστιες οικονομικές κυρώσεις. Το σημαντικότερο, όμως, δεν είναι το ύψος ενός ενδεχόμενου προστίμου.
Είναι όσα μπορεί να αλλάξουν μετά τη δίκη.
Μεταξύ των παρεμβάσεων που τίθενται στο τραπέζι είναι αυστηρότερη επαλήθευση ηλικίας, αλλαγές στους αλγορίθμους συστάσεων, περιορισμός λειτουργιών που ενθαρρύνουν τη συνεχή παραμονή στις πλατφόρμες και μεγαλύτερη προστασία των ανηλίκων.
Και εδώ βρίσκεται η ουσία.
Όταν ο αλγόριθμος αποφασίζει τι θα δούμε
Για πολλά χρόνια αντιμετωπίσαμε τα κοινωνικά δίκτυα περίπου ως ουδέτερες ψηφιακές πλατείες. Ο καθένας δημοσιεύει κάτι και οι υπόλοιποι το βλέπουν.
Δεν λειτουργούν έτσι.
Ανάμεσα στον πολίτη και στην πληροφορία βρίσκεται ένας αλγόριθμος.
Αυτός αποφασίζει ποια ανάρτηση θα εμφανιστεί πρώτη, ποιο βίντεο θα προταθεί στη συνέχεια, ποια είδηση θα αποκτήσει εκατομμύρια προβολές και ποια θα εξαφανιστεί μέσα στον τεράστιο όγκο της πληροφορίας.
Το επιχειρηματικό μοντέλο των μεγαλύτερων πλατφορμών βασίζεται σε μεγάλο βαθμό στην προσοχή μας. Όσο περισσότερο χρόνο παραμένουμε στην οθόνη, τόσο μεγαλύτερη είναι η δυνατότητα εμπορικής αξιοποίησης αυτής της προσοχής.
Γι’ αυτό και η συζήτηση για τους αλγορίθμους δεν είναι απλώς τεχνολογική.
Είναι κοινωνική και βαθιά πολιτική.
Τα παιδιά είναι το πρώτο μεγάλο τεστ
Η προστασία των ανηλίκων αποτελεί ίσως την πιο αυτονόητη αφετηρία.
Ένα παιδί ή ένας έφηβος δεν μπορεί να αντιμετωπίζεται από μια ψηφιακή πλατφόρμα ακριβώς όπως ένας ενήλικος καταναλωτής.
Χρειάζονται διαφορετικοί κανόνες, μεγαλύτερη διαφάνεια, ουσιαστική προστασία των προσωπικών δεδομένων και σχεδιασμός των εφαρμογών με γνώμονα το συμφέρον του παιδιού και όχι τη μεγιστοποίηση του χρόνου παραμονής του μπροστά στην οθόνη.
Αυτό, όμως, είναι μόνο η αρχή.
Γιατί οι ίδιοι μηχανισμοί που επηρεάζουν τη συμπεριφορά ενός εφήβου επηρεάζουν καθημερινά και εκατομμύρια ενηλίκους.
Από την οικονομία της προσοχής στη δημοκρατία
Facebook, Instagram, TikTok, YouTube και άλλες πλατφόρμες αποτελούν πλέον βασικές πηγές ενημέρωσης.
Άρα οι αλγόριθμοί τους δεν καθορίζουν μόνο τι αγοράζουμε ή ποιο βίντεο θα παρακολουθήσουμε.
Επηρεάζουν και τι γνωρίζουμε για τον κόσμο.
Και εδώ εμφανίζεται ένα από τα σημαντικότερα δημοκρατικά ζητήματα της εποχής μας.
Όταν ένας αλγόριθμος επιβραβεύει συστηματικά το περιεχόμενο που προκαλεί μεγαλύτερη αντίδραση, υπάρχει ο κίνδυνος ο θυμός, ο φόβος, η υπερβολή και η πόλωση να αποκτούν συγκριτικό πλεονέκτημα απέναντι στην ψύχραιμη ενημέρωση.
Έτσι δημιουργούνται κλειστά οικοσυστήματα πληροφορίας. Ο πολίτης βλέπει συνεχώς περιεχόμενο κοντά σε όσα ήδη πιστεύει και σταδιακά μπορεί να αποκτήσει μια εντελώς διαφορετική εικόνα της πραγματικότητας από τον διπλανό του.
Μια δημοκρατία, όμως, χρειάζεται κάτι περισσότερο από ελεύθερες εκλογές.
Χρειάζεται έναν κοινό χώρο πραγματικότητας μέσα στον οποίο μπορούμε να διαφωνούμε.
Δεν πρέπει να επιλέξουμε ανάμεσα στην καινοτομία και τη ρύθμιση
Η απάντηση ασφαλώς δεν είναι να δαιμονοποιήσουμε την τεχνολογία.
Τα κοινωνικά δίκτυα έδωσαν φωνή σε εκατομμύρια ανθρώπους, δημιούργησαν νέες μορφές επιχειρηματικότητας, επέτρεψαν σε κοινωνικά κινήματα να οργανωθούν και έκαναν την επικοινωνία σχεδόν άμεση σε ολόκληρο τον πλανήτη.
Το πραγματικό δίλημμα λοιπόν δεν είναι «τεχνολογία ή ρύθμιση».
Είναι τι είδους τεχνολογία θέλουμε και με ποιους δημοκρατικούς κανόνες θα λειτουργεί.
Οι εταιρείες πρέπει να μπορούν να καινοτομούν. Αλλά όταν μια πλατφόρμα χρησιμοποιείται από δισεκατομμύρια ανθρώπους και επηρεάζει την ενημέρωση, την κοινωνική συμπεριφορά και τελικά τον δημόσιο διάλογο, δεν μπορεί να λειτουργεί σαν ένα συνηθισμένο προϊόν χωρίς ιδιαίτερες κοινωνικές υποχρεώσεις.
Η Ευρωπαϊκή Ένωση έχει ήδη κάνει σημαντικά βήματα με το Digital Services Act και το ευρύτερο ευρωπαϊκό πλαίσιο για τις ψηφιακές υπηρεσίες και την τεχνητή νοημοσύνη.
Χρειάζεται όμως κάτι ακόμη: πραγματική αλγοριθμική λογοδοσία.
Να γνωρίζουμε τις βασικές αρχές με τις οποίες λειτουργούν τα συστήματα συστάσεων. Να μπορούν ανεξάρτητοι ερευνητές και αρμόδιες αρχές να εξετάζουν τις κοινωνικές επιπτώσεις τους. Να υπάρχουν ειδικές εγγυήσεις για τα παιδιά. Και ο πολίτης να έχει ουσιαστικότερο έλεγχο πάνω στον τρόπο με τον οποίο διαμορφώνεται η ψηφιακή του εμπειρία.
Το επόμενο ερώτημα είναι ακόμη μεγαλύτερο: η τεχνητή νοημοσύνη
Η υπόθεση της Meta έρχεται σε μια κρίσιμη στιγμή.
Γιατί πριν ακόμη οι κοινωνίες μας καταφέρουν να ρυθμίσουν πλήρως την εποχή των social media, εισερχόμαστε στην εποχή της γενετικής τεχνητής νοημοσύνης.
Σήμερα ένας αλγόριθμος επιλέγει ποια πληροφορία θα δούμε.
Αύριο, όλο και περισσότερο, η τεχνητή νοημοσύνη θα δημιουργεί την ίδια την πληροφορία που βλέπουμε.
Η διαφορά είναι τεράστια.
Deepfakes, συνθετικές εικόνες και βίντεο, αυτοματοποιημένη πολιτική προπαγάνδα και μαζική παραγωγή παραπληροφόρησης μπορούν να κάνουν πολύ δυσκολότερη τη διάκριση ανάμεσα στο πραγματικό και στο κατασκευασμένο.
Γι’ αυτό η συζήτηση που ξεκινά σήμερα γύρω από το Facebook και το Instagram δεν πρέπει να περιοριστεί σε μία εταιρεία.
Είναι η πρώτη πράξη μιας πολύ μεγαλύτερης συζήτησης για τη σχέση τεχνολογίας, αγοράς και δημοκρατίας.
Το ερώτημα της επόμενης δεκαετίας δεν θα είναι αν θα χρησιμοποιούμε αλγορίθμους και τεχνητή νοημοσύνη. Αυτό έχει ήδη απαντηθεί.
Το πραγματικό ερώτημα είναι ποιος θα ελέγχει αυτούς τους αλγορίθμους, με ποιους κανόνες θα λειτουργούν και απέναντι σε ποιον θα λογοδοτούν.
Γιατί η τεχνολογία μπορεί να εξελίσσεται με ταχύτητα που δεν έχουμε ξαναδεί.
Η δημοκρατία όμως δεν μπορεί να παραμένει πάντα ένα βήμα πίσω.
