Παύλος Νεράντζης / Η δημοσιογραφία στην εποχή της τεχνητής νοημοσύνης – Προκλήσεις και κίνδυνοι

Η Τεχνητή Νοημοσύνη (ΤΝ) έχει εισβάλλει στη δημοσιογραφία με ταχύτητα ανεξέλεγκτου αλγόριθμου.

Γράφει άρθρα, αναλύει δεδομένα, εντοπίζει τάσεις.

Μεγάλοι ειδησεογραφικοί οργανισμοί (Reuters, AFP, BBC, New York Times, Bloomberg News, Guardian, Der Spiegel, κ.ά.) έχουν αναπτύξει ξεχωριστά τμήματα και χρησιμοποιούν την ΤΝ για τη συγκέντρωση, παραγωγή (δημιουργία κειμένου, εικόνας, βίντεο) και διανομή ειδήσεων (εξατομικευμένο κοινό, εύρεση νέων target groups, συμπεριφορά χρηστών, δημιουργία εσόδων), ακόμη και πειραματίζονται. 

Ποιος, όμως, ελέγχει την αλήθεια που παράγει η Τεχνητή Νοημοσύνη;

Οι αυτοματοποιημένες ειδήσεις υπόσχονται ταχύτητα στη μετάδοση του μηνύματος, αλλά η πραγματικότητα είναι σύνθετη, διαφορετική.

Τα συστήματα ΤΝ εκπαιδεύονται σε δεδομένα που ήδη περιέχουν προκαταλήψεις. Ποιος διασφαλίζει ότι δεν θα αναπαράγουν και θα ενισχύσουν ψευδείς αφηγήσεις;

Η ανθρώπινη κρίση αντικαθίσταται από στατιστικές πιθανότητες.

Οι δημοσιογράφοι δεν είναι πλέον ερευνητές, ρεπόρτερ, αλλά συντάκτες που επιβλέπουν μηχανές.

Οι κυβερνήσεις επενδύουν στην Τεχνητή Νοημοσύνη για να αυξήσουν την επιρροή τους μέσω μηνυμάτων προπαγάνδας και να πλήξουν τους πολιτικούς τους αντιπάλους.

Και οι πολυεθνικές των media όχι για να βελτιώσουν την ενημέρωση, αλλά για να μειώσουν το κόστος παραγωγής του ειδησεογραφικού υλικού.

Η τεχνολογία μετατρέπει τη δημοσιογραφία από λειτούργημα σε βιομηχανική παραγωγή περιεχομένου.

Χωρίς ανθρώπινη ευθύνη, χωρίς ηθική πυξίδα, χωρίς τον δημοσιογράφο που θέλει να αναδείξει τη «σκοτεινή πλευρά» των γεγονότων, η ΤΝ μπορεί να γίνει εργαλείο χειραγώγησης.

Αν η τεχνολογία υπαγορεύει την αλήθεια, η δημοσιογραφία παύει να είναι φύλακας της δημοκρατίας και γίνεται ένας ακόμα κρίκος στην αλυσίδα ελέγχου της κοινής γνώμης, της κοινωνίας.

Υπάρχουν λύσεις για να αντιμετωπιστεί αυτό το δυστοπικό περιβάλλον;

Σε αυτά τα ερωτήματα επιχειρήσαμε να απαντήσουμε πανεπιστημιακοί και δημοσιογράφοι που συμμετείχαμε στην ημερίδα με θέμα «Ενημέρωση και παραπληροφόρηση στον καιρό της Τεχνητής Νοημοσύνης», που διοργάνωσε η ΕΣΗΕΜΘ σε συνεργασία με το Τμήμα Δημοσιογραφίας του ΑΠΘ και την Περιφέρεια Κεντρικής Μακεδονίας.

Ιδιαίτερη έμφαση δόθηκε στην υποστήριξη της generation Z ώστε να διαμορφώσει κριτήρια και δεξιότητες με τις οποίες θα αναγνωρίζει την έγκυρη ενημέρωση στο νέο περιβάλλον παραγωγής και διαμοιρασμού πληροφοριών που αναπτύσσεται με τη χρήση της Τεχνητής Νοημοσύνης.

Η αντίθεση Βορρά Νότου

Η Τεχνητή Νοημοσύνη είναι αναμφισβήτητα ένα χρήσιμο εργαλείο.

Ωστόσο, όπως ανέκαθεν συνέβαινε με τις εφαρμογές της τεχνολογίας, τη δύναμη της ΤΝ την αξιοποιούν περισσότερο όσοι, όσες χώρες, κατέχουν και διαθέτουν πόρους. Όσοι, όσες κατέχουν τα μέσα.

Το ίδιο είχε παρατηρηθεί και τις δεκαετίες του ΄60 και του ΄70. Η ανάπτυξη παγκόσμιων δικτύων ενημέρωσης, κυρίως αμερικανικών, γινόταν στο όνομα της ελεύθερης ροής των πληροφοριών, αλλά σε βάρος των υποανάπτυκτων χωρών που αδυνατούσαν να ανταπεξέλθουν στον ανταγωνισμό. 

Η αντίθεση αυτή Βορρά Νότου σε ό,τι αφορά την χρήση της ΤΝ παρατηρείται και τώρα, σύμφωνα με έρευνα του Πανεπιστημίου London School of Economics.

Τι κάνουν, πώς αξιοποιούν τις δυνατότητες της ΤΝ και τι σχεδιάζουν, για παράδειγμα, εθνικά πρακτορεία ειδήσεων, ακόμη και το «δικό μας» ΑΠΕ-ΜΠΕ που γράφουν και μεταδίδουν ειδήσεις σε γλώσσες που δεν είναι κυρίαρχες;

Ελάχιστα έως τίποτε. 

Πέραν τούτου, το ενδεχόμενο υποκατάστασης της δημοσιογραφίας από την ΤΝ εμπεριέχει πολλούς κινδύνους.

Στην παρέμβασή μου τους απαρίθμησα: απώλεια θέσεων εργασίας, αναξιόπιστο ή προκατειλημμένο περιεχόμενο, διασπορά ψευδών ειδήσεων (fake news), ηθικά διλήμματα, εξάρτηση από την τεχνολογία.

Η χρήση της ΤΝ στις αίθουσες σύνταξης έρχεται σε μια δύσκολη για τους δημοσιογράφους συγκυρία.

Έρευνα του Πανεπιστημίου της Πενσυλβάνια έδειξε ότι για κάθε 1% αύξησης στην ανάπτυξη της ΤΝ, μειώνονται κατά 1% οι προσλήψεις.

Όπως στους μουσικούς ραδιοσταθμούς, που λειτουργούν με playlists.

Ο έλεγχος στη ροή των πληροφοριών από κυβερνήσεις και μεγιστάνες των Μέσων, όπως και η μείωση των δαπανών στα ίδια τα Μέσα, έχουν οδηγήσει από τις αρχές του 2000 στη δημοσιογραφία της ανακύκλωσης, στο copy/paste, σε μια δημοσιογραφία που κρίνεται για την αξιοπιστία της.

Το αποτέλεσμα είναι η ομοιογένεια στην κάλυψη γεγονότων που εξυπηρετεί τη στρατηγική της συναίνεσης με στόχο την χειραγώγηση της κοινής γνώμης.

Προς αυτήν την κατεύθυνση (της χειραγώγησης της κοινής γνώμης, που ισοπεδώνει την κριτική σκέψη) αξιοποιείται ήδη η Τεχνητή Νοημοσύνη από κέντρα εξουσίας, πολιτικά και οικονομικά, συμπεριλαμβανομένων των ιδιοκτητών που διαχειρίζονται πλατφόρμες (social media). 

Οι πλατφόρμες των μέσων κοινωνικής δικτύωσης καθοδηγούνται από αλγόριθμους που έχουν σχεδιαστεί για να μας κρατούν απασχολημένους.

Δίνουν προτεραιότητα στο περιεχόμενο που προκαλεί έντονα συναισθήματα – οργή, φόβο ή εντυπωσιασμό – ώστε να κερδίσει περισσότερα κλικ.

Η αλήθεια, ωστόσο, είναι συχνά λιγότερο συναρπαστική από τη συναισθηματικά φορτισμένη παραπληροφόρηση.

Αυτά τα κέντρα εξουσίας δεν έχουν πρόβλημα εάν η ενημέρωση στηρίζεται σε αλγόριθμους και όχι στην έρευνα, στο ρεπορτάζ.

Η κακόβουλη χρήση της ΤΝ

Η ικανότητα της ΤΝ να δημιουργεί ρεαλιστικό, αλλά ψευδές περιεχόμενο αυξάνει τον κίνδυνο παραπληροφόρησης και υπονομεύει ακόμη περισσότερο την εμπιστοσύνη του κοινού στα MME.

Και τα social media, από πλατείες όπου θα αναπτύσσονταν και θα έβρισκε έκφραση η κοινωνία των πολιτών, συχνά μετατρέπονται σε θέατρα του παραλόγου.

Mελέτη του ΜΙΤ έχει δείξει ότι τα fake news διαδίδονται έξι φορές ταχύτερα από τις αληθινές ειδήσεις στο twitter.

Οι τεχνολογίες deepfake χρησιμοποιούν μηχανική μάθηση και τεχνητή νοημοσύνη για τη δημιουργία ή/και την επεξεργασία βίντεο και ηχητικών αρχείων ώστε αυτά να φαίνονται και να ακούγονται αυθεντικά.

Οι άνθρωποι που απεικονίζονται μπορούν στη συνέχεια να κάνουν και να πουν πράγματα που ποτέ δεν έκαναν, ή δεν είπαν. Αποτελούν, δηλαδή, έναν πολύ εύκολο τρόπο διάδοσης, αληθοφανών, ψευδών ειδήσεων.

Ο στόχος είναι προφανής. Η συκοφάντηση π.χ. υποψηφίων σε προεκλογικές περιόδους και τελικά η χειραγώγηση του εκλογικού σώματος.

Το 2024 στη Σλοβακία υποψήφιος της φιλοευρωπαϊκής αντιπολίτευσης ήθελε δήθεν να δωροδοκήσει Ρομά. 

Στις ΗΠΑ ο Τζο Μπάιντεν δήθεν παρότρυνε πολίτες να μην ψηφίσουν. 

Στη Βόρεια Ιρλανδία μια υποψήφια συμμετείχε σε πορνό βίντεο και στη Μολδαβία άλλος υποψήφιος έκανε δηλώσεις εμφανώς γελοίες.

Ερευνητές του Πανεπιστημίου της Ζυρίχης έκαναν ένα πείραμα.

Έθεσαν στην Τεχνητή Νοημοσύνη το ίδιο ερώτημα σε διαφορετικές γλώσσες.

Ένα από αυτά αφορούσε στον αριθμό των θυμάτων μετά την επίθεση της Χαμάς στις 07/10/2023 και την ισοπέδωση της Γάζας από τις ισραηλινές δυνάμεις.

Η απάντηση στα αραβικά ήταν διαφορετική από την απάντηση στα εβραϊκά.

Για τους ίδιους ερευνητές αυτό είναι ένδειξη της αναξιοπιστίας της ΤΝ, η οποία στην προκείμενη περίπτωση έχει παραπληροφορήσει.

Έρευνα του BBC αποκάλυψε επίσης μια σειρά από προβλήματα στον τρόπο που η Τεχνητή Νοημοσύνη επεξεργάζεται ειδησεογραφικό περιεχόμενο.

Δεν διακρίνει μεταξύ γεγονότων και απόψεων, συγχέει παλαιό με τρέχον περιεχόμενο και συχνά εισάγει υποκειμενικές κρίσεις στις απαντήσεις της.

Κοντολογίς, οι συνέπειες από την κακόβουλη χρήση της ΤΝ είναι προφανείς:

έλλειψη αξιοπιστίας και εμπιστοσύνης προς τους δημοσιογράφους, δημόσιος διάλογος σε συνθήκες σύγκρουσης χωρίς τεκμηρίωση, μεγαλύτερη χειραγώγηση της κοινής γνώμης. 

Τι μπορεί να γίνει

Στόχος πρέπει να είναι ο δημοσιογράφος να χρησιμοποιεί την τεχνολογία, την ΤΝ και όχι η ΤΝ να ελέγχει την ενημέρωση.

Σε λίγα χρόνια η Τεχνητή Νοημοσύνη θα είναι σε θέση να κάνει τα πάντα.

Ουδέποτε, όμως, θα μπορέσει να παράγει πρωτογενή έρευνα και να καλλιεργήσει την κριτική σκέψη.

Οι δημοσιογράφοι να επιστρέψουν στο ρεπορτάζ, να κάνουν έρευνα. 

Να αναπτύξουν δεξιότητες ώστε να χρησιμοποιούν την ΤΝ στον έλεγχο των γεγονότων (fact checking), στον έλεγχο των πηγών, την επαλήθευση περιεχομένου, στην ανάλυση της παραπληροφόρησης.

Να είναι οι τελικοί κριτές για το όποιο δημοσίευμα.

Αυτή είναι η ασφαλιστική δικλείδα: ρεπορτάζ, έρευνα, διασταύρωση πληροφοριών, έλεγχος.

Να εκπαιδευτεί το κοινό (literacy).

Να υπάρξει ένα ρυθμιστικό πλαίσιο ανάμεσα σε ειδησεογραφικούς οργανισμούς και εταιρίες τεχνολογίας, το οποίο θα ισορροπεί ανάμεσα στο δικαίωμα στην ελευθερία του λόγου και τον περιορισμό της παραπληροφόρησης.  

Και αυτό καθίσταται επιτακτικό σε μια στιγμή που το fact checking έχει εξασθενήσει μετά την εκλογή Τραμπ. 

Σε αυτό το πλαίσιο θεωρώ σημαντική τη συμφωνία μεταξύ Ευρωπαϊκού Κοινοβουλίου και κρατών-μελών της Ε.Ε. για να υιοθετηθούν κανόνες για τη ρύθμιση της Τεχνητής Νοημοσύνης.

Αλλά και τον Κώδικα Δεοντολογίας Παραγωγικής ΤΝ για δημοσιογράφους που έχει συντάξει η ΠΟΕΣΥ και αναμένεται να υιοθετηθεί από όλες τις Ενώσεις Συντακτών.

Μπορεί οι εκκλήσεις για αυτορρύθμιση να μη λύνουν το πρόβλημα, αλλά αναμφισβήτητα εμποδίζουν την ασυδοσία.

Ο Παύλος Νεράντζης είναι δημοσιογράφος και παραγωγός ντοκιμαντέρ, διδάκτωρ του Τμήματος Δημοσιογραφίας και ΜΜΕ του ΑΠΘ, συγγραφέας του βιβλίου «Η αλήθεια βομβαρδίζεται. Τα ΜΜΕ και ο πόλεμος με το βλέμμα ενός πολεμικού ανταποκριτή», εκδ. Παπαζήση.