Το βίντεο δεν μπορεί να αμφισβητηθεί με πρώτη ματιά: Ο Γερμανός υπουργός Οικονομικών , Ρόμπερτ Χάμπεκ εμφανίζεται να ανακοινώνει μπροστά στις κάμερες ότι η ομοσπονδιακή κυβέρνηση αποφάσισε να κλείσει όλες τις ανοικτές πισίνες.
Το βίντεο κάνει τον γύρο του Διαδικτύου και προέρχεται από τον τηλεοπτικό σταθμό Phoenix, όπως αναφέρει το σήμα στο πάνω μέρος της οθόνης. Ο Χάμπεκ «εξηγεί» μάλιστα ότι η απαγόρευση ψηφίστηκε εκτάκτως με νόμο ,γιατί στο παρελθόν είχαν εκδηλωθεί «επιθέσεις» και «δυσάρεστα περιστατικά» σε ανοικτές πισίνες. Μόνο που ο Χάμπεκ δεν είπε ποτέ κάτι τέτοιο.
Πρόκειται για το λεγόμενο deepfake: βίντεο που έχει υποστεί ψηφιακή επεξεργασία για να αντικαταστήσει πειστικά την ομοιότητα και τη φωνή ενός ατόμου με ενός άλλου.Η φωνή που χρησιμοποιείται μοιάζει με αυτή του Χάμπεκ και οι κινήσεις των χειλιών του έχουν προσαρμοστεί στο νέο περιεχόμενο.
Μια επεξεργασία που είναι δυνατή πλέον με τη βοήθεια της τεχνητής νοημοσύνης (ΑΙ),που μπορεί να χρησιμοποιηθεί για πλαστά βίντεο και προγραμματισμό chatbot που διαδίδουν ρατσισμό, σεξισμό ή θεωρίες συνωμοσίας. «Με τα deepfakes δεν θα πιστεύουμε πλέον στα μάτια και στα αυτιά μας.
Η τεχνητή νοημοσύνη έχει δημιουργήσει εδώ και καιρό όχι μόνο κείμενο και εικόνες, αλλά και ήχους και βίντεο. Δύσκολα διακρίνονται από πραγματικές ηχογραφήσεις και βιντεοσκοπήσεις» λέει στην Ναυτεμπορική ένας ειδικός, που θέλει να διατηρήσει την ανωνυμία του. «Πρόσφατα κυκλοφόρησε για παράδειγμα, μια ψεύτικη φωτογραφία που δείχνει τον Πάπα να φορά ένα πολυτελές μπουφάν. Πριν λίγες μέρες επίσης, κυκλοφόρησε στο διαδίκτυο ψεύτικο υλικό μιας υποτιθέμενης έκρηξης στο Πεντάγωνο.
Τα πλάνα στα κοινωνικά δίκτυα προκάλεσαν την κατάρρευση των τιμών των μετοχών, τουλάχιστον για σύντομο χρονικό διάστημα. Ενα ψεύτικο βίντεο του Ουκρανού προέδρου Ζελένσκι , στο οποίο καλούσε τον Ουκρανό στρατό του να καταθέσει τα όπλα, παρά λίγο να προκαλέσει κρίση στο Κίεβο».
«Η τεχνητή νοημοσύνη θα αλλάξει την ιστορία – όπως έκανε η ατομική βόμβα. Οι απαγορευτικοί νόμοι της ΕΕ δεν μπορούν να δαμάσουν την τεχνολογία. Το λογισμικό που μπορεί να χρησιμοποιηθεί για τη δημιουργία ψεύτικων φωτογραφιών και βίντεο , θα βρίσκεται μαζικά στην ελεύθερη αγορά σε πολύ σύντομο χρονικό διάστημα» τονίζει ο ειδικός.
Η στιγμή του Φρανκεστάιν
Όπως προειδοποιεί χαρακτηριστικά, «φτάνει η στιγμή του Φρανκενστάιν. Αν δεν ελέγξουμε την τεχνητή νοημοσύνη, θα μας ελέγχει αυτή».
Chatbots όπως το ChatGPT από το OpenAI ή το Bard από την Google δημιουργούν κείμενα για οποιοδήποτε θέμα με το πάτημα ενός κουμπιού και μάλιστα καλής ποιότητας.
Τα συστήματα τεχνητής νοημοσύνης όπως το Midjourney ή το Stable Diffusion, από την άλλη πλευρά, δημιουργούν με τις κατάλληλες εντολές, φωτογραφίες, βίντεο και κινούμενα σχέδια μέσα σε λίγα δευτερόλεπτα.
Τέτοια συστήματα AI είναι γενικά διαθέσιμα – μερικά ακόμη και δωρεάν, τα καλύτερα κοστίζουν λίγα ευρώ το μήνα. Υπάρχει τώρα μια πραγματική πλημμύρα εφαρμογών που καθιστούν τη δυνατότητα για deepfakes, διαθέσιμη σε όλους, χωρίς προηγούμενη γνώση.
«Η διάκριση μεταξύ αληθινού και ψεύτικου βίντεο είναι δύσκολο να επαληθευτεί για τους απλούς ανθρώπους και σύντομα ,ούτε για τους ειδικούς» τονίζει η ίδια πηγή στη «Ν». «Μέχρι στιγμής, ενδείξεις για fake τεχνητή παραγωγή μπορούν να βρεθούν μέσω της AI. Όσο όμως τα συστήματα τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται, αυτό μπορεί σύντομα να μην είναι πλέον δυνατό», προσθέτει.
Τρόποι διάκρισης του ψεύτικου βίντεο
Η Σάρα Θίστ μετέχει στη μη κυβερνητική οργάνωση Correctiv και η δουλειά της είναι να βρίσκει και να αναγνωρίζει ψεύτικα βίντεο. Στον ιστότοπό της περιγράφει τρόπους που μπορούν να χρησιμοποιηθούν για τη διάκριση ενός πρωτότυπου από ένα αντίγραφο τεχνητής νοημοσύνης.
Ακόμη και οι ειδικοί πληροφορικάριοι της Correctiv δυσκολεύονται να εντοπίσουν τις ψευδείς πληροφορίες, επειδή διαδίδονται τόσο γρήγορα μέσω των μέσων κοινωνικής δικτύωσης.
«Πρέπει να προσέχετε πολύ τις λεπτομέρειες», εξηγεί η Θιστ. Για παράδειγμα, εάν οι κινήσεις των χειλιών ταιριάζουν με αυτό που ακούγεται ή εάν ένα χέρι έχει πάρα πολλά… δάχτυλα. Όμως η Γερμανίδα ειδικός φοβάται ότι το ανθρώπινο πλεονέκτημα να αναγνωρίζει το αληθινό από το ψεύτικο, σταδιακά μπορεί να εξαφανιστεί. Γιατί «η τεχνητή νοημοσύνη μπορεί να μάθει από τα… δικά της λάθη.»
Φόβος για τη δημοκρατία
Τα παραπλανητικά deepfakes μπορούν δυστυχώς να συμβάλουν στη διάβρωση της κοινής βάσης δεδομένων του πληθυσμού και να θέσουν σε κίνδυνο τη δημοκρατία, μακροπρόθεσμα. «Η τεχνητή νοημοσύνη μπορεί να επιτρέψει σε εγκληματίες ή μυστικές υπηρεσίες να χειραγωγούν τους πολίτες πιο εύκολα και να πλημμυρίζουν τις δημόσιες συζητήσεις με ψέματα και προπαγάνδα», προειδοποιεί η Γερμανίδα υπουργός Εσωτερικών Νάνσι Φέιζερ.
«Τα Deepfakes που μιμούνται ή παραποιούν φωνές ή πρόσωπα μπορεί να είναι ένα πολύ επικίνδυνο εργαλείο κατά της δημοκρατίας», προσθέτει.
«Ο καθοριστικός παράγοντας είναι ότι πρέπει πάντα να αντιμετωπίζουμε γεγονότα και να εντοπίζουμε και να αποκαλύπτουμε γρήγορα τα πλαστά», τόνισε η Φέιζερ.
Ο Αρμιν Γκρούνβαλντ ,καθηγητής Φιλοσοφίας της Τεχνολογίας στο Τεχνολογικό Ινστιτούτο της Καρλσρούης, σημειώνει ότι πολλές χώρες δεν αντιδρούν όπως πρέπει στις προκλήσεις της τεχνητής νοημοσύνης.
«Η βάση δεδομένων της κοινωνίας είχε διαβρωθεί ακόμη και πριν από την εξάπλωση της τεχνητής νοημοσύνης – κυρίως λόγω των ψεύτικων ειδήσεων στα μέσα κοινωνικής δικτύωσης», λέει ο καθηγητής Γκρούβαλντ, που είναι επίσης και επικεφαλής του Γραφείου Αξιολόγησης Τεχνολογίας στη γερμανική Βουλή.
Δεν είναι τυχαίο-προσθέτει-που ένας στους δύο πολίτες ηλικίας 16 έως 75 ετών, βλέπει τις εφαρμογές τεχνητής νοημοσύνης όπως η χρήση ChatGPT για τη συγγραφή κειμένων, ως απειλή για τη δημοκρατία, σύμφωνα με έρευνα του ινστιτούτου Forsa. Ειδικά στη φάση της προεκλογικής εκστρατείας, θα πρέπει να καταστεί σαφές εάν οι ανησυχίες του πληθυσμού είναι δικαιολογημένες.
Ορισμένοι βουλευτές του ακροδεξιού AfD χρησιμοποιούν ήδη ψεύτικες εικόνες για να περάσουν το δικό τους μήνυμα. Ο αντιπρόεδρος της κοινοβουλευτικής ομάδας του AfD, Νόρμπερτ Κλάινβάχτερ δημοσίευσε μάλιστα βίντεο στο Instagram μιας ομάδας νεαρών ανδρών που φώναζαν «Όχι σε περισσότερους πρόσφυγες».
Όπως αποδείχθηκε, η εικόνα είχε δημιουργηθεί από AI. Ο πολιτικός του AfD δικαιολογήθηκε στο ARD ότι τα μοτίβα ήταν «οπτικά σαφώς αναγνωρίσιμα ως τεχνητή απεικόνιση». Επομένως, η επισήμανση ήταν …περιττή.
Η λύση στο ψέμα; Ο καθηγητής Γκρούνβαλντ αναφέρει τα λόγια του μεγάλου φιλόσοφου Εμμάνουελ Κάντ: «Τολμήστε να σκεφτείτε μόνοι σας». Το πιο σημαντικό πράγμα, λέει ο Γερμανός καθηγητής «είναι να εμπιστευόμαστε τους εαυτούς μας, να κάνουμε τις δικές μας κρίσεις και όχι απλώς να παπαγαλίζουμε αυτό που λένε τα ψηφιακά συστήματα».
