Μέσα σε όλο το διαρκώς αναπτυσσόμενο τεχνολογικό φάσμα που μας περικλείει, έχουν ανθίσει και τα deepfakes.
Σε περίπτωση που κάποιος δε γνωρίζει, πρόκειται για την ενσωμάτωση ενός προσώπου (από φωτογραφία) σε βίντεο για ψυχαγωγικούς ή παραπλανητικούς σκοπούς, με τη βοήθεια μιας τεχνολογίας, βασιζόμενης στην τεχνητή νοημοσύνη (AI). Επί της ουσίας, είναι μια τακτική άκρως ψυχαγωγική, αφού με αυτόν τον τρόπο μπορούμε να πρωταγωνιστήσουμε σε μία ταινία του Hollywood, χωρίς να έχουμε καν πατήσει το πόδι μας στο στούντιο. Από την άλλη, η παραπλάνηση που προσφέρεται μέσα από τα deepfakes έχει χρησιμοποιηθεί και για την κοινοποίηση ψεύτικων ειδήσεων, καθώς και για την εκμετάλλευση προσώπων— δημοσίων και μη.
Όπως γίνεται αντιληπτό, τέτοιου είδους πρακτικές είναι άκρως επικίνδυνες και χρειάζεται να επανεξετάσουμε λίγο το όλο θέμα.
Πόσο επικίνδυνα μπορούν να γίνουν;
Για φαντάσου. Λαμβάνεις ένα μήνυμα, το οποίο λέει: «Πρέπει να το δεις, λυπάμαι», συνοδευόμενο από έναν υπερσύνδεσμο. Σαφώς, αντιλαμβάνεσαι ότι δεν πρόκειται για scam ή για bot, αλλά για μια πιο ύπουλη απάτη. Τότε, στην οθόνη σου βλέπεις άκρως καυτές ερωτικές περιπτύξεις με πρωταγωνιστή… τον εαυτό σου!
Εξυπακούεται ότι δεν είσαι εσύ στην πραγματικότητα, αλλά ο κλώνος σου. Μια εικόνα σου— ενδεχομένως από το Facebook ή το Instagram, την οποία κάποιος καταχράστηκε αξιοποιώντας μια τεχνολογία που βασίζεται στην τεχνητή νοημοσύνη (AI) ή αλλιώς, το λεγόμενο «deepfake».
Απανωτά εγκεφαλικά, δεν ξέρεις πώς να το διαχειριστείς.
Ε, λοιπόν, συμβαίνει σε ολόκληρο τον κόσμο. Σε ηθοποιούς, πολιτικούς, YouTubes, σε απλούς ανθρώπους. Και μάλιστα, είναι 100% νόμιμο στις περισσότερες χώρες. Γι’ αυτό, τα deepfakes είναι τόσο επικίνδυνα. Για παράδειγμα, το 2017, ένας χρήστης του Reddit με το όνομα «deepfakes» δημιούργησε ένα thread, όπου οι υπόλοιποι χρήστες μπορούσαν να παρακολουθήσουν ψεύτικα βίντεο της «Maisie Williams» ή της «Taylor Swift» να κάνουν σεξ. Ναι μεν το thread έκλεισε οκτώ εβδομάδες αργότερα, όμως μέχρι τότε είχε ήδη συγκεντρώσει 90.000 συνδρομητές!
Σύμφωνα με την εταιρεία κυβερνοασφάλειας, «Sensity», ο αριθμός των deepfakes αυξάνεται ραγδαία, αφού φαίνεται να διπλασιάζεται κάθε έξι μήνες. Από τα 85.000 deepfakes που κυκλοφορούν στο διαδίκτυο, το 90% είναι μη συναινετικό πορνό, όπου πρωταγωνιστούν γυναίκες. Όσον αφορά στους «δημιουργούς», μπορούν να βρεθούν σε όλο τον κόσμο, συμπεριλαμβανομένων των ΗΠΑ, του Καναδά, της Ευρώπης και της Ινδίας.
Τα ανησυχητικά περιστατικά με τα deepfakes
Τον περασμένο Οκτώβριο, αναρτήθηκε μια σειρά από βίντεο σκληρού πορνογραφικού περιεχομένου μιας Βρετανίδας συγγραφέως. Εξυπακούεται ότι δεν πρωταγωνιστούσε η ίδια, αλλά μια σειρά από deepfakes. Εκείνο το βράδυ, την κατέκλυσαν οι φρικτοί εφιάλτες, στους οποίους έβλεπε σε διαρκή αναπαραγωγή των εαυτό της σε ερωτικές περιπτύξεις που ουδέποτε παρευρέθηκε. Πόσω μάλλον, σε ένα βίντεο που έκανε που βρίσκεται στο διαδίκτυο και ανά πάσα ώρα και στιγμή, μπορεί να το δει κάποιος δικός της άνθρωπος. Όποτε έφευγε από το σπίτι, ένιωθε ευάλωτη, πάθαινε κρίσεις πανικού ενώ έκανε τζόκινγκ, ενώ μέχρι και σήμερα, ο δράστης παραμένει ανεξιχνίαστος.
Αυτά τα βίντεο μπορεί να είναι ψεύτικα, αλλά ο συναισθηματικός τους αντίκτυπος είναι πραγματικός. Τα θύματα, εκτός από το σοκ που βιώνουν, αντιμετωπίζουν πολλά ερωτηματικά: Ποιος τα έφτιαξε; Πώς μπορούν να σταματήσουν; Άλλωστε, από τη στιγμή που κάτι είναι online, μπορεί να εμφανιστεί ξανά και ξανά ανά πάσα στιγμή. Σήμερα, οι deepfake «κοινότητες» ευδοκιμούν περισσότερο από ποτέ. Υπάρχουν πλέον αποκλειστικοί ιστότοποι και εύχρηστες εφαρμογές, που προσφέρουν εντελώς δωρεάν ή έναντι μικρού αντιτίμου τη δυνατότητα προσάρτησης ενός προσώπου σε ένα βίντεο της αρεσκείας μας.
«Αυτή η παραβίαση δεν πρέπει να πάψει», λέει η Gibi ASMR, YouTuber με 3,15 εκ. συνδρομητές, η οποία έχει πέσει θύμα της ίδιας τεχνολογίας. Όπως έχει δηλώσει, έχει σταματήσει να παρακολουθεί όλα τα deepfakes που βγαίνουν κατά καιρούς με το πρόσωπό της. Κατά τα λεγόμενά της, το πιο εξωφρενικό είναι το γεγονός ότι ορισμένοι «βγάζουν χρήματα από την πλαστογράφηση του προσώπου μου». Ακόμη, έχει δεχτεί κρούση από μια εταιρεία που προσφέρθηκε να αφαιρέσει τα deepfakes για 500£ ανά βίντεο. Η κερδοσκοπία στο μεγαλείο της, αγνοώντας πλήρως τις συνέπειες που επιφέρουν οι συγκεκριμένες κινήσεις στην ιστορία στην ψυχική κατάσταση του θύματος.
Deepfakes και Fake news
Στα μέσα Μαρτίου, καθώς διανύαμε την Τρίτη εβδομάδα της ρωσικής εισβολής στην Ουκρανία, ένα ασυνήθιστο βίντεο έκανε το γύρο του διαδικτύου. Μάλιστα, μεταδόθηκε και από το τηλεοπτικό κανάλι «Ukraine 24». Στο επίμαχο βίντεο απεικονίζεται ο Πρόεδρος της Ουκρανίας, Volodymyr Zelenskyy, ο οποίος καλεί τους πολίτες της χώρας να σταματήσουν να πολεμούν και να καταθέσουν τα όπλα τους. Εκτός αυτού, ισχυρίστηκε ότι είχε ήδη διαφύγει από το Κίεβο. Ωστόσο, αν ήταν κανείς λίγο παρατηρητικός, θα αντιλαμβανόταν σε κλάσματα δευτερολέπτου ότι το κεφάλι του κινούταν, αλλά το σώμα και τα χέρια του ήταν ακίνητα. Η εξήγηση είναι απλή και αναμενόμενη: Deepfake.
Το ευχάριστο της υπόθεσης είναι ότι η συντριπτική πλειοψηφία των ανθρώπων αντιμετώπισε το βίντεο αυτό ελαφρά την καρδία και δεν ακολούθησε θύελλα αντιδράσεων. Σε κάθε περίπτωση, όμως, τέτοιου είδους παραπλανητικά βίντεο μπορούν πολύ εύκολα να αποτελέσουν πηγή για τη δημιουργία και αναπαραγωγή Fake News. Ιδιαίτερα εν καιρώ πολέμου, η αναπαραγωγή ψευδούς υλικού, η παραπληροφόρηση και η διασπορά ψευδών ειδήσεων, είναι το τελευταίο πράγμα που χρειάζεται ο κόσμος. Είναι πραγματικά απορίας άξιο, πόσο χιουμοριστικό και αστείο μπορεί να θεωρηθεί ένα βίντεο κατά την άποψη των δημιουργών του, που αναφέρεται στον πόλεμο, στην παραδοχή της ήττας και στην κατάθεση των όπλων.
Δύο λόγια…
Προκειμένου να υπάρξει μια ισορροπία ανάμεσα στην ψυχαγωγία και την παραπλάνηση, χρειάζεται να οριστεί ένα νομικό πλαίσιο το οποίο να επιβάλλει ρητά τη χρήση των deepfakes αποκλειστικά και μόνο για ψυχαγωγικούς σκοπούς. Αν, όμως, διαπιστωθεί κατάχρηση αυτής της τεχνολογίας, προκειμένου να δημιουργηθεί υλικό για να βλάψει έναν ή περισσότερους ανθρώπους, τότε αυτό πρέπει να χαρακτηριστεί ως αδίκημα και να οριστεί αντίστοιχη ποινή.
Μέχρι τότε, τα χέρια μας είναι δεμένα καθώς οι δημιουργοί των deepfakes είναι ελεύθεροι να παίξουν με τις ψυχές μας.