Σε έναν κόσμο όπου η διαδικτυακή σας ταυτότητα είναι άμεσα συνδεδεμένη, η προοπτική μιας τέλειας επανάληψης της εμφάνισής σας είναι ανησυχητική. Αλλά αυτό ακριβώς αντιμετωπίζουμε με την έλευση της τεχνολογίας deepfake.
Καθώς η τεχνολογία γίνεται φθηνότερη και πιο εύκολη στη χρήση, ποιοι είναι οι κίνδυνοι των deepfakes; Επιπλέον, πώς εντοπίζετε ένα deepfake σε σύγκριση με το πραγματικό deal;
Γρήγοροι σύνδεσμοι
Τι είναι το deepfake;
Deepfakes είναι ο όρος για τα μέσα όπου ένα άτομο σε ένα βίντεο ή μια φωτογραφία αντικαθίσταται από την εμφάνιση κάποιου άλλου. Ο όρος είναι συνδυασμός τουβαθιά μάθηση" Και το "το ψεύτικοΧρησιμοποιεί αλγόριθμους μηχανικής μάθησης και τεχνητής νοημοσύνης για να δημιουργήσει μέσα που φαίνονται απόλυτα ρεαλιστικά αλλά είναι τεχνητά.
Στην απλούστερη μορφή του, μπορεί να βρείτε ένα πρόσωπο πάνω σε άλλο μοντέλο. Στα χειρότερα εξελισσόμενα ταχέως, η τεχνολογία deepfake ενσωματώνει ανυποψίαστα θύματα σε ψεύτικα πορνό βίντεο, ψεύτικες ειδήσεις, φάρσες και πολλά άλλα.
Ποιοι είναι οι κίνδυνοι των deepfakes;
ψεύτικες φωτογραφίες πάντα παρών. Ο εντοπισμός του τι είναι ψεύτικο και τι όχι είναι ένα κοινό μέρος της ζωής, ειδικά μετά την άνοδο των ψηφιακών μέσων. Όμως τα προβλήματα που δημιουργεί η τεχνολογία deepfake είναι διαφορετικά, παρέχοντας απαράμιλλη ακρίβεια για ψεύτικες φωτογραφίες και βίντεο που αναπαράγονται.
Ένα από τα πρώτα deepfakes που προσέγγισε ένα ευρύτερο κοινό ήταν ο Τζόρνταν Πιλ, ο οποίος υποδύθηκε τον Μπαράκ Ομπάμα σε ένα βίντεο που συζητούσε το υπό εξέταση θέμα:
Το βίντεο φαίνεται ακατέργαστο, με έναν περίεργο ήχο και μερικά χτυπήματα στο πρόσωπο του κλώνου. Ωστόσο, δείχνει την τεχνική του deep fake.
Ή έχετε αναρωτηθεί ποτέ πώς θα ήταν αν ο Will Smith έπαιζε τον Neo στο The Matrix αντί του Keanu Reeves (δηλαδή, ποιος δεν το έκανε;!); Δεν αναρωτιέμαι άλλο:
Αυτά τα βίντεο δεν είναι κακόβουλα, καθώς χρειάζονται εκατοντάδες ώρες μηχανικής εκμάθησης για τη μεταγλώττιση τους. Αλλά η ίδια η τεχνολογία είναι διαθέσιμη σε όποιον έχει αρκετό χρόνο για να μάθει και την υπολογιστική ισχύ που την συνοδεύει. Το εμπόδιο στη χρήση της τεχνικής της βαθιάς πλαστογραφίας ήταν πολύ υψηλό στην αρχή. Αλλά καθώς η τεχνολογία βελτιώνεται και τα εμπόδια εισόδου μειώνονται δραματικά, όλο και περισσότεροι άνθρωποι αρχίζουν να χρησιμοποιούν deepfakes για πολλά αρνητικά και επιβλαβή πράγματα.
Πριν εμβαθύνουμε στη σκοτεινή πλευρά της τεχνολογίας deepfake, εδώ είναι ο Jim Carrey που αντικατέστησε τον Jack Nicholson στο The Shining:
1. Ψεύτικη πορνογραφία πολλών διασημοτήτων
Μία από τις κύριες απειλές από την τεχνολογία deepfake είναι η πορνογραφία ή η ψεύτικη πορνογραφία όπως είναι γνωστή. Υπάρχουν δεκάδες χιλιάδες ψεύτικα βίντεο με πρόσωπα διάσημων γυναικών όπως η Emma Watson, η Natalie Portman και η Taylor Swift.
Όλοι χρησιμοποιούν ψεύτικους αλγόριθμους μηχανικής μάθησης για να κόψουν το πρόσωπο μιας διασημότητας στο σώμα μιας ηθοποιού και όλες προσελκύουν δεκάδες εκατομμύρια προβολές σε πολλούς ιστότοπους περιεχομένου για ενήλικες.
Ωστόσο, κανένας από αυτούς τους ιστότοπους δεν κάνει τίποτα για τα βαθιά ψεύτικα διασημοτήτων.
Ο/Η Giorgio Patrini λέει: «Μέχρι να υπάρξει ένας ισχυρός λόγος να προσπαθήσουμε να τα φιλτράρουμε, τίποτα δεν θα συμβεί». «Οι άνθρωποι θα εξακολουθούν να είναι ελεύθεροι να ανεβάζουν αυτό το είδος υλικού χωρίς καμία συνέπεια σε αυτούς τους ιστότοπους που προβάλλονται από εκατοντάδες εκατομμύρια ανθρώπους».
Τα βίντεο είναι εκμεταλλευτικά και κάθε άλλο παρά χωρίς θύματα, καθώς ορισμένοι δημιουργοί ισχυρίζονται ότι είναι deepfakes.
2. Ψεύτικη πορνογραφία που επηρεάζει απλούς ανθρώπους
Τι χειρότερο από ψεύτικο πορνό με διασημότητες; Αυτό είναι σωστό: Ψεύτικη πορνογραφία που δείχνει γυναίκες που είναι λιγότερο διάσημες ή απρόβλεπτες για ό,τι συμβαίνει γύρω τους και των οποίων οι ζωές μπορεί να καταστραφούν εάν παραποιηθούν σε πορνό βίντεο ή κάτι τέτοιο. Μια μελέτη του Cinecity αποκάλυψε ένα deepfake bot στην εφαρμογή κοινωνικών μηνυμάτων Telegram, το οποίο έχει δημιουργήσει περισσότερες από 100.000 ψεύτικες γυμνές φωτογραφίες. Πολλές φωτογραφίες κλάπηκαν από λογαριασμούς κοινωνικής δικτύωσης, στους οποίους περιλαμβάνονται φίλοι, φίλες, συζύγοι, μητέρες κ.λπ.
Το bot είναι μια σημαντική πρόοδος στην τεχνολογία deepfake, καθώς το bot μεταφόρτωσης εικόνων δεν χρειάζεται τρέχουσες γνώσεις για deepfakes, μηχανική μάθηση ή τεχνητή νοημοσύνη. Είναι μια αυτοματοποιημένη διαδικασία που απαιτεί μια ενιαία εικόνα. Επιπλέον, το bot του Telegram φαίνεται να λειτουργεί μόνο με γυναικείες φωτογραφίες και οι συνδρομές premium (περισσότερες φωτογραφίες, αφαιρέθηκε το υδατογράφημα) είναι εξαιρετικά φθηνές.
Ας είμαστε αληθινοί: Οι οδηγοί αυτού του είδους της έρευνας για την τεχνητή νοημοσύνη είναι σχεδόν όλοι άνδρες. Τα θύματά του είναι σχεδόν όλες γυναίκες. Θα ήταν «τόσο καβαλάρηδες αν τους συνέβαινε αυτό το κακό, σε αντίθεση με κάποια γυναίκα στον δρόμο;» https://t.co/d3rbIb9g5F
— Ντρου Χάργουελ (@drewharwell) Οκτώβριος 20, 2020
Όπως οι βαθιά ψεύτικες εικόνες διασημοτήτων, έτσι και οι βαθιά ψεύτικες εικόνες bot του Telegram είναι εκμεταλλευτικές, καταχρηστικές και ανήθικες. Μπορεί εύκολα να έχει πρόσβαση στα εισερχόμενα ενός συζύγου, συντρόφου, μέλους της οικογένειας, συναδέλφου ή ιδιοκτήτη επιχείρησης, καταστρέφοντας πιθανώς ζωές στη διαδικασία. Η πιθανότητα εκβιασμού και άλλων μορφών εκβιασμού είναι πολύ υψηλή και αυξάνει την απειλή από υπάρχοντα ζητήματα, όπως το πορνό εκδίκησης.
Η διάδοση deepfakes στο Telegram οδηγεί και σε άλλο πρόβλημα. Το Telegram είναι μια υπηρεσία ανταλλαγής μηνυμάτων που εστιάζει στο απόρρητο και δεν παρεμβαίνει ιδιαίτερα στους χρήστες του. Έχει μια πολιτική για την αφαίρεση πορνογραφικών ρομπότ και άλλων ρομπότ που σχετίζονται με υλικό για ενηλίκους, αλλά δεν έχει κάνει τίποτα σε αυτήν την περίπτωση.
3. Παραπλανητικό υλικό
Έχετε δει τον Τζόρνταν Πιλ να παίζει τον Ομπάμα. Σε αυτό το βίντεο, προειδοποιεί για τους κινδύνους των deepfakes. Μία από τις κύριες ανησυχίες σχετικά με την τεχνολογία deepfake είναι ότι κάποιος θα δημιουργήσει και θα δημοσιεύσει ένα βίντεο που είναι τόσο ρεαλιστικό που με κάποιο τρόπο οδηγεί σε τραγωδία.
Στα άκρα της κλίμακας, μερικοί άνθρωποι λένε ότι το deepfake περιεχόμενο βίντεο θα μπορούσε να προκαλέσει πόλεμο. Υπάρχουν όμως και άλλες μεγάλες συνέπειες. Για παράδειγμα, ένα ψεύτικο βίντεο που δείχνει μια μεγάλη εταιρεία ή έναν διευθύνοντα σύμβουλο τράπεζας να κάνει μια κακόβουλη δήλωση θα μπορούσε να οδηγήσει σε κραχ του χρηματιστηρίου. Και πάλι, είναι εξτρεμιστής. Αλλά οι πραγματικοί άνθρωποι μπορούν να ελέγξουν το βίντεο και να βεβαιωθούν ότι είναι αξιόπιστο, ενώ οι παγκόσμιες αγορές αντιδρούν άμεσα στις ειδήσεις και πραγματοποιούνται αυτοματοποιημένες πωλήσεις.
Το άλλο πράγμα που πρέπει να λάβετε υπόψη είναι το μέγεθος. Καθώς αυξάνεται το κόστος δημιουργίας deepfake περιεχομένου, αυξάνει την πιθανότητα ύπαρξης τεράστιων ποσοτήτων deepfake περιεχομένου για το ίδιο άτομο, εστιάζοντας στην αποστολή του ίδιου πλαστού μηνύματος σε διαφορετικά χρώματα, μέρη, μοτίβα και πολλά άλλα.
4. Άρνηση πραγματικού υλικού
Ως επέκταση του παραπλανητικού και ψεύτικο υλικό, πρέπει να θεωρήσετε ότι τα deepfakes θα γίνουν απίστευτα ρεαλιστικά. Τόσο πολύ που οι άνθρωποι θα αρχίσουν να αναρωτιούνται εάν το βίντεο είναι πραγματικό ή όχι, ανεξάρτητα από το περιεχόμενο.
Εάν κάποιος έχει διαπράξει ένα έγκλημα και το μόνο αποδεικτικό στοιχείο είναι το βίντεο, τι τον εμποδίζει να πει, "είναι ψεύτικο, είναι ψεύτικο στοιχείο"; Αντίθετα, τι θα λέγατε να φυτέψετε ψεύτικα τεκμήρια βίντεο για να τα βρει κάποιος;
5. Καθοδηγείται από ψεύτικη σκέψη και κοινωνικές επαφές
Στην πραγματικότητα, υπήρξαν πολλές περιπτώσεις που αφορούσαν deepfake περιεχόμενο που προσποιείται ότι οδηγείται από σκέψεις. Τα προφίλ του LinkedIn και του Twitter περιγράφουν λεπτομερώς τους ρόλους υψηλού επιπέδου σε στρατηγικούς οργανισμούς, ωστόσο αυτές οι προσωπικότητες δεν υπάρχουν και είναι πιθανό να δημιουργηθούν χρησιμοποιώντας τεχνολογία deepfake.
Ωστόσο, αυτό δεν είναι ένα πρόβλημα που αφορά ειδικά τα deepfakes. Από την αυγή της ιστορίας, οι κυβερνήσεις, τα δίκτυα κατασκόπων και οι εταιρείες έχουν χρησιμοποιήσει πλαστά προφίλ και προσωπικότητες για τη συλλογή πληροφοριών, την προώθηση ατζέντηδων και τη χειραγώγηση.
6. Απάτες phishing, κοινωνική μηχανική και άλλες απάτες
Η κοινωνική μηχανική είναι ήδη ένα ζήτημα όσον αφορά την ασφάλεια. Οι άνθρωποι θέλουν να εμπιστεύονται τους άλλους. Αυτό είναι στη φύση μας. Αλλά αυτή η εμπιστοσύνη μπορεί να οδηγήσει σε παραβιάσεις ασφάλειας, κλοπή δεδομένων και πολλά άλλα. Η κοινωνική μηχανική απαιτεί συχνά μια προσωπική σύνδεση, είτε μέσω τηλεφώνου, είτε μέσω βιντεοκλήσης κ.λπ.
Ας υποθέσουμε ότι κάποιος μπορεί να χρησιμοποιήσει το deep fake για να μιμηθεί έναν διευθυντή επιχείρησης για να αποκτήσει πρόσβαση σε κωδικούς ασφαλείας ή άλλες ευαίσθητες πληροφορίες. Σε αυτήν την περίπτωση, θα μπορούσε να οδηγήσει σε μια πλημμύρα από deepfake απάτες.
Πώς να αναγνωρίσετε και να εντοπίσετε τα deepfakes
Καθώς η ποιότητα των deepfakes αυξάνεται, είναι σημαντικό να ανακαλύψετε μεθόδους deepfakes. Τις πρώτες μέρες, υπήρχαν μερικά δευτερεύοντα ανέκδοτα: θολές εικόνες, καταστροφή βίντεο και προσκρούσεις και άλλα ελαττώματα. Ωστόσο, αυτά τα ενδεικτικά προβλήματα μειώνονται ενώ το κόστος χρήσης της τεχνολογίας μειώνεται ραγδαία.
Δεν υπάρχει τέλειος τρόπος για να εντοπίσετε περιεχόμενο deepfake, αλλά ακολουθούν τέσσερις χρήσιμες συμβουλές:
- Οι λεπτομέριες. Όσο καλή και αν έχει γίνει η τεχνολογία deepfake, υπάρχουν ακόμα μικρά κομμάτια που πρέπει να αντιμετωπίσετε. Ειδικότερα, μικρές λεπτομέρειες στα βίντεο, όπως κίνηση μαλλιών, κίνηση των ματιών, δομές στα μάγουλα, κίνηση κατά την ομιλία και μη φυσιολογικές εκφράσεις του προσώπου. Μεγάλη κίνηση των ματιών. Αν και τα deepfakes μπορούν πλέον να αναβοσβήσουν αποτελεσματικά (τις πρώτες μέρες, αυτό ήταν ένα σημαντικό σημάδι), η κίνηση των ματιών εξακολουθούσε να αποτελεί πρόβλημα.
- συναισθήματα. Το να κολλάς στη λεπτομέρεια είναι πάθος. Εάν κάποιος κάνει μια ισχυρή δήλωση, το πρόσωπό του θα εμφανίσει μια σειρά συναισθημάτων ενώ παρέχει λεπτομέρειες. Μια βαθιά ψεύτικη τεχνική δεν μπορεί να προσφέρει το ίδιο βάθος συναισθήματος με ένα πραγματικό άτομο.
- ασυνέπεια. Η ποιότητα του βίντεο είναι στο υψηλό όλων των εποχών. Το smartphone στην τσέπη σας μπορεί να καταγράφει και να εκπέμπει σε 4K. Εάν ένας πολιτικός αρχηγός κάνει μια δήλωση, βρίσκεται μπροστά σε μια αίθουσα γεμάτη με πρώτης τάξεως εξοπλισμό ηχογράφησης. Επομένως, η κακή ποιότητα εγγραφής, τόσο οπτική όσο και ακουστική, είναι μια αισθητή αντίφαση.
- Πηγή. Εμφανίζεται το βίντεο σε επαληθευμένη πλατφόρμα; Οι πλατφόρμες κοινωνικής δικτύωσης χρησιμοποιούν επαλήθευση για να διασφαλίσουν ότι δεν μιμούνται άτομα παγκοσμίως γνωστά. Σίγουρα, υπάρχουν προβλήματα με τις πλατφόρμες. Αλλά ελέγχοντας πού μεταδίδεται ή φιλοξενείται ένα ιδιαίτερα ρητό βίντεο θα σας βοηθήσει να καταλάβετε αν είναι αληθινό. Μπορείτε επίσης να δοκιμάσετε Εκτελέστε μια αντίστροφη αναζήτηση εικόνων Για να εντοπίσετε άλλα μέρη, η εικόνα βρίσκεται στο Διαδίκτυο.
Βαθιά εργαλεία ανίχνευσης και πρόληψης πλαστών
Δεν είστε μόνοι στον αγώνα ενάντια στον εντοπισμό του deepfake. Αρκετές μεγάλες εταιρείες τεχνολογίας αναπτύσσουν εργαλεία για τον εντοπισμό των deepfakes, ενώ άλλες πλατφόρμες λαμβάνουν μέτρα για την μόνιμη πρόληψη των deepfakes.
Για παράδειγμα, το εργαλείο ανίχνευσης deepfake της Microsoft, το Microsoft Video Authenticator, θα αναλύσει μέσα σε δευτερόλεπτα, ενημερώνοντας τον χρήστη για την αυθεντικότητά του (δείτε το αρχείο GIF παρακάτω για παράδειγμα). Ταυτόχρονα, η Adobe σάς δίνει τη δυνατότητα να υπογράφετε ψηφιακά περιεχόμενο για να το προστατεύετε από παραβιάσεις.
Η εφαρμογή Video Authenticator της Microsoft θα εντοπίζει τα deepfakes, αναλύοντας γρήγορα τις λειτουργίεςhttps://t.co/dFQBclXJgL
— Gavin Phillips (@GavinSpavin) Οκτώβριος 26, 2020
Πλατφόρμες όπως το Facebook και το Twitter έχουν ήδη απαγορεύσει κακόβουλο περιεχόμενο βαθιάς ψευδούς (deepfake περιεχόμενο όπως ο Will Smith στο The Matrix είναι ακόμα δίκαιο παιχνίδι), ενώ η Google εργάζεται σε ένα εργαλείο ανάλυσης κειμένου σε ομιλία για την αντιμετώπιση πλαστών αποσπασμάτων ήχου.
Έρχονται τα Deepfakes — και γίνονται καλύτερα
Το γεγονός είναι ότι από τότε που η τεχνολογία deepfake μπήκε στην επικρατούσα τάση το 2018, η κύρια χρήση της είναι η κακοποίηση γυναικών. Είτε δημιουργεί ψεύτικο πορνό χρησιμοποιώντας το πρόσωπο μιας διασημότητας είτε απογυμνώνει κάποιον στα κοινωνικά δίκτυα, όλα επικεντρώνονται στην εκμετάλλευση, τη χειραγώγηση και τον εξευτελισμό γυναικών σε όλο τον κόσμο.
Δεν υπάρχει αμφιβολία ότι μια βαθιά ψεύτικη εξέγερση διαφαίνεται. Η άνοδος μιας τέτοιας τεχνολογίας αποτελεί κίνδυνο για το κοινό, ωστόσο υπάρχει μικρή δυνατότητα να σταματήσει την πορεία του προς τα εμπρός.
