Σε μια τεχνολογική εποχή στην οποία η δύναμη των υπολογιστών και των μοντέλων τεχνητής νοημοσύνης έχει αυξηθεί σημαντικά, η επικράτηση των deepfakes έχει αυξηθεί για να ενδιαφέρει όλους. Deepfaking σημαίνει δημιουργία οπτικού ή ακουστικού περιεχομένου που φαίνεται να έχει εγγραφεί από ανθρώπους σε υψηλή ανάλυση. Τα Deepfakes απειλούν κάθε πτυχή της κοινωνίας.
Η ικανότητά μας να εντοπίζουμε ψεύτικο περιεχόμενο είναι ζωτικής σημασίας για την εξουδετέρωση της παραπληροφόρησης, αλλά καθώς βελτιώνεται η τεχνολογία AI, ποιον μπορούμε να εμπιστευτούμε για να εντοπίσουμε τα deepfakes; Εδώ τίθεται το ερώτημα: Ποιος είναι καλύτερος στην ανίχνευση βαθιών πλαστών, οι άνθρωποι ή η τεχνητή νοημοσύνη;
Για χιλιάδες χρόνια, οι άνθρωποι ήταν επιτυχημένοι στη διάκριση ήχων, προσώπων και κατανόησης γλωσσών. Μπορούν όμως οι μηχανές που τροφοδοτούνται με AI να ξεπεράσουν αυτές τις δυνατότητες; Αυτό το άρθρο διερευνά τις προκλήσεις και τις εξελίξεις στην ανίχνευση deepfake και συγκρίνει τις δυνατότητες του ανθρώπου και της τεχνητής νοημοσύνης σε αυτό το πλαίσιο. Επαληθεύω Πώς καταλαβαίνετε εάν ένα βίντεο έχει τροποποιηθεί σε deepfake;
Γρήγοροι σύνδεσμοι
Οι κίνδυνοι των deepfakes
Καθώς η τεχνολογία AI προχωρά, οι κίνδυνοι των deepfakes αποτελούν αυξανόμενη απειλή για όλους μας. Ακολουθεί μια σύντομη περίληψη ορισμένων από τα πιο πιεστικά ζητήματα που τίθενται από τα deepfakes:
- Κακή πληροφορία: Τα ψεύτικα βίντεο και οι ηχογραφήσεις μπορούν να διαδώσουν παραπλανητικές πληροφορίες, όπως ψευδείς ειδήσεις.
- κλοπή ταυτότητας: Υποδυόμενοι άτομα, τα deepfakes μπορούν να βλάψουν τη φήμη των ανθρώπων ή να ξεγελάσουν οποιονδήποτε γνωρίζουν.
- Εθνική ασφάλεια: Ένα προφανές σενάριο ψεύτικο πολέμου είναι κατασκευασμένα πλάνα ή ηχογραφήσεις ενός παγκόσμιου ηγέτη που υποκινεί τη σύγκρουση.
- Εμφύλια αναταραχή: Τα μέρη μπορούν επίσης να χρησιμοποιήσουν παραπλανητικά πλάνα και ηχητικά κλιπ για να υποκινήσουν τον θυμό και την πολιτική αναταραχή μεταξύ συγκεκριμένων ομάδων.
- Κυβερνασφάλεια: Οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν ήδη εργαλεία κλωνοποίησης φωνής με τεχνητή νοημοσύνη για να στοχεύουν άτομα με πειστικά μηνύματα από άτομα που γνωρίζουν.
- Απόρρητο και συγκατάθεση: Η κακόβουλη χρήση των deepfakes έχει τη μορφή ατόμων χωρίς τη συγκατάθεσή τους.
- Η εμπιστοσύνη και η έλλειψή της: Εάν δεν μπορείτε να διακρίνετε την αλήθεια από την εξαπάτηση, οι ακριβείς πληροφορίες γίνονται εξίσου αναξιόπιστες.
Τα Deepfakes θα γίνουν πιο πειστικά, επομένως χρειαζόμαστε ισχυρά εργαλεία και μεθόδους για να τα εντοπίσουμε. Η τεχνητή νοημοσύνη παρέχει ένα τέτοιο εργαλείο με τη μορφή μοντέλων ανίχνευσης deepfake. Ωστόσο, όπως και οι αλγόριθμοι που έχουν σχεδιαστεί για να αναγνωρίζουν γραφή που δημιουργείται από AI, τα εργαλεία ανίχνευσης βαθιάς ψεύτικης γραφής δεν είναι τέλεια και δεν θα είναι ποτέ τέλεια ακριβή.
Αυτή τη στιγμή, η ανθρώπινη κρίση είναι το μόνο άλλο εργαλείο στο οποίο μπορούμε να βασιστούμε. Λοιπόν, είμαστε καλύτεροι από τους αλγόριθμους στον εντοπισμό των deepfakes;
Μπορούν οι αλγόριθμοι να ανιχνεύσουν τα deepfakes καλύτερα από τους ανθρώπους;
Τα Deepfakes αποτελούν μια τόσο σοβαρή απειλή που οι γιγάντιες εταιρείες τεχνολογίας και οι ερευνητικοί όμιλοι αφιερώνουν τεράστιους πόρους στην έρευνα και την ανάπτυξη. Το 2019, εταιρείες όπως η Meta, η Microsoft και η Amazon πρόσφεραν XNUMX εκατομμύριο δολάρια σε βραβεία κατά τη διάρκεια μιας πρόκλησης Πρόκληση ανίχνευσης Deepfake Για το πιο ακριβές μοντέλο ανίχνευσης.
Το μοντέλο με την καλύτερη απόδοση είχε ακρίβεια 82.56% σε σχέση με ένα σύνολο δεδομένων δημοσίως διαθέσιμων βίντεο. Ωστόσο, όταν τα ίδια μοντέλα δοκιμάστηκαν σε ένα «σύνολο δεδομένων μαύρου κουτιού» με 10000 αόρατα βίντεο, το μοντέλο με τις καλύτερες επιδόσεις ήταν μόνο 65.18% ακριβές.
Έχουμε επίσης πολλές μελέτες που αναλύουν την απόδοση των εργαλείων ανίχνευσης πλαστών τεχνητής νοημοσύνης σε ανθρώπους. Φυσικά, τα αποτελέσματα διαφέρουν από μελέτη σε μελέτη, αλλά γενικά, οι άνθρωποι είτε ισοδυναμούν είτε υπερβαίνουν το ποσοστό επιτυχίας των εργαλείων ανίχνευσης deepfake.
Μια μελέτη που δημοσιεύθηκε το 2021 βρήκε... PNAS Οι «κοινοί άνθρωποι παρατηρητές» πέτυχαν ελαφρώς υψηλότερο ποσοστό ακρίβειας από τα κορυφαία εργαλεία ανίχνευσης deepfake. Ωστόσο, η μελέτη διαπίστωσε επίσης ότι οι ανθρώπινοι συμμετέχοντες και τα μοντέλα τεχνητής νοημοσύνης ήταν ευαίσθητα σε διαφορετικούς τύπους σφαλμάτων.
Είναι ενδιαφέρον ότι η έρευνα που διεξήγαγε ο... Πανεπιστήμιο του Σίδνεϊ Ανακάλυψα ότι ο ανθρώπινος εγκέφαλος είναι υποσυνείδητα πιο αποτελεσματικός στην ανίχνευση ψεύτικα από ό,τι οι συνειδητές προσπάθειές μας. Επαληθεύω Οι κύριοι κίνδυνοι της τεχνολογίας deepfake και πώς να τους εντοπίσετε.
Ανακαλύψτε οπτικές ενδείξεις στην τεχνολογία deepfake
Η επιστήμη της ανίχνευσης deepfake είναι πολύπλοκη και η ανάλυση που απαιτείται ποικίλλει ανάλογα με τη φύση του πλάνα. Για παράδειγμα, ένα ψεύτικο βίντεο του ηγέτη της Βόρειας Κορέας Κιμ Γιονγκ Ουν από το 2020 είναι ουσιαστικά ένα βίντεο συζήτησης. Σε αυτή την περίπτωση, ο πιο αποτελεσματικός τρόπος για να ανιχνεύσετε τα βαθιά ψεύτικα μπορεί να είναι η ανάλυση φωνημάτων (κινήσεις στόματος) και φωνημάτων (φωνητικών ήχων) για ασυνέπειες.
Οι ειδικοί, οι απλοί θεατές και οι αλγόριθμοι μπορούν να εκτελέσουν αυτόν τον τύπο ανάλυσης, ακόμα κι αν τα αποτελέσματα ποικίλλουν. Διευκρινίζει Ινστιτούτο Τεχνολογίας της Μασαχουσέτης (MIT) Οκτώ ερωτήσεις που θα σας βοηθήσουν να εντοπίσετε τα ψεύτικα βίντεο:
- Δώστε προσοχή στο πρόσωπο. Οι εξελιγμένοι deepfake χειρισμοί συχνά περιλαμβάνουν μεταμορφώσεις προσώπου.
- Δώστε προσοχή στα μάγουλα και το μέτωπο. Το δέρμα φαίνεται πολύ λείο ή πολύ ζαρωμένο; Ταιριάζει η ηλικία του δέρματος με την ηλικία των μαλλιών και των ματιών; Μπορεί να μην ταιριάζουν σε ορισμένες διαστάσεις.
- Δώστε προσοχή στα μάτια και τα φρύδια. Εμφανίζονται σκιές στα μέρη που περιμένετε; Η τεχνολογία Deepfake ενδέχεται να αποτύχει να αναπαραστήσει πλήρως τη φυσική φυσική της σκηνής.
- Προσοχή στα γυαλιά. Υπάρχει κάποια λάμψη; Υπάρχει πολλή λάμψη; Αλλάζει η γωνία λάμψης όταν το άτομο κινείται; Για άλλη μια φορά, η τεχνολογία deepfake μπορεί να αποτύχει να αναπαραστήσει πλήρως τη φυσική φυσική του φωτισμού.
- Προσοχή στις τρίχες του προσώπου ή στην έλλειψή τους. Αυτές οι τρίχες προσώπου φαίνονται αληθινές; Η τεχνολογία Deepfake μπορεί να προσθέσει ή να αφαιρέσει μουστάκι, φαβορίτες ή γένια. Ωστόσο, η τεχνολογία deepfake μπορεί να αποτύχει να δημιουργήσει εντελώς φυσικούς μετασχηματισμούς των μαλλιών του προσώπου.
- Δώστε προσοχή στους σπίλους του προσώπου. Η κρεατοελιά φαίνεται αληθινή;
- Δώστε προσοχή στις βλεφαρίδες. Το άτομο αναβοσβήνει αρκετά ή πολύ;
- Δώστε προσοχή στις κινήσεις των χειλιών. Ορισμένα βαθιά ψεύτικα βασίζονται στον συγχρονισμό των χειλιών. Οι κινήσεις των χειλιών σας φαίνονται φυσιολογικές;
Τα πιο πρόσφατα εργαλεία ανίχνευσης ψεύτικης τεχνητής νοημοσύνης μπορούν να αναλύσουν τους ίδιους παράγοντες, ξανά, με διάφορους βαθμούς επιτυχίας. Οι επιστήμονες δεδομένων αναπτύσσουν συνεχώς νέες μεθόδους επίσης, όπως η ανίχνευση της κανονικής ροής αίματος στα πρόσωπα των ηχείων στην οθόνη. Νέες μέθοδοι και βελτιώσεις σε υπάρχουσες μεθόδους θα μπορούσαν να έχουν ως αποτέλεσμα τα εργαλεία ανίχνευσης πλαστών τεχνητής νοημοσύνης να ξεπερνούν σταθερά τους ανθρώπους στο μέλλον.
Ανίχνευση ηχητικών ενδείξεων σε deepfakes
Η ανίχνευση ψεύτικου ήχου είναι μια εντελώς διαφορετική πρόκληση. Χωρίς τις οπτικές ενδείξεις του βίντεο και την ευκαιρία εντοπισμού οπτικοακουστικών ασυνεπειών, η ανίχνευση του deepfake βασίζεται σε μεγάλο βαθμό στην ανάλυση ήχου (άλλες μέθοδοι όπως η επαλήθευση μεταδεδομένων μπορούν επίσης να βοηθήσουν σε ορισμένες περιπτώσεις).
Βρήκα μια μελέτη που δημοσιεύσατε University College του Λονδίνου Το 2023, οι άνθρωποι μπορούν να ανιχνεύσουν ψεύτικο ήχο κατά 73% (στα Αγγλικά και τα Μανδαρινικά). Όπως και με τα ψεύτικα βίντεο, οι άνθρωποι ακροατές συχνά εντοπίζουν διαισθητικά αφύσικα μοτίβα ομιλίας στην ομιλία που δημιουργείται από AI, ακόμα κι αν δεν μπορούν να αναγνωρίσουν τι ακούγεται αφύσικο.
Τα κοινά σημάδια περιλαμβάνουν:
- Οι συλλαβές.
- Έλλειψη έκφρασης.
- Θόρυβος φόντου ή παρεμβολές.
- – Ασυνέπεια στη φωνή ή στην ομιλία.
- Έλλειψη «πληρότητας» στους ήχους.
- Υπερβολικά γραπτή παράδοση.
- Χωρίς ελαττώματα (λανθασμένες εκκινήσεις, διορθώσεις, καθαρισμός λαιμού κ.λπ.).
Και πάλι, οι αλγόριθμοι μπορούν επίσης να αναλύσουν την ομιλία για τα ίδια βαθιά ψεύτικα σήματα, αλλά οι νέες μέθοδοι κάνουν τα εργαλεία ακόμη πιο αποτελεσματικά. Περιέγραψε την έρευνα που έκανε USENIX Μοτίβα στην ανακατασκευή φωνητικών οδών με χρήση τεχνητής νοημοσύνης που αποτυγχάνουν να μιμηθούν τη φυσική ομιλία. Αυτό που συνοψίζεται είναι ότι οι γεννήτριες ήχου τεχνητής νοημοσύνης παράγουν πανομοιότυπο ήχο σε στενές φωνητικές οδούς (περίπου στο μέγεθος ενός καλαμιού) χωρίς τις φυσικές κινήσεις της ανθρώπινης ομιλίας.
Προηγούμενη έρευνα που διεξήχθη από Ινστιτούτο Horst Goertz Ανέλυσε πραγματικό και ψεύτικο ήχο στα Αγγλικά και τα Ιαπωνικά, αποκαλύπτοντας ανεπαίσθητες διαφορές στις υψηλές συχνότητες πραγματικής και ψεύτικης ομιλίας.
Τόσο οι αντιθέσεις των φωνητικών οδών όσο και οι υψηλές συχνότητες μπορούν να γίνουν αντιληπτές από ανθρώπους ακροατές και μοντέλα ανίχνευσης AI. Στην περίπτωση των παραλλαγών υψηλής συχνότητας, τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν, θεωρητικά, να γίνουν όλο και πιο ακριβή — αν και το ίδιο θα μπορούσε να ειπωθεί και για τα βαθιά ψεύτικα τεχνητή νοημοσύνη.
Οι άνθρωποι και οι αλγόριθμοι ξεγελιούνται από deepfakes, αλλά με διαφορετικούς τρόπους
Μελέτες υποδεικνύουν ότι οι άνθρωποι και τα πιο πρόσφατα εργαλεία ανίχνευσης τεχνητής νοημοσύνης μπορούν με παρόμοιο τρόπο να εντοπίσουν τα deepfakes. Τα ποσοστά επιτυχίας μπορεί να κυμαίνονται από 50% έως 90+%, ανάλογα με τα κριτήρια δοκιμής.
Έτσι, άνθρωποι και μηχανές εξαπατούνται επίσης από deepfakes σε παρόμοιο βαθμό. Ωστόσο, είναι σημαντικό να είμαστε ευάλωτοι με διαφορετικούς τρόπους και αυτό μπορεί να είναι το μεγαλύτερο πλεονέκτημά μας για την αντιμετώπιση των κινδύνων της τεχνολογίας deepfake. Ο συνδυασμός των δυνατών σημείων των ανθρώπων και των εργαλείων ανίχνευσης ψεύτικα θα μετριάσει τις αντίστοιχες αδυναμίες τους και θα βελτιώσει τα ποσοστά επιτυχίας.
Για παράδειγμα, βρήκα Έρευνα του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης Οι άνθρωποι ήταν καλύτεροι στο να αναγνωρίζουν ψεύτικες εικόνες παγκόσμιων ηγετών και διασημοτήτων από τα μοντέλα τεχνητής νοημοσύνης. Αποκάλυψε επίσης ότι τα μοντέλα τεχνητής νοημοσύνης είχαν δυσκολία να πάρουν ήχο από πολλά άτομα, αν και υποδηλώνει ότι αυτό μπορεί να είναι αποτέλεσμα της εκπαίδευσης των αλγορίθμων σε πλάνα που περιέχει μεμονωμένες φωνές.
Αντίθετα, η ίδια μελέτη διαπίστωσε ότι τα μοντέλα τεχνητής νοημοσύνης ξεπερνούν τους ανθρώπους με βίντεο χαμηλής ποιότητας (θολά, κοκκώδη, σκούρα κ.λπ.) τα οποία μπορούν να χρησιμοποιηθούν σκόπιμα για να εξαπατήσουν τους θεατές. Ομοίως, οι σύγχρονες μέθοδοι ανίχνευσης τεχνητής νοημοσύνης, όπως η παρακολούθηση της ροής του αίματος σε συγκεκριμένες περιοχές του προσώπου, περιλαμβάνουν αναλύσεις που οι άνθρωποι δεν μπορούν να κάνουν.
Καθώς αναπτύσσονται περισσότερες μέθοδοι, όχι μόνο θα βελτιώνεται η ικανότητα του AI να ανιχνεύει σημάδια που δεν μπορούμε να ανιχνεύσουμε, αλλά και η ικανότητά του να εξαπατά. Το μεγάλο ερώτημα είναι αν η τεχνολογία ανίχνευσης deepfake μπορεί να ξεπεράσει τα ίδια τα deepfake. Επαληθεύω Πώς να αντιμετωπίσετε την απειλή της εικονικής απαγωγής και να προστατευτείτε στο διαδίκτυο; Αναγνωρίστε τις απειλές.
κοινές ερωτήσεις
Q1. Τι είναι η τεχνολογία deepfake;
Τα Deepfakes είναι μια τεχνολογία που χρησιμοποιεί τεχνητή νοημοσύνη για τη δημιουργία οπτικού ή ακουστικού περιεχομένου που φαίνεται να παράγεται από ανθρώπινα θέματα με υψηλή ακρίβεια.
Ε2. Ποιες είναι οι χρήσεις των deepfakes;
Η τεχνολογία Deepfake χρησιμοποιείται σε ένα ευρύ φάσμα εφαρμογών, συμπεριλαμβανομένων των ταινιών, της βιομηχανίας τυχερών παιχνιδιών, της ασφάλειας, της απάτης και άλλων.
Ε3. Πώς μπορούν να εντοπιστούν τα βαθιά ψεύτικα;
Υπάρχει συνεχής πρόοδος στις τεχνικές ανίχνευσης deepfake με συνεισφορές από την τεχνητή νοημοσύνη, αλλά τα ανθρώπινα εργαλεία και μέθοδοι εξακολουθούν να είναι απαραίτητα.
Q4. Ποιες είναι οι προκλήσεις που αντιμετωπίζει ο εντοπισμός του deepfake;
Μεταξύ των προκλήσεων είναι η συνεχής ανάπτυξη των τεχνολογιών παραποίησης/απομίμησης και η δυσκολία διάκρισης μεταξύ πραγματικού περιεχομένου και ψεύτικα.
Q5. Μπορεί η τεχνητή νοημοσύνη να ξεπεράσει τους ανθρώπους στην ανίχνευση βαθιών πλαστών;
Η τεχνητή νοημοσύνη σημειώνει σημαντική πρόοδο, αλλά οι ανθρώπινες ικανότητες εξακολουθούν να είναι σημαντικές σε αυτό το πλαίσιο.
Βλέποντας τα πράγματα διαφορετικά στην εποχή των deepfakes
Τα εργαλεία ανίχνευσης deepfake που βασίζονται σε τεχνητή νοημοσύνη θα συνεχίσουν να βελτιώνονται, όπως και η ίδια η ποιότητα του περιεχομένου deepfake. Εάν η ικανότητα της τεχνητής νοημοσύνης να εξαπατά υπερβαίνει την ικανότητά της να ανιχνεύει (όπως συμβαίνει με τα κείμενα που δημιουργούνται από την τεχνητή νοημοσύνη), η ανθρώπινη κρίση μπορεί να είναι το μόνο εργαλείο που μας έχει απομείνει για την καταπολέμηση των deepfakes.
Είναι ευθύνη του καθενός να αναγνωρίσει τα σημάδια των deepfakes και πώς να τα εντοπίσει. Εκτός από την προστασία μας από απάτες και απειλές για την ασφάλεια, όλα όσα συζητάμε και μοιραζόμαστε στο διαδίκτυο είναι ευάλωτα σε παραπληροφόρηση εάν χάσουμε την αντίληψή μας για την πραγματικότητα. Τώρα μπορείτε να δείτε Κίνδυνοι από τη σύνταξη περιεχομένου AI και πώς να ανιχνεύσετε κείμενο που δημιουργείται από AI.
