Αργά το βράδυ, οι γονείς σου λαμβάνουν ένα φωνητικό μήνυμα από εσένα γεμάτο πανικό, που δηλώνει ότι έχεις πρόβλημα και χρειάζεσαι βοήθεια, ότι σου έκλεψαν το πορτοφόλι και ότι έχεις κολλήσει σε άγνωστο μέρος. Τα χρήματα πρέπει να μεταφερθούν αμέσως σε εσάς για να μπορέσετε να επιστρέψετε στο σπίτι.
Η φωνή στο γράμμα ακούγεται πολύ αληθινή και είναι αναμφισβήτητα η φωνή του παιδιού του, αλλά δεν είναι. Είναι ένας κλώνος φωνής AI που έχει γίνει στόχος μιας απάτης που είναι τόσο εξελιγμένη όσο και τρομακτικά αποτελεσματική.
Αυτός ο τύπος απάτης βασίζεται στη χρήση τεχνικών τεχνητής νοημοσύνης για τη δημιουργία φωνών που φαίνεται να ανήκουν σε μέλη της οικογένειας ή σε φίλους με τρόπο που μοιάζει πολύ με πραγματικές φωνές. Εάν δεν εντοπιστούν, αυτές οι ψεύτικες ψήφοι μπορεί να δημιουργήσουν σύγχυση και παραπληροφόρηση και μπορεί να οδηγήσουν σε σοβαρές συνέπειες. Ως εκ τούτου, η ανίχνευση της απάτης οικογενειακής ακουστικής κλωνοποίησης είναι απαραίτητη για τη διατήρηση της ακεραιότητας και της ασφάλειας. Επαληθεύω Αξιολόγηση της χρήσης τεχνολογίας αναπαραγωγής ήχου στη δημιουργία περιεχομένου μεγάλης κλίμακας.
Γρήγοροι σύνδεσμοι
Πώς λειτουργεί η απάτη κλωνοποίησης φωνής AI;
Οι τεχνολογίες κλωνοποίησης φωνής μπορούν να δημιουργήσουν απίστευτα ρεαλιστικά ψηφιακά αντίγραφα της φωνής ενός ατόμου. Αυτή η τεχνολογία, κοινώς αποκαλούμενη Deepfake ήχος, χρησιμοποιώντας εργαλεία κλωνοποίησης φωνής AI, όπως το ElevenLabs (δείτε παράδειγμα κλωνοποίησης φωνής AI παρακάτω). Σε συνδυασμό με τη γενετική τεχνητή νοημοσύνη και τη σύνθεση φωνής, η κλωνοποιημένη φωνή μπορεί να αναπαράγει συναισθήματα, αποχρώσεις, τονισμό και ακόμη και φόβο.
Για αναφορά, εδώ είναι πώς ακούγεται πραγματικά ο Christian Cowley, μιλώντας στο Really Helpful Podcast.
Για να δημιουργήσετε μια μεταγραφή AI, χρειάζεται μόνο ένα μικρό δείγμα ήχου — συχνά μόνο ένα λεπτό ή λιγότερο. Συχνά λαμβάνεται δείγμα ήχου από δημόσιες αναρτήσεις στα μέσα κοινωνικής δικτύωσης, καθιστώντας τους vlogger, τους δημιουργούς και τις διασημότητες ιδιαίτερα ευάλωτους, επειδή ο ήχος στις αναρτήσεις τους είναι υψηλής ποιότητας και άμεσα διαθέσιμος.
Μόλις ο απατεώνας κλωνοποιήσει το δείγμα φωνής, χρησιμοποιεί μετατροπή κειμένου σε ομιλία ή ακόμα και ομιλία σε ομιλία σε πραγματικό χρόνο για να δημιουργήσει ψεύτικες κλήσεις και φωνητικά μηνύματα.
Αφού αποκτήσει πρόσβαση στους λογαριασμούς των μέσων κοινωνικής δικτύωσης του θύματος και συλλέξει τα προσωπικά του στοιχεία, ο απατεώνας δημιουργεί ένα πιστευτό σενάριο. Θα μπορούσε να σχετίζεται με νοσηλεία, σύλληψη, ληστεία, απαγωγή ή οτιδήποτε προκαλεί φόβο και σύγχυση. Στη συνέχεια, η κλωνοποιημένη φωνή χρησιμοποιείται για να χειραγωγήσει το μέλος της οικογένειας ώστε να πιστέψει ότι κάποιος στην οικογένεια πάσχει από ένα σοβαρό πρόβλημα.
Ο ρεαλισμός της φωνής και των συναισθημάτων, σε συνδυασμό με το σοκ και τον επείγοντα χαρακτήρα του αιτήματος, μπορεί να υπερνικήσει τον σκεπτικισμό, οδηγώντας σε βιαστικές αποφάσεις για μεταφορά χρημάτων ή παροχή ευαίσθητων πληροφοριών.
Γιατί η απάτη κλωνοποίησης φωνής AI είναι τόσο αποτελεσματική;
Όπως οι περισσότερες απάτες που στοχεύουν την οικογένεια και τους φίλους, η κλωνοποίηση φωνής AI είναι αποτελεσματική επειδή εκμεταλλεύεται προσωπικές συνδέσεις. Ο πανικός της λήψης μιας κλήσης κινδύνου από ένα μέλος της οικογένειας μπορεί γρήγορα να θολώσει την κρίση, οδηγώντας σε βιαστικές αποφάσεις. Είναι η ίδια τακτική που χρησιμοποιείται στις απάτες ανταλλαγής, αλλά το αποτέλεσμα ενισχύεται όταν ακούτε τη φωνή κάποιου κοντινού σας προσώπου.
Τα μέλη της οικογένειας όσων έχουν μεγάλη παρουσία στα μέσα κοινωνικής δικτύωσης ή εκείνων που ταξιδεύουν διατρέχουν ιδιαίτερο κίνδυνο, επειδή οι καταστάσεις τους παρέχουν ένα εύλογο πλαίσιο για την κατασκευασμένη αφήγηση του απατεώνα. Ο απατεώνας συχνά συλλέγει και χρησιμοποιεί τα προσωπικά δεδομένα των στόχων του από τους δημόσιους λογαριασμούς του στα μέσα κοινωνικής δικτύωσης εκ των προτέρων, γεγονός που κάνει τις ιστορίες πιο πειστικές. Επαληθεύω Πώς να αντιμετωπίσετε την απειλή της εικονικής απαγωγής και να προστατευτείτε στο διαδίκτυο; Αναγνωρίστε τις απειλές.
Βασικά σημάδια απάτης κλωνοποίησης φωνής AI
Παρά την πολυπλοκότητά της, η κλωνοποίηση φωνής AI μπορεί να αποκαλυφθεί μέσω συγκεκριμένων προειδοποιητικών πινακίδων:
- Επείγον: Ο απατεώνας θα προσπαθήσει να σας πείσει ότι κάτι τρομερό θα συμβεί αν δεν ληφθούν άμεσα μέτρα.
- τα γεγονότα: Ο απατεώνας δεν γνωρίζει πάντα την πλήρη ιστορία πίσω από τη σχέση σας με τον στόχο, οπότε δώστε προσοχή στις ασυνέπειες.
- Ασυνήθιστα αιτήματα: Τα αιτήματα για μεταφορά χρημάτων σε τραπεζικούς λογαριασμούς στο εξωτερικό ή πληρωμή σε πορτοφόλι κρυπτονομισμάτων είναι συνήθεις μέθοδοι.
Αυτοί οι παράγοντες είναι δύσκολο να ληφθούν υπόψη όταν αντιμετωπίζετε ένα τρομερό σενάριο, αλλά μπορεί να σας εμποδίσουν να εξαπατηθείτε.
Τι να κάνετε εάν υποψιάζεστε μια απάτη κλωνοποίησης φωνής με AI
Εάν λάβετε κλήση ή φωνητικό μήνυμα από κάποιο αγαπημένο σας πρόσωπο που βρίσκεται σε στενοχώρια, μείνετε ήρεμοι. Ο απατεώνας θα προσπαθήσει να σας κάνει να πανικοβληθείτε και να γίνετε συναισθηματικοί, γιατί αυτό αυξάνει την πιθανότητα να εκτεθείτε στις μεθόδους του.
Εάν λάβετε ένα τηλεφώνημα
Εάν υποψιάζεστε, έστω και για ένα δευτερόλεπτο, ότι μια κλήση μπορεί να είναι απάτη κλωνοποίησης φωνής, κλείστε αμέσως το τηλέφωνο. Μην μοιράζεστε καμία πληροφορία και μην συναλλάσσεστε με απατεώνες. Αντίθετα, καλέστε τα αγαπημένα σας πρόσωπα σε έναν γνωστό αριθμό για να επιβεβαιώσετε την αυθεντικότητα της κλήσης κινδύνου.
Η πραγματοποίηση περαιτέρω συνομιλιών με τον απατεώνα μπορεί επίσης να διακινδυνεύσει την εγγραφή και την κλωνοποίηση της φωνής σας.
Εάν λάβετε φωνητικό μήνυμα
Εάν ο απατεώνας αφήσει φωνητικό μήνυμα, αποθηκεύστε αμέσως τον ήχο στο τηλέφωνο ή το φορητό υπολογιστή σας. Αυτό το δείγμα ήχου μπορεί να χρησιμοποιηθεί σε έναν ταξινομητή ομιλίας AI για να προσδιοριστεί εάν πρόκειται για ανθρώπινη φωνή. Οι ταξινομητές ομιλίας που λειτουργούν με τεχνητή νοημοσύνη λειτουργούν ακριβώς όπως το υλικό Ανίχνευση πληκτρολόγησης τεχνητής νοημοσύνης. Απλώς εισαγάγετε το αρχείο ήχου και ο ταξινομητής θα το επισημάνει ως δημιουργημένο από τον άνθρωπο ή τεχνητή νοημοσύνη.
Ένα εξαιρετικό εργαλείο για να κάνετε αυτόν τον έλεγχο είναι το ElevenLabs Speech Classifier. Το ElevenLabs εξουσιοδοτεί τις περισσότερες πλατφόρμες κλωνοποίησης φωνής με τεχνητή νοημοσύνη, επομένως είναι ένα ιδανικό εργαλείο για να προσδιορίσετε εάν μια φωνή έχει κλωνοποιηθεί. Δείτε πώς μπορείτε να το χρησιμοποιήσετε για να αναγνωρίσετε τον ήχο που αναπαράγεται με AI:
- Παω σε Ταξινομητής ομιλίας ElevenLabs.
- Ανεβάστε ένα δείγμα φωνητικού μηνύματος και κάντε κλικ στο "Εντοπισμός συνθετικής ομιλίας".
Στο παρακάτω παράδειγμα, ένα μήνυμα κινδύνου καταγράφηκε από κάποιον και μεταφορτώθηκε στο βιβλίο εργασίας. Μπορείτε να δείτε ότι έχει επισημανθεί ότι έχει 2% πιθανότητα να παραβιαστεί.
Στο παρακάτω παράδειγμα, το ίδιο μήνυμα κινδύνου δημιουργήθηκε χρησιμοποιώντας ένα εργαλείο κλωνοποίησης φωνής AI. Στο ανθρώπινο αυτί, οι ήχοι είναι δυσδιάκριτοι. Ωστόσο, το εργαλείο το αξιολόγησε ως με πιθανότητα 98% να δημιουργηθεί από AI.
Αν και δεν μπορείτε να βασιστείτε σε αυτό το βιβλίο εργασίας 100%, μπορεί να επιβεβαιώσει τις υποψίες σας σχετικά με τη χρήση κλωνοποιημένου ήχου. Θα πρέπει επίσης να καλέσετε το αγαπημένο σας πρόσωπο σε έναν γνωστό αριθμό για επιβεβαίωση. Επαληθεύω Είναι οι ανθρώπινες δυνατότητες ή η τεχνητή νοημοσύνη ανώτερες στον εντοπισμό βαθιάς ψεύτικης τεχνολογίας;.
Η πρόληψη είναι η καλύτερη άμυνα ενάντια στις απάτες κλωνοποίησης φωνής AI
Μερικές φορές, η καλύτερη άμυνα ενάντια στις απάτες υψηλής τεχνολογίας είναι οι λύσεις χαμηλής τεχνολογίας.
Δημιουργήστε έναν κωδικό πρόσβασης εκτός σύνδεσης που είναι γνωστός μόνο στα αγαπημένα σας πρόσωπα, την οικογένεια και τους φίλους σας. Εάν πραγματοποιείτε μια κλήση σε κρίσιμες καταστάσεις, η χρήση αυτού του κωδικού πρόσβασης μπορεί να είναι ένας σίγουρος τρόπος για να επιβεβαιώσετε την ταυτότητα του καλούντος.
Τέλος, η διατήρηση των προσωπικών σας πληροφοριών από τους ιστότοπους κοινωνικής δικτύωσης είναι ένα μεγάλο βήμα προς τη διασφάλιση ότι οι απατεώνες δεν μπορούν να συγκεντρώσουν αρκετές πληροφορίες για να δημιουργήσουν μια ιστορία. Να θυμάστε: Αν δεν θέλετε να το μάθουν όλοι, καλύτερα να μην το κοινοποιήσετε στα μέσα κοινωνικής δικτύωσης. Μπορείτε να δείτε τώρα Ποια είναι η αξία των δεδομένων του λογαριασμού σας στα μέσα κοινωνικής δικτύωσης στον σκοτεινό ιστό;
