Είτε μας αρέσει είτε όχι, η τεχνητή νοημοσύνη (AI) θα μεταμορφώσει τον τρόπο με τον οποίο σκέφτονται και αλληλεπιδρούν ολόκληρα τμήματα της κοινωνίας μας, συμπεριλαμβανομένου του World Wide Web.
Με μοντέλα όπως το ChatGPT διαθέσιμα σε οποιονδήποτε έχει σύνδεση στο διαδίκτυο, γίνεται όλο και πιο δύσκολος ο διαχωρισμός του περιεχομένου που δημιουργείται από AI από το πρωτότυπο, μοναδικό περιεχόμενο που δημιουργείται από τον άνθρωπο. Είναι καλό που έχουμε ανιχνευτές περιεχομένου AI, σωστά; Επαληθεύω Κίνδυνοι από τη σύνταξη περιεχομένου AI και πώς να ανιχνεύσετε κείμενο που δημιουργείται από AI.
Γρήγοροι σύνδεσμοι
Οι ανιχνευτές περιεχομένου ενεργοποιούν την αναγνώριση κειμένου AI;
Οι ανιχνευτές περιεχομένου AI είναι εξειδικευμένα εργαλεία που καθορίζουν εάν ένα κείμενο γράφτηκε από υπολογιστή ή από άνθρωπο. Αν απλώς αναζητήσετε στο Google τη φράση "Αναιχνευτής περιεχομένου AI", θα δείτε ότι υπάρχουν δεκάδες διαθέσιμοι ανιχνευτές, όλοι εκ των οποίων ισχυρίζονται ότι μπορούν να διακρίνουν αξιόπιστα μεταξύ ανθρώπινου και μη ανθρώπινου κειμένου.
Ο τρόπος που λειτουργεί είναι αρκετά απλός: Επικολλάτε ένα απόσπασμα του γραπτού σας και το εργαλείο σας λέει αν δημιουργήθηκε ή όχι από AI. Με πιο τεχνικούς όρους, χρησιμοποιώντας έναν συνδυασμό τεχνικών επεξεργασίας φυσικής γλώσσας και αλγορίθμων μηχανικής μάθησης, τα εργαλεία ανίχνευσης περιεχομένου AI αναζητούν μοτίβα και κάνουν προβλέψεις και κάνουν συνδέσεις με βάση αυτό.
Αυτό ακούγεται υπέροχο στα χαρτιά, αλλά αν έχετε χρησιμοποιήσει ποτέ ένα εργαλείο ανίχνευσης περιεχομένου AI, γνωρίζετε πολύ καλά ότι χτυπάει και χάνει, για να το θέσω ήπια. Συχνά, εντοπίζετε περιεχόμενο που έχει γραφτεί από ανθρώπους ως δημιουργημένο από τεχνητή νοημοσύνη ή κείμενο που δημιουργείται από AI ως ανθρωπογενές. Στην πραγματικότητα, κάποιοι είναι ενοχλητικά κακοί σε αυτό που υποτίθεται ότι πρέπει να κάνουν.
Πόσο ακριβή είναι τα εργαλεία ανίχνευσης περιεχομένου AI;
Εάν βρίσκεστε στις Ηνωμένες Πολιτείες, το πρώτο αποτέλεσμα αναζήτησης Google για τον «ανιχνευτή περιεχομένου AI» είναι Writer.com (Πρώην Qordoba, μια πλατφόρμα περιεχομένου AI που έχει επίσης τον δικό της ανιχνευτή). Αλλά όταν επικολλάτε μια ενότητα ενός τυχαίου άρθρου από Το Associated Press Σε αυτό το εργαλείο, ισχυρίζεται ότι υπάρχει πολύ καλή πιθανότητα να έχει διαμορφωθεί από AI.
Λοιπόν, κάνετε λάθος.
Για να είμαστε δίκαιοι, άλλα εργαλεία ανίχνευσης περιεχομένου AI δεν είναι καλύτερα. Όχι μόνο δημιουργούν ψευδώς θετικά στοιχεία, αλλά ταξινομούν επίσης το περιεχόμενο AI ως ανθρώπινο. Και ακόμα κι αν δεν το κάνετε, αρκεί να κάνετε μικρές προσαρμογές στο κείμενο που δημιουργείται από την τεχνητή νοημοσύνη για να περάσει πλήρως.
Τον Φεβρουάριο του 2023, Λέκτορας στο Πανεπιστήμιο του Wollongong Armin Alimardani και αναπληρώτρια καθηγήτρια στο University of New South Wales Sydney Emma A. Jin» έχει χρησιμοποιήσει μια σειρά από δημοφιλή εργαλεία ανίχνευσης περιεχομένου AI, γεγονός που αποδεικνύει ότι κανένα από αυτά δεν είναι αξιόπιστο. Η Αλιμαρδάνη και η Τζέιν κατέληξαν στην ανάλυσή τους, η οποία δημοσιεύτηκε στο Η Συνομιλία , ότι ο «αγώνας εξοπλισμών» της τεχνητής νοημοσύνης μεταξύ δημιουργών κειμένου και εργαλείων ανίχνευσης θα είναι μια τεράστια πρόκληση στο μέλλον, ειδικά για τους εκπαιδευτικούς.
Αλλά δεν είναι μόνο οι δάσκαλοι που έχουν λόγους να ανησυχούν: όλοι πρέπει να είναι. Καθώς το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη γίνεται πανταχού παρόν, η δυνατότητα διάκρισης μεταξύ του «πραγματικού» και του μη, δηλαδή ο εντοπισμός του τι γράφεται από την τεχνητή νοημοσύνη, θα γίνει πιο δύσκολο. Αυτό θα έχει σημαντικό αντίκτυπο σε όλους σχεδόν τους κλάδους και τομείς της κοινωνίας, ακόμα και στις προσωπικές σχέσεις. Επαληθεύω Υπεύθυνοι τρόποι χρήσης της τεχνητής νοημοσύνης ως συγγραφέας ή συντάκτη περιεχομένου.
Επιπτώσεις της τεχνητής νοημοσύνης για την ασφάλεια στον κυβερνοχώρο και το απόρρητο
Το γεγονός ότι δεν υπάρχουν αξιόπιστοι μηχανισμοί για τον προσδιορισμό του εάν κάτι δημιουργήθηκε από ένα chatbot ή έναν άνθρωπο έχει σοβαρές επιπτώσεις στην ασφάλεια στον κυβερνοχώρο και στο απόρρητο.
Οι εισβολείς χρησιμοποιούν ήδη το ChatGPT για να γράφουν κακόβουλο λογισμικό, να δημιουργούν μηνύματα ηλεκτρονικού ψαρέματος, να γράφουν ανεπιθύμητα μηνύματα, να δημιουργούν ιστοτόπους απάτης και πολλά άλλα. Και παρόλο που υπάρχουν τρόποι για να αμυνθείτε από αυτό, είναι σίγουρα ανησυχητικό το γεγονός ότι δεν υπάρχει μια εφαρμογή που να μπορεί να διακρίνει αξιόπιστα μεταξύ οργανικού περιεχομένου και bot.
Τα fake news είναι επίσης ένα πραγματικά μεγάλο πρόβλημα. Με τη δημιουργία γενετικής τεχνητής νοημοσύνης, οι πράκτορες παραπληροφόρησης μπορούν να κλιμακώσουν τις δραστηριότητές τους με άνευ προηγουμένου τρόπο. Εν τω μεταξύ, ο μέσος άνθρωπος δεν έχει τρόπο να γνωρίζει αν κάτι που διάβασε στο διαδίκτυο δημιουργήθηκε από ένα chatbot ή έναν άνθρωπο. Επαληθεύω Οι τρόποι με τους οποίους η τεχνητή νοημοσύνη μπορεί να βοηθήσει τους εγκληματίες του κυβερνοχώρου.
Ο GPTZero, ένας ανιχνευτής AI, πιστεύει ότι το Σύνταγμα των ΗΠΑ γράφτηκε από την τεχνητή νοημοσύνη.
Οι ιδρυτές ήταν μπροστά από την εποχή τους 😂 pic.twitter.com/dsXqZOJxSz
- Barsee 🐶 (@heyBarsee) Μαρτίου 4, 2023
Το απόρρητο είναι ένα εντελώς διαφορετικό θέμα. Πάρτε το ChatGPT, για παράδειγμα. Τροφοδοτήθηκε με πάνω από 300 δισεκατομμύρια λέξεις πριν από την κυκλοφορία του. Αυτό το περιεχόμενο έχει αφαιρεθεί από βιβλία, αναρτήσεις ιστολογίου, φόρουμ, άρθρα και μέσα κοινωνικής δικτύωσης. Συλλέχτηκε χωρίς τη συγκατάθεση κανενός και με φαινομενικά πλήρη παραβίαση της προστασίας της ιδιωτικής ζωής και των πνευματικών δικαιωμάτων.
Έπειτα υπάρχει και το θέμα των ψευδών θετικών. Εάν το περιεχόμενο επισημαίνεται λανθασμένα ως δημιουργημένο από τεχνητή νοημοσύνη, δεν θα μπορούσε αυτό να οδηγήσει σε λογοκρισία, που είναι ούτως ή άλλως μεγάλο πρόβλημα; Για να μην αναφέρουμε τη ζημιά που μπορεί να προκαλέσει στη φήμη ενός συντάκτη η κατηγορία της χρήσης κειμένου που δημιουργείται από AI, τόσο στο διαδίκτυο όσο και στην πραγματική ζωή.
Εάν υπάρχει πραγματικά ένας αγώνας εξοπλισμών μεταξύ παραγωγικής τεχνητής νοημοσύνης και ανιχνευτών περιεχομένου, ο πρώτος είναι ο νικητής. Το χειρότερο είναι ότι δεν φαίνεται να υπάρχει λύση. Όλα τα ημι-ψημένα προϊόντα μας δεν λειτουργούν σχεδόν τόσο καλά ή μπορούν να ξεγελαστούν πολύ εύκολα. Επαληθεύω Τρόποι με τους οποίους οι συγγραφείς περιεχομένου μπορούν να ξεπεράσουν τα εργαλεία γραφής AI.
Πώς να ανακαλύψετε περιεχόμενο AI: Πιθανές λύσεις
Ακριβώς επειδή δεν έχουμε πραγματικές απαντήσεις σε αυτό το πρόβλημα αυτή τη στιγμή δεν σημαίνει ότι δεν θα έχουμε πρόσβαση σε καμία στο μέλλον. Μάλιστα, υπάρχουν ήδη αρκετές σοβαρές προτάσεις που θα μπορούσαν να λειτουργήσουν. Το υδατογράφημα είναι ένα από αυτά.
Όταν πρόκειται για μοντέλα τεχνητής νοημοσύνης και βαθιάς γλώσσας, η υδατογράφηση αναφέρεται στην ενσωμάτωση ενός μυστικού κώδικα σε κείμενο που δημιουργείται από AI (όπως στυλ λέξης και στυλ στίξης). Ένα τέτοιο υδατογράφημα θα ήταν αόρατο με γυμνό μάτι και επομένως αδύνατο να αφαιρεθεί, αλλά εξειδικευμένες εφαρμογές θα μπορούσαν να το ανιχνεύσουν.
Πράγματι, το 2022, αναπτύχθηκε Ερευνητές του Πανεπιστημίου του Μέριλαντ Μια νέα μέθοδος υδατογράφησης για τεχνητά νευρωνικά δίκτυα. Ο επικεφαλής ερευνητής Tom Goldstein είπε τότε ότι η ομάδα του ήταν σε θέση να «αποδείξει μαθηματικά» ότι το υδατογράφημα δεν μπορεί να αφαιρεθεί εντελώς.
Αυτή τη στιγμή, αυτό που μπορούσε να κάνει ένας συνηθισμένος άνθρωπος ήταν να βασίζεται στο ένστικτό του και την κοινή λογική του. Εάν κάτι σχετικά με το περιεχόμενο που διαβάζετε —αν φαίνεται αφύσικο, επαναλαμβανόμενο, μη δημιουργικό ή απλό— μπορεί να έχει δημιουργηθεί από ένα bot. Φυσικά, θα πρέπει επίσης να επαληθεύσετε τυχόν πληροφορίες που βλέπετε στο διαδίκτυο, να ελέγξετε ξανά την πηγή και να μείνετε μακριά από ύποπτους ιστότοπους. Επαληθεύω Ποιος κατέχει τα πνευματικά δικαιώματα για δημιουργίες τεχνητής νοημοσύνης; Πώς λειτουργούν τα πνευματικά δικαιώματα για αυτά τα έργα τέχνης;
Η επανάσταση της τεχνητής νοημοσύνης βρίσκεται σε εξέλιξη
Κάποιοι υποστηρίζουν ότι η Πέμπτη Βιομηχανική Επανάσταση είναι ήδη εδώ, με την τεχνητή νοημοσύνη να βρίσκεται στο επίκεντρο σε αυτό που περιγράφεται ως σύγκλιση του ψηφιακού και του φυσικού. Είτε αυτό ισχύει είτε όχι, το μόνο που μπορούμε να κάνουμε είναι να προσαρμοστούμε.
Τα καλά νέα είναι ότι ο κλάδος της κυβερνοασφάλειας προσαρμόζεται σε αυτή τη νέα πραγματικότητα, εφαρμόζοντας νέες αμυντικές στρατηγικές με την τεχνητή νοημοσύνη και τη μηχανική μάθηση στην πρώτη γραμμή. Μπορείτε να δείτε τώρα Μερικοί μύθοι για την ασφάλεια στον κυβερνοχώρο που σας κάνουν πιο ευάλωτους σε επιθέσεις.
