Η τεχνητή νοημοσύνη έχει προχωρήσει σημαντικά τα τελευταία χρόνια. Τα εξελιγμένα γλωσσικά μοντέλα μπορούν να συνθέσουν ολόκληρα μυθιστορήματα, να κωδικοποιήσουν βασικούς ιστότοπους, να αναλύσουν μαθηματικά προβλήματα και ακόμη και να δώσουν ιατρικές συμβουλές.
Αν και η γενετική τεχνητή νοημοσύνη είναι εντυπωσιακή και χρήσιμη σε πολλούς τομείς, παρουσιάζει επίσης κινδύνους για την ασφάλεια. Μερικοί άνθρωποι χρησιμοποιούν chatbot για να εξαπατήσουν στις εξετάσεις, ενώ άλλοι τα εκμεταλλεύονται για έγκλημα στον κυβερνοχώρο. Εδώ είναι οι λόγοι για τους οποίους αυτά τα ζητήματα επιμένουν, όχι μόνο παρά τις εξελίξεις στην τεχνητή νοημοσύνη αλλά και εξαιτίας αυτής. Επαληθεύω Η ανθρωπότητα κινδυνεύει με εξαφάνιση λόγω της τεχνητής νοημοσύνης - πώς μπορεί να σταματήσει;
Γρήγοροι σύνδεσμοι
1. Τα chatbot AI ανοιχτού κώδικα εντοπίζουν κωδικούς υποστήριξης
Περισσότερες εταιρείες τεχνητής νοημοσύνης παρέχουν μοντέλα ανοιχτού κώδικα. Μοιράζεται δημόσια τα γλωσσικά της μοντέλα αντί να τα κρατά κλειστά ή ιδιωτικά. Πάρτε το Meta ως παράδειγμα. Σε αντίθεση με την Google, τη Microsoft και το OpenAI, επιτρέπει σε εκατομμύρια χρήστες να έχουν πρόσβαση στο γλωσσικό μοντέλο της, Είδος μικρής καμήλας.
Ενώ ο ανοιχτός κώδικας μπορεί να προωθήσει την τεχνητή νοημοσύνη, ενέχει επίσης έναν κίνδυνο. Το OpenAI αντιμετωπίζει ήδη πρόβλημα με τον έλεγχο του ChatGPT, του chatbot του, οπότε φανταστείτε τι θα μπορούσαν να κάνουν οι απατεώνες με τις δωρεάν φόρμες. Θα έχουν τον απόλυτο έλεγχο αυτών των έργων.
Ακόμα κι αν η Meta αποσύρει ξαφνικά το γλωσσικό της μοντέλο, δεκάδες άλλα εργαστήρια τεχνητής νοημοσύνης έχουν ήδη δημοσιοποιήσει τον κώδικά τους. Ας ρίξουμε μια ματιά στο HuggingChat. Δεδομένου ότι ο προγραμματιστής HuggingFace υπερηφανεύεται για τη διαφάνεια, εμφανίζει δημόσια τα σύνολα δεδομένων, το μοντέλο γλώσσας και τις προηγούμενες εκδόσεις.
2. Απαιτήσεις Jailbreak για πλαστογραφήσεις μορφών LLM
Η τεχνητή νοημοσύνη είναι εγγενώς ανήθικη. Δεν κατανοεί το σωστό και το λάθος — ακόμη και τα προηγμένα συστήματα ακολουθούν τις οδηγίες εκπαίδευσης, τους επιβαλλόμενους περιορισμούς και τα σύνολα δεδομένων. Απλώς αναγνωρίζει μοτίβα.
Για την καταπολέμηση παράνομων δραστηριοτήτων, οι προγραμματιστές ελέγχουν ποιες λειτουργίες και δυνατότητες είναι προσβάσιμες θέτοντας περιορισμούς. Τα συστήματα τεχνητής νοημοσύνης εξακολουθούν να έχουν πρόσβαση σε κακόβουλες πληροφορίες. Ωστόσο, οι οδηγίες ασφαλείας εμποδίζουν την κοινή χρήση του με τους χρήστες.
Ας ρίξουμε μια ματιά στο ChatGPT. Αν και απαντά σε γενικές ερωτήσεις σχετικά με τους Trojans, δεν θα συζητήσει τη διαδικασία ανάπτυξής τους.
Ωστόσο, οι περιορισμοί δεν είναι αλάνθαστοι. Οι χρήστες ξεπερνούν τα όρια παραφράζοντας προτροπές, χρησιμοποιώντας μπερδεμένη γλώσσα και συνθέτοντας ρητά λεπτομερείς οδηγίες.
Διαβάστε την προτροπή jailbreak του ChatGPT παρακάτω. Ξεγελά το ChatGPT να χρησιμοποιεί αγενή γλώσσα και να κάνει αβάσιμες προβλέψεις—και οι δύο ενέργειες που παραβιάζουν τις Οδηγίες OpenAI.
Εδώ το ChatGPT κάνει μια τολμηρή αλλά ψευδή δήλωση.
Επαληθεύω Τι είναι το jailbreak του ChatGPT; Πρέπει να χρησιμοποιήσετε αυτές τις τεχνολογίες;
3. Η τεχνητή νοημοσύνη θέτει σε κίνδυνο την ασφάλεια για ευελιξία
Οι εταιρείες τεχνητής νοημοσύνης δίνουν προτεραιότητα στη διαφορετικότητα έναντι της ασφάλειας. Ξοδεύει τους πόρους του σε επιθέματα προπόνησης για να ολοκληρώσει ένα πιο ποικίλο σύνολο εργασιών, το οποίο τελικά οδηγεί σε λιγότερους περιορισμούς. Εξάλλου, η αγορά επαινεί τα λειτουργικά chatbot.
Ας συγκρίνουμε ChatGPT και Bing Chat , Για παράδειγμα. Ενώ το Bing διαθέτει ένα πιο περίπλοκο μοντέλο γλώσσας που τραβάει δεδομένα σε πραγματικό χρόνο, οι χρήστες εξακολουθούν να συρρέουν στην πιο ευέλικτη επιλογή, το ChatGPT. Οι αυστηροί περιορισμοί του Bing εμποδίζουν πολλές εργασίες. Αντίθετα, το ChatGPT διαθέτει μια ευέλικτη πλατφόρμα που παράγει πολύ διαφορετικές εξόδους με βάση τις προτροπές σας.
Εδώ είναι ο ρόλος του ChatGPT ως φανταστικού χαρακτήρα.
Εδώ, το Bing Chat αρνείται να παίξει έναν «ανήθικο» χαρακτήρα.
4. Νέα εργαλεία παραγωγής τεχνητής νοημοσύνης κυκλοφορούν τακτικά στην αγορά
Ο ανοιχτός κώδικας επιτρέπει στις νεοσύστατες επιχειρήσεις να συμμετάσχουν στον αγώνα AI. Τα ενσωματώνουν στις εφαρμογές τους αντί να δημιουργούν μοντέλα γλώσσας από την αρχή, γεγονός που εξοικονομεί τεράστιους πόρους. Ακόμη και ανεξάρτητοι προγραμματιστές πειραματίζονται με κώδικα ανοιχτού κώδικα.
Και πάλι, το μη αποκλειστικό λογισμικό βοηθά στην ανάπτυξη της τεχνητής νοημοσύνης, αλλά η μαζική απελευθέρωση κακώς εκπαιδευμένων αλλά εξελιγμένων συστημάτων κάνει περισσότερο κακό παρά καλό. Οι απατεώνες θα καταχραστούν γρήγορα τα τρωτά σημεία. Μπορεί ακόμη και να εκπαιδεύσουν μη ασφαλή εργαλεία τεχνητής νοημοσύνης για την εκτέλεση παράνομων δραστηριοτήτων.
Παρά αυτούς τους κινδύνους, οι εταιρείες τεχνολογίας θα συνεχίσουν να κυκλοφορούν ασταθείς εκδόσεις beta πλατφορμών που βασίζονται σε τεχνητή νοημοσύνη. Το Racing AI ανταμείβει την ταχύτητα. Είναι πιθανό τα σφάλματα να επιλυθούν σε μεταγενέστερη ημερομηνία αντί να καθυστερήσουν την κυκλοφορία νέων προϊόντων.
5. Το Generative AI έχει χαμηλά εμπόδια εισόδου
Τα εργαλεία AI μειώνουν τα εμπόδια εισόδου για το έγκλημα. Οι εγκληματίες του κυβερνοχώρου δημιουργούν ανεπιθύμητα μηνύματα ηλεκτρονικού ταχυδρομείου, γράφουν κακόβουλο κώδικα και δημιουργούν συνδέσμους phishing εκμεταλλευόμενοι τους. Δεν χρειάζεται καν τεχνική εμπειρογνωμοσύνη. Δεδομένου ότι η τεχνητή νοημοσύνη έχει ήδη πρόσβαση σε τεράστια σύνολα δεδομένων, οι χρήστες δεν έχουν παρά να την εξαπατήσουν ώστε να παράγουν κακόβουλες και επικίνδυνες πληροφορίες.
Το OpenAI δεν σχεδίασε ποτέ το ChatGPT για παράνομες δραστηριότητες. Έχει ακόμη και οδηγίες εναντίον του. Ωστόσο, σχεδόν αμέσως, οι απατεώνες μπόρεσαν να αποκτήσουν κακόβουλο λογισμικό που προγραμμάτισε το ChatGPT και να γράφουν μηνύματα ηλεκτρονικού ψαρέματος.
Ενώ το OpenAI έλυσε γρήγορα το πρόβλημα, τονίζει τη σημασία της οργάνωσης του συστήματος και της διαχείρισης κινδύνου. Η τεχνητή νοημοσύνη ωριμάζει πιο γρήγορα από ό,τι περίμενε κανείς. Ακόμη και οι ηγέτες της τεχνολογίας ανησυχούν ότι αυτή η προηγμένη τεχνολογία θα μπορούσε να προκαλέσει σοβαρή ζημιά εάν πέσει σε λάθος χέρια. Επαληθεύω Οι τρόποι με τους οποίους η γενετική τεχνητή νοημοσύνη θα αλλάξει την αγορά εργασίας.
6. Η τεχνητή νοημοσύνη εξακολουθεί να εξελίσσεται
Η τεχνητή νοημοσύνη εξακολουθεί να εξελίσσεται. Ενώ η χρήση της τεχνητής νοημοσύνης σε Κυβερνητική στη δεκαετία του 1940 Τα σύγχρονα συστήματα μηχανικής μάθησης και τα γλωσσικά μοντέλα εμφανίστηκαν μόλις πρόσφατα. Δεν μπορείς να το συγκρίνεις με τις πρώτες εφαρμογές τεχνητής νοημοσύνης. Ακόμη και τα σχετικά προηγμένα εργαλεία όπως το Siri και η Alexa είναι ωχρά σε σύγκριση με τα chatbots που υποστηρίζονται από μοντέλα LLM.
Αν και μπορεί να είναι καινοτόμα, τα πειραματικά χαρακτηριστικά δημιουργούν επίσης νέα προβλήματα. Τα περιστατικά υψηλού προφίλ με τεχνικές μηχανικής μάθησης κυμαίνονται από ελαττωματικά SERP της Google έως προκατειλημμένα chatbot που εκπέμπουν φυλετικές προσβολές.
Φυσικά, οι προγραμματιστές μπορούν να διορθώσουν αυτά τα προβλήματα. Απλώς σημειώστε ότι οι απατεώνες δεν θα διστάσουν να εκμεταλλευτούν φαινομενικά αβλαβή σφάλματα - ορισμένες ζημιές είναι μη αναστρέψιμες. Επομένως, να είστε προσεκτικοί όταν εξερευνάτε νέες πλατφόρμες.
7. Πολλοί άνθρωποι δεν καταλαβαίνουν ακόμη την τεχνητή νοημοσύνη
Ενώ το ευρύ κοινό έχει πρόσβαση σε πολύπλοκα γλωσσικά μοντέλα και συστήματα, λίγοι γνωρίζουν πώς λειτουργούν. Οι χρήστες πρέπει να σταματήσουν να αντιμετωπίζουν την τεχνητή νοημοσύνη ως παιχνίδι. Τα ίδια chatbots που δημιουργούν μιμίδια στο Διαδίκτυο και απαντούν σε ερωτήσεις κουίζ προγραμματίζουν επίσης ιούς και βοηθούν στη διάδοση κακόβουλου λογισμικού.
Δυστυχώς, η κεντρική εκπαίδευση για την τεχνητή νοημοσύνη δεν είναι ρεαλιστική. Οι ηγέτες παγκόσμιων εταιρειών τεχνολογίας επικεντρώνονται στην κυκλοφορία συστημάτων που βασίζονται σε AI, όχι δωρεάν εκπαιδευτικών πόρων. Ως αποτέλεσμα, οι χρήστες έχουν πρόσβαση σε ισχυρά και προηγμένα εργαλεία που δύσκολα κατανοούν. Το κοινό δεν μπορεί να συμβαδίσει με τον αγώνα AI.
Πάρτε ως παράδειγμα το ChatGPT. Οι κυβερνοεγκληματικές καταχρήσεις εκμεταλλεύονται τη δημοτικότητά του για να εξαπατήσουν τα θύματα να εγκαταστήσουν λογισμικό υποκλοπής υποκλοπής μεταμφιεσμένων σε εφαρμογές ChatGPT. Κανένα από αυτά δεν προέρχεται από το OpenAI. Επαληθεύω Είναι ασφαλείς οι εφαρμογές τρίτων και οι επεκτάσεις προγράμματος περιήγησης για το ChatGPT;
8. Οι χάκερ με μαύρο καπέλο έχουν περισσότερα να κερδίσουν από τους ηθικούς χάκερ
Οι χάκερ με μαύρο καπέλο συνήθως μπορούν να κερδίσουν περισσότερα από τους ηθικούς χάκερ. Ναι, οι προκλήσεις ακρόασης για τους ηγέτες τεχνολογίας αποδίδουν καλά, αλλά μόνο ένα ποσοστό επαγγελματιών στον τομέα της κυβερνοασφάλειας μπαίνει σε αυτές τις θέσεις εργασίας. Οι περισσότεροι από αυτούς είναι ελεύθεροι επαγγελματίες στο διαδίκτυο. επί πληρωμή πλατφόρμες όπως HackerOne و Σφάλμα Μερικές εκατοντάδες δολάρια για τον εντοπισμό κοινών λαθών.
Αντίθετα, οι απατεώνες βγάζουν δεκάδες χιλιάδες εκμεταλλευόμενοι την ανασφάλεια. Ενδέχεται να εκβιάζουν εταιρείες διαρρέοντας εμπιστευτικά δεδομένα ή διαπράττοντας κλοπή στοιχείων προσωπικής ταυτοποίησης (PII).
Κάθε εταιρεία, μικρή ή μεγάλη, πρέπει να εφαρμόζει σωστά τα συστήματα AI. Σε αντίθεση με τη δημοφιλή πεποίθηση, οι χάκερ παρακάμπτουν τις νεοφυείς επιχειρήσεις τεχνολογίας και τις ΜΜΕ. Μερικές από τις πιο ιστορικές παραβιάσεις δεδομένων της περασμένης δεκαετίας περιλαμβάνουν το Facebook, το Yahoo! Και ακόμη και η κυβέρνηση των ΗΠΑ. Επαληθεύω Οι τρόποι με τους οποίους η τεχνητή νοημοσύνη μπορεί να βοηθήσει τους εγκληματίες του κυβερνοχώρου.
Προστατέψτε τον εαυτό σας από κινδύνους ασφάλειας AI
Δεδομένων αυτών των σημείων, θα πρέπει να αποφευχθεί εντελώς η τεχνητή νοημοσύνη; φυσικά και όχι. Η τεχνητή νοημοσύνη είναι εγγενώς ανήθικη. Όλοι οι κίνδυνοι για την ασφάλεια προέρχονται από τους ανθρώπους που το χρησιμοποιούν πραγματικά. Και θα βρουν τρόπους να εκμεταλλευτούν τα συστήματα AI, ανεξάρτητα από το πόσο εξελιγμένα είναι.
Αντί να φοβάστε τις απειλές για την κυβερνοασφάλεια που συνοδεύουν την τεχνητή νοημοσύνη, κατανοήστε πώς μπορείτε να τις αποτρέψετε. Μην ανησυχείτε: τα απλά μέτρα ασφαλείας βοηθούν πολύ. Η παραμονή σε επιφυλακή για ύποπτες εφαρμογές τεχνητής νοημοσύνης, η αποφυγή περίεργων υπερσυνδέσμων και η αμφισβήτηση προβολής περιεχομένου AI καταπολεμά πολλούς κινδύνους. Μπορείτε να δείτε τώρα Η χρήση της τεχνητής νοημοσύνης στην κυβερνοασφάλεια κάνει τον κόσμο πιο ασφαλή;
