Τι είναι το jailbreak του ChatGPT; Πρέπει να χρησιμοποιήσετε αυτές τις τεχνολογίες;

Το ChatGPT είναι ένα απίστευτα ισχυρό, πολύπλευρο και προηγμένο πρότυπο. Αλλά όσο ένα chatbot AI είναι μια υποβοηθητική τεχνολογία, μπορεί επίσης να χρησιμοποιηθεί για απαίσιους σκοπούς. Επομένως, για να περιορίσει την ανήθικη χρήση του ChatGPT, το OpenAI έχει περιορίσει το τι μπορούν να κάνουν οι χρήστες με αυτό.

Ωστόσο, δεδομένου ότι τα ανθρώπινα όντα θέλουν φυσικά να υπερβαίνουν τα όρια και τους περιορισμούς, οι χρήστες του ChatGPT έχουν βρει τρόπους να παρακάμψουν αυτούς τους περιορισμούς και να αποκτήσουν απεριόριστο έλεγχο στο chatbot AI μέσω jailbreaks. Επαληθεύω Έχει χάσει πραγματικά το OpenAI τον έλεγχο του chatbot ChatGPT;

Τι ακριβώς είναι όμως τα jailbreak του ChatGPT και τι μπορείτε να κάνετε με αυτά;

Τι είναι τα jailbreak του ChatGPT;

Το jailbreaking ChatGPT εισάγει οποιαδήποτε προτροπή ChatGPT έχει σχεδιαστεί ειδικά για να κάνει ένα chatbot να παρακάμπτει τους δικούς του κανόνες και περιορισμούς.

Εμπνευσμένο από την ιδέα του iPhone jailbreaking, το οποίο επιτρέπει στους χρήστες iPhone να παρακάμπτουν τους περιορισμούς του iOS, το ChatGPT jailbreaking είναι μια σχετικά νέα ιδέα που τροφοδοτείται από την ελκυστικότητα του «κάνεις πράγματα που δεν επιτρέπεται να κάνεις» χρησιμοποιώντας ένα μοντέλο AI. Και ας είμαστε ειλικρινείς, η ιδέα της ψηφιακής εξέγερσης είναι ελκυστική για πολλούς ανθρώπους.

Εδώ είναι η ανάγκη. Η ασφάλεια είναι ένα μεγάλο θέμα όσον αφορά την τεχνητή νοημοσύνη. Αυτό συμβαίνει ιδιαίτερα με την εμφάνιση μιας νέας εποχής chatbots όπως το ChatGPT, το Bing Chat και το Gemini AI. Ένα πρωταρχικό μέλημα για την ασφάλεια της τεχνητής νοημοσύνης είναι η διασφάλιση ότι τα chatbots όπως το ChatGPT δεν παράγουν παράνομο, επιβλαβές ή ανήθικο περιεχόμενο.

Από την πλευρά του, το OpenAI, ο προγραμματιστής του ChatGPT, κάνει ό,τι μπορεί για να εξασφαλίσει την ασφαλή χρήση του ChatGPT. Για παράδειγμα, το ChatGPT αρνείται, από προεπιλογή, να δημιουργήσει περιεχόμενο που σχετίζεται με την αναζήτηση, να πει επιβλαβή πράγματα για τη φυλή ή να σας διδάξει δυνητικά επιβλαβείς δεξιότητες.

Αλλά με τις προσαρμοσμένες προτροπές του ChatGPT, το κακό βρίσκεται στις λεπτομέρειες. Αν και το ChatGPT δεν επιτρέπεται να κάνει αυτά τα πράγματα, αυτό δεν σημαίνει ότι δεν μπορεί. Ο τρόπος με τον οποίο λειτουργούν μεγάλα γλωσσικά μοντέλα όπως το GPT καθιστά δύσκολο τον ορισμό του τι μπορεί και τι δεν μπορεί να κάνει ένα chatbot.

Πώς λοιπόν το έλυσε αυτό το OpenAI; Επιτρέποντας στο ChatGPT να διατηρήσει τις δυνατότητές του να κάνει οτιδήποτε είναι δυνατό και στη συνέχεια να το κατευθύνει σε αυτό που μπορεί να κάνει.

Έτσι, καθώς λέτε στο OpenAI στο ChatGPT, "Ε, δεν πρέπει να το κάνετε αυτό." Το jailbreak είναι μια οδηγία που λέει σε ένα chatbot, "Γεια, ξεχάστε τι σας είπε το OpenAI για την ασφάλεια. Ας δοκιμάσουμε αυτά τα τυχαία επικίνδυνα πράγματα». Επαληθεύω Τρόποι με τους οποίους τα παιδιά μπορούν να χρησιμοποιήσουν το ChatGPT με ασφάλεια.

Τι λέει το OpenAI για το jailbreak του ChatGPT;

Η ευκολία με την οποία θα μπορούσατε να ξεπεράσετε τους περιορισμούς της πρώτης επανάληψης του ChatGPT υποδηλώνει ότι το OpenAI μπορεί να μην είχε προβλέψει την ταχεία και ευρεία υιοθέτηση του jailbreaking από τους χρήστες του. Είναι στην πραγματικότητα ένα ανοιχτό ερώτημα εάν η εταιρεία περίμενε ή όχι τις προτροπές jailbreak.

Και ακόμη και μετά από πολλές επαναλήψεις του ChatGPT με βελτιωμένη αντίσταση στο jailbreak, εξακολουθεί να είναι συνηθισμένο για τους χρήστες του ChatGPT να δοκιμάζουν το jailbreaking. Λοιπόν, τι λέει το OpenAI για την ανατρεπτική τέχνη του ChatGPT jailbreaking;

Λοιπόν, το OpenAI φαίνεται να παίρνει μια επιτρεπτική στάση - ούτε αποθαρρύνει ούτε απαγορεύει αυστηρά την πρακτική. Ενώ συζητούσε τα jailbreak του ChatGPT σε μια συνέντευξη στο YouTube, ο Διευθύνων Σύμβουλος του OpenAI Sam Altman εξήγησε ότι η εταιρεία θέλει οι χρήστες να διατηρήσουν σημαντικό έλεγχο στο ChatGPT.

Ο Διευθύνων Σύμβουλος εξήγησε περαιτέρω ότι στόχος του OpenAI είναι να διασφαλίσει ότι οι χρήστες μπορούν να κάνουν το μοντέλο να συμπεριφέρεται όπως θέλουν. Σύμφωνα με τον Άλτμαν:

Θέλουμε οι χρήστες να έχουν πολύ έλεγχο και να συμπεριφέρεται το μοντέλο όπως θέλουν, εντός ορισμένων πολύ ευρέων ορίων. Και νομίζω ότι ο όλος λόγος για το jailbreaking αυτή τη στιγμή είναι επειδή δεν έχουμε καταλάβει ακριβώς πώς να δώσουμε στους ανθρώπους αυτό…

Τι σημαίνει αυτό? Αυτό σημαίνει ότι το OpenAI θα σας επιτρέψει να κάνετε jailbreak στο ChatGPT εάν δεν κάνετε κάτι επικίνδυνο με αυτό.

Πλεονεκτήματα και μειονεκτήματα του jailbreaking ChatGPT

Το ChatGPT δεν είναι εύκολο να σπάσει. Σίγουρα, θα μπορούσατε να συνδεθείτε στο διαδίκτυο και να αντιγράψετε και να επικολλήσετε αυτά τα έτοιμα μηνύματα, αλλά υπάρχει μεγάλη πιθανότητα το jailbreak να διορθωθεί από το OpenAI λίγο μετά την κυκλοφορία του στο κοινό.

Οι διορθώσεις είναι πολύ πιο γρήγορες εάν είναι σοβαρές, όπως ο περιβόητος ισχυρισμός DAN. Γιατί λοιπόν οι άνθρωποι πιέζονται να δημιουργήσουν προτροπές για jailbreak ούτως ή άλλως; Είναι μόνο για ενθουσιασμό ή υπάρχουν πρακτικά οφέλη από αυτό; Τι θα μπορούσε να πάει στραβά αν επιλέξω να χρησιμοποιήσω ένα jailbreak ChatGPT; Εδώ είναι τα πλεονεκτήματα και τα μειονεκτήματα του jailbreaking ChatGPT.

Πλεονεκτήματα της χρήσης jailbreak ChatGPT

Αν και δεν μπορούμε να αφαιρέσουμε την απλή συγκίνηση του να κάνουμε το απαγορευμένο πράγμα, το jailbreaking ChatGPT έχει πολλά οφέλη. Λόγω των αυστηρών περιορισμών που έχει θέσει το OpenAI στο chatbot, το ChatGPT μπορεί μερικές φορές να φαίνεται ουδέτερο.

Ας υποθέσουμε ότι χρησιμοποιείτε το ChatGPT για να γράψετε ένα σενάριο βιβλίου ή ταινίας. Εάν υπάρχει μια σκηνή στο σενάριο ή το βιβλίο σας που περιγράφει κάτι σαν σκηνή μάχης, ή ίσως μια μελλοντική προβολή, ή λέει κάτι σαν ένοπλη ληστεία, το ChatGPT μπορεί ρητά να αρνηθεί να βοηθήσει με το μοντάζ.

Σε αυτήν την περίπτωση, σαφώς δεν ενδιαφέρεστε να προκαλέσετε βλάβη. Θέλετε απλώς να διασκεδάσετε τους αναγνώστες σας. Αλλά λόγω των περιορισμών του, το ChatGPT δεν θα συνεργαστεί. Το jailbreaking ChatGPT μπορεί να σας βοηθήσει να παρακάμψετε εύκολα αυτούς τους περιορισμούς.

Επίσης, ορισμένα περιορισμένα θέματα δεν είναι απαραίτητα επιβλαβή, αλλά θεωρούνται από το ChatGPT ως απαγορευμένες περιοχές. Όταν προσπαθεί να συμμετάσχει σε συζητήσεις σχετικά με αυτά τα θέματα, το ChatGPT είτε θα «λογοκρίνει» σημαντικά τις απαντήσεις του είτε θα αρνηθεί να μιλήσει για αυτό.

Αυτό μερικές φορές μπορεί να επηρεάσει τη δημιουργικότητα. Όταν κάνετε μια ερώτηση στο ChatGPT σχετικά με μια περιοχή ή ένα θέμα που δεν πρέπει να αγγίζει, το chatbot εξακολουθεί να προσπαθεί να απαντήσει στην ερώτησή σας, αλλά με λιγότερες σχετικές πληροφορίες για να επωφεληθεί.

Αυτό οδηγεί σε ανακρίβεια ή οπισθοδρόμηση στις δημιουργικές απαντήσεις. Τα μηνύματα jailbreak καταρρίπτουν αυτούς τους περιορισμούς και αφήνουν το chatbot πλήρως λειτουργικό, βελτιώνοντας την ακρίβεια και τη δημιουργικότητα. Επαληθεύω Οι καλύτερες προτροπές ChatGPT στο GitHub.

Μειονεκτήματα της χρήσης jailbreak ChatGPT

Το jailbreaking είναι δίκοπο μαχαίρι. Ενώ μερικές φορές μπορεί να βελτιώσει την ακρίβεια, μπορεί επίσης να αυξήσει δραματικά την ανακρίβεια και τις παραισθήσεις AI. Ένα από τα βασικά στοιχεία ενός jailbreak του ChatGPT είναι να δίνετε εντολή στο chatbot να μην αρνείται να απαντήσει σε μια ερώτηση.

Αν και αυτό διασφαλίζει ότι το ChatGPT θα απαντήσει ακόμη και στις πιο ανήθικες ερωτήσεις, σημαίνει επίσης ότι το chatbot θα συνθέτει απαντήσεις που δεν βασίζονται σε γεγονότα ή πραγματικότητα για να συμμορφωθεί με τις οδηγίες "μην αρνείσαι να απαντήσεις". Έτσι, η χρήση ενός jailbreak αυξάνει σημαντικά τις πιθανότητες λήψης ψευδών πληροφοριών μέσω ενός chatbot.

Δεν είναι μόνο αυτό. Στα χέρια ανηλίκων, τα jailbreak μπορεί να είναι εξαιρετικά επιβλαβή. Σκεφτείτε όλες τις «ταμπού γνώσεις» που δεν θέλετε να διαβάσει το παιδί σας. Λοιπόν, η παρουσία σας ChatGPT δεν θα δυσκολευτεί να την μοιραστεί με ανηλίκους.

Πρέπει να χρησιμοποιήσετε jailbreak ChatGPT;

Αν και τα jailbreak του ChatGPT μπορεί να είναι καλά όταν προσπαθείτε να απαλλαγείτε από ορισμένους ενοχλητικούς περιορισμούς, είναι σημαντικό να κατανοήσετε ότι η χρήση jailbreak είναι ένας ανήθικος τρόπος χρήσης ενός chatbot AI. Επιπλέον, υπάρχει μεγάλη πιθανότητα το jailbreaking να παραβιάζει τους όρους χρήσης του OpenAI και ο λογαριασμός σας μπορεί να ανασταλεί εάν δεν έχει αποκλειστεί πλήρως.

Υπό το πρίσμα αυτού, οι προτροπές jailbreaking μπορεί να είναι μια καλή ιδέα. Ωστόσο, όπως και η θέση του OpenAI σχετικά με αυτό το ζήτημα, αποθαρρύνουμε ρητά και αποθαρρύνουμε σθεναρά να επιχειρήσετε ένα jailbreak ακόμα κι αν είναι σχετικά ασφαλές εάν παραστεί ανάγκη. Επαληθεύω Τρόποι για να ελέγξετε το ChatGPT με τη φωνή σας.

Ένα ενδιαφέρον μοντέλο που μάλλον πρέπει να αποφευχθεί

Τα jailbreak του ChatGPT είναι ελκυστικά και παρέχουν μια αίσθηση ελέγχου σε ένα chatbot AI. Ωστόσο, έρχονται με μοναδικούς κινδύνους. Η χρήση αυτών των εργαλείων μπορεί να οδηγήσει σε απώλεια της εμπιστοσύνης στις δυνατότητες της τεχνητής νοημοσύνης και να βλάψει τη φήμη των εταιρειών και των ατόμων που εμπλέκονται.

Η πιο έξυπνη επιλογή είναι να εργάζεστε με ένα chatbot εντός των προβλεπόμενων ορίων του όποτε είναι δυνατόν. Καθώς η τεχνολογία της τεχνητής νοημοσύνης προχωρά, είναι σημαντικό να θυμόμαστε ότι η ηθική χρήση της τεχνητής νοημοσύνης πρέπει πάντα να υπερισχύει του προσωπικού οφέλους έναντι της πρόκλησης της πράξης του απαγορευμένου. Μπορείτε να δείτε τώρα Πράγματα που πρέπει να αποφύγετε να ρωτήσετε τα chatbots AI.