Το ChatGPT είναι ένα νέο chatbot AI που είναι ισχυρό και γρήγορο, αλλά πολλοί άνθρωποι έχουν επισημάνει ότι έχει κάποια σοβαρά ελαττώματα. Ρωτήστε του ό,τι θέλετε και θα λάβετε μια απάντηση που μοιάζει σαν να έχει δημιουργηθεί από άνθρωπο, αφού του έχουν δοθεί οι γνώσεις και οι δεξιότητες γραφής από την εκπαίδευση σε μεγάλες ποσότητες διαδικτυακών δεδομένων.
Ωστόσο, ακριβώς όπως το Διαδίκτυο, η γραμμή μεταξύ γεγονότος και φαντασίας είναι σίγουρα ρευστή και το ChatGPT είναι ένοχο για λάθος σε περισσότερες από μία περιπτώσεις. Καθώς το ChatGPT έχει ρυθμιστεί να αλλάξει το μέλλον μας, εδώ είναι μερικές από τις μεγαλύτερες ανησυχίες μας σχετικά με αυτό. Επαληθεύω Το ChatGPT έχει προβλήματα απορρήτου;
Γρήγοροι σύνδεσμοι
Τι είναι το ChatGPT;
Το ChatGPT είναι ένα παράδειγμα φυσικής γλώσσας που έχει σχεδιαστεί για να παράγει απαντήσεις που μοιάζουν πολύ με τις ανθρώπινες συνομιλίες. Ακριβώς όπως να μαλώνετε με κάποιον, μπορείτε να μιλήσετε στο ChatGPT και θα θυμάται πράγματα που έχετε πει στο παρελθόν, ενώ θα μπορεί επίσης να διορθώνει τις απαντήσεις του όταν σας προκαλείται.
Εκπαιδεύεται σε όλα τα είδη κειμένων από το Διαδίκτυο, μπορείτε να σκεφτείτε τη Wikipedia, αναρτήσεις ιστολογίου, βιβλία και ακαδημαϊκά άρθρα. Αυτό σημαίνει ότι εκτός από το να σας ανταποκρίνεται με ανθρώπινο τρόπο, μπορεί να ανακαλεί πληροφορίες για τον τρέχοντα κόσμο μας, καθώς και να εξάγει ιστορικές πληροφορίες από το παρελθόν μας.
Το να μάθετε πώς να χρησιμοποιείτε το ChatGPT είναι απλό και είναι εύκολο να σας ξεγελάσουν και να πιστεύετε ότι το σύστημα AI λειτουργεί χωρίς προβλήματα. Ωστόσο, τους μήνες που πέρασαν από την κυκλοφορία του, χρήστες σε όλο τον κόσμο έχουν ωθήσει το chatbot AI στα όριά του, προκαλώντας την αποκάλυψη ορισμένων σημαντικών προβλημάτων.
1. Το ChatGPT δημιουργεί λάθος απαντήσεις
Το ChatGPT αποτυγχάνει στα βασικά μαθηματικά, δεν φαίνεται να απαντά σε απλές λογικές ερωτήσεις και θα φτάσει ακόμη και στο σημείο να συζητήσει γεγονότα που δεν είναι απολύτως αληθή. Όπως θα επιβεβαιώσουν οι χρήστες στα μέσα κοινωνικής δικτύωσης, το ChatGPT μπορεί να πάει στραβά σε περισσότερες από μία περιπτώσεις.
γνωρίζω εταιρεία OpenAI Σχετικά με αυτόν τον περιορισμό, έγραψα τα εξής: "Το ChatGPT μερικές φορές γράφει απαντήσεις που φαίνονται λογικές αλλά είναι λανθασμένες ή δεν έχουν νόημα." Αυτές οι «ψευδαισθήσεις» γεγονότων και μυθοπλασίας, όπως τις αναφέρω, είναι ιδιαίτερα επικίνδυνες όταν πρόκειται για πράγματα όπως ιατρικές συμβουλές ή για να κατανοήσουμε σωστά τα γεγονότα σχετικά με βασικά ιστορικά γεγονότα.
Σε αντίθεση με άλλους βοηθούς τεχνητής νοημοσύνης όπως ο Siri ή η Alexa, το ChatGPT δεν χρησιμοποιεί το διαδίκτυο για να επιλέξει απαντήσεις. Αντίθετα, δημιουργεί μια πρόταση λέξη προς λέξη, επιλέγοντας το πιο πιθανό «κουπόνι» που θα πρέπει να ακολουθήσει, με βάση τη δική του εκπαίδευση. Με άλλα λόγια, το ChatGPT καταλήγει σε μια απάντηση κάνοντας μια σειρά εικασιών, που είναι μέρος του λόγου που υποστηρίζει λάθος απαντήσεις σαν να ήταν ακριβώς σωστές.
Ενώ είναι εξαιρετικός στο να εξηγεί περίπλοκες έννοιες, κάτι που τον καθιστά ισχυρό εργαλείο μάθησης, είναι σημαντικό να μην πιστεύεις όλα όσα λέει. Το ChatGPT δεν είναι πάντα σωστό — τουλάχιστον όχι ακόμα. Επαληθεύω Το ChatGPT μπορεί να κάνει αστεία, αλλά το AI μπορεί πραγματικά να μας κάνει να γελάμε;
2. Το ChatGPT έχει μια προκατάληψη στο μοντέλο του
Το ChatGPT εκπαιδεύεται στα συλλογικά κείμενα που έχουν γραφτεί από πολλούς ανθρώπους σε όλο τον κόσμο, στο παρελθόν και στο παρόν. Δυστυχώς, αυτό σημαίνει ότι οι ίδιες προκαταλήψεις που υπάρχουν στον πραγματικό κόσμο μπορούν επίσης να εμφανιστούν στο μοντέλο.
Το ChatGPT έχει αποδειχθεί ότι παράγει μερικές τρομερές απαντήσεις που κάνουν διακρίσεις σε βάρος του φύλου, της εθνικότητας και των μειονοτήτων, κάτι που η εταιρεία προσπαθεί να μετριάσει.
Ένας τρόπος για να εξηγήσουμε αυτό το πρόβλημα είναι να επισημάνουμε τα δεδομένα ως το πρόβλημα, κατηγορώντας την ανθρωπότητα για τις προκαταλήψεις που υπάρχουν στο διαδίκτυο και όχι μόνο. Αλλά μέρος της ευθύνης ανήκει επίσης στο OpenAI, του οποίου οι ερευνητές και οι προγραμματιστές επιλέγουν τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση του ChatGPT.
Και πάλι, το OpenAI αναγνωρίζει ότι αυτό είναι ένα ζήτημα και είπε ότι αντιμετωπίζει αυτό που αποκαλούν "προκατειλημμένη συμπεριφορά" συλλέγοντας σχόλια από χρήστες που ενθαρρύνονται να επισημάνουν την κακή έξοδο ChatGPT.
Με τη δυνατότητα να βλάψετε ανθρώπους, θα μπορούσατε να υποστηρίξετε ότι το ChatGPT δεν πρέπει να δημοσιοποιηθεί πριν μελετηθούν και επιλυθούν αυτά τα ζητήματα. Αλλά ο αγώνας για να είναι ο πρώτος που θα λανσάρει τα πιο ισχυρά εργαλεία τεχνητής νοημοσύνης θα μπορούσε να είναι αρκετός για το OpenAI να ρίξει τέτοια προσοχή στον άνεμο.
Αντίθετα, ένα παρόμοιο chatbot τεχνητής νοημοσύνης που ονομάζεται Sparrow —που ανήκει στη μητρική εταιρεία της Google, Alphabet— κυκλοφόρησε τον Σεπτέμβριο του 2022. Ωστόσο, εσκεμμένα κρατήθηκε κεκλεισμένων των θυρών λόγω παρόμοιων ανησυχιών για την ασφάλεια.
Περίπου την ίδια περίοδο, το Facebook κυκλοφόρησε ένα μοντέλο γλώσσας τεχνητής νοημοσύνης που ονομάζεται Galactica, με σκοπό να βοηθήσει την ακαδημαϊκή έρευνα. Ανακλήθηκε γρήγορα αφού πολλοί χρήστες το επέκριναν ότι παρήγαγε ψευδή και μεροληπτικά αποτελέσματα σχετικά με την επιστημονική έρευνα.
3. Το ChatGPT μπορεί να πάρει λειτουργίες από ανθρώπους
Η διαφημιστική εκστρατεία γύρω από την ταχεία ανάπτυξη και ανάπτυξη του ChatGPT δεν έχει κατασταλάξει, αλλά θα διαπιστώσετε ότι αυτή η βασική τεχνολογία είναι ήδη ενσωματωμένη σε πολλές εμπορικές εφαρμογές. Μεταξύ των εφαρμογών που έχουν ενσωματώσει το GPT-4 είναι το Duolingo και το Khan Academy. Επαληθεύω Εφαρμογές που έχουν ενσωματώσει το μοντέλο GPT-4 στον πυρήνα τους, αλλά πώς λειτουργούν;
Η πρώτη είναι μια εφαρμογή αφιερωμένη στη διδασκαλία μιας νέας γλώσσας, ενώ η δεύτερη είναι ένα ευέλικτο εργαλείο εκμάθησης που προσφέρει τόνους μαθημάτων. Και οι δύο προσφέρουν αυτό που είναι ουσιαστικά ένας δάσκαλος τεχνητής νοημοσύνης, είτε με τη μορφή ενός χαρακτήρα που τροφοδοτείται από AI στον οποίο μπορείτε να μιλήσετε στη γλώσσα που μαθαίνετε. Ή ως δάσκαλος τεχνητής νοημοσύνης που μπορεί να σας παρέχει εξατομικευμένα σχόλια σχετικά με τη μάθηση και την πρόοδό σας.
Από τη μία πλευρά, θα μπορούσε να αλλάξει τον τρόπο που μαθαίνουμε, καθιστώντας τη διδασκαλία πιο προσιτή και καθιστώντας την κατάκτηση δεξιοτήτων λίγο πιο εύκολη. Το μειονέκτημα, ωστόσο, είναι ότι αυτό αφαιρεί θέσεις εργασίας που οι άνθρωποι έχουν εδώ και καιρό.
Οι τεχνολογικές εξελίξεις πάντα οδηγούσαν σε απώλειες θέσεων εργασίας, αλλά η ταχύτητα της προόδου της τεχνητής νοημοσύνης σημαίνει ότι υπάρχουν πολλές βιομηχανίες που αντιμετωπίζουν το ίδιο πρόβλημα. Από την εκπαίδευση μέχρι την εικονογράφηση και τους ρόλους εξυπηρέτησης πελατών, το ChatGPT και η υποκείμενη τεχνολογία του θα αναδιαμορφώσουν ριζικά τον σύγχρονο κόσμο μας. Επαληθεύω Οι τρόποι με τους οποίους η γενετική τεχνητή νοημοσύνη θα αλλάξει την αγορά εργασίας.
4. Το ChatGPT μπορεί να αμφισβητήσει τη γλώσσα που χρησιμοποιείται στο σχολείο
Μπορείτε να ζητήσετε από το ChatGPT να διορθώσει το γραπτό σας ή να υποδείξει πώς να βελτιώσετε μια παράγραφο. Ή μπορείτε να αφαιρέσετε τον εαυτό σας εντελώς από την εξίσωση και να ζητήσετε από το ChatGPT να γράψει τα πάντα για εσάς.
Οι δάσκαλοι έχουν πειραματιστεί με την τροφοδοσία εργασιών αγγλικών στο ChatGPT και έλαβαν καλύτερες απαντήσεις από ό,τι πολλοί από τους μαθητές τους. Από τη σύνταξη εισαγωγικών επιστολών μέχρι την περιγραφή των κύριων θεμάτων σε ένα διάσημο λογοτεχνικό έργο, το ChatGPT μπορεί να τα κάνει όλα χωρίς δισταγμό.
Αυτό θέτει το ερώτημα: Εάν το ChatGPT μπορεί να μας γράψει, θα χρειαστεί να μάθουν οι μαθητές να γράφουν στο μέλλον; Μπορεί να φαίνεται σαν υπαρξιακή ερώτηση, αλλά όταν οι μαθητές αρχίσουν να χρησιμοποιούν το ChatGPT για να βοηθήσουν στη σύνταξη των δοκιμίων τους, τα σχολεία θα πρέπει να σκεφτούν μια γρήγορη απάντηση. Η ταχεία εξάπλωση της τεχνητής νοημοσύνης τα τελευταία χρόνια πρόκειται να συγκλονίσει πολλές βιομηχανίες και η εκπαίδευση είναι μόνο μία από αυτές.
5. Το ChatGPT μπορεί να προκαλέσει ζημιά στον πραγματικό κόσμο
Νωρίτερα, αναφέραμε πώς οι εσφαλμένες πληροφορίες από το ChatGPT μπορούν να προκαλέσουν βλάβη στον πραγματικό κόσμο, με ένα τέτοιο παράδειγμα να είναι οι λανθασμένες ιατρικές συμβουλές. Υπάρχουν όμως και άλλες ανησυχίες.
Η ταχύτητα με την οποία μπορεί να δημιουργηθεί κείμενο με φυσική εμφάνιση καθιστά πολύ εύκολο για έναν απατεώνα να προσποιηθεί ότι είναι κάποιος που γνωρίζετε στα μέσα κοινωνικής δικτύωσης. Ομοίως, ο εντοπισμός ενός ηλεκτρονικού "ψαρέματος" που έχει σχεδιαστεί για να εξάγει ευαίσθητες λεπτομέρειες από εσάς θα είναι πιο δύσκολος, με το πρόσθετο πλεονέκτημα ότι το ChatGPT μπορεί να παράγει κείμενο χωρίς γραμματικά λάθη - κάτι που προηγουμένως ήταν προφανές προειδοποιητικό σημάδι.
Η διάδοση ψευδών πληροφοριών είναι επίσης μια σοβαρή ανησυχία. Η κλίμακα στην οποία το ChatGPT μπορεί να παράγει κείμενο, σε συνδυασμό με την ικανότητα να φαίνονται πειστικά αληθινές οι εσφαλμένες πληροφορίες, είναι βέβαιο ότι θα κάνει τις πληροφορίες στο Διαδίκτυο πιο αμφισβητήσιμες.
Ο ρυθμός με τον οποίο το ChatGPT μπορεί να παράγει πληροφορίες έχει ήδη προκαλέσει προβλήματα στο Stack Exchange, έναν ιστότοπο που είναι αφιερωμένος στην παροχή σωστών απαντήσεων σε καθημερινές ερωτήσεις. Αμέσως μετά την κυκλοφορία του ChatGPT, οι χρήστες άρχισαν να πλημμυρίζουν τον ιστότοπο με απαντήσεις που ζητούσαν από το ChatGPT να το δημιουργήσει.
Χωρίς αρκετούς ανθρώπους εθελοντές για να ταξινομήσουν τις καθυστερήσεις, θα ήταν αδύνατο να διατηρηθεί ένα υψηλό επίπεδο ποιότητας απαντήσεων. Για να μην αναφέρουμε ότι πολλές από τις απαντήσεις ήταν απλώς λανθασμένες. Για να αποφευχθεί η ζημιά στον ιστότοπο, όλες οι απαντήσεις που δημιουργούνται με το ChatGPT έχουν αποκλειστεί. Επαληθεύω Τρόποι με τους οποίους τα παιδιά μπορούν να χρησιμοποιήσουν το ChatGPT με ασφάλεια.
6. Το OpenAI έχει πολλή δύναμη
Με τη μεγάλη δύναμη έρχεται μεγάλη ευθύνη και το OpenAI έχει μεγάλη δύναμη. Είναι μια από τις πρώτες εταιρείες τεχνητής νοημοσύνης που ταρακούνησε πραγματικά τον κόσμο με όχι ένα, αλλά πολλά μοντέλα τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Dall-E 2, GPT-3 και GPT-4.
Το OpenAI επιλέγει τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση του ChatGPT, αλλά αυτές οι πληροφορίες δεν είναι δημόσια διαθέσιμες. Απλώς δεν γνωρίζουμε τις λεπτομέρειες για το πώς εκπαιδεύτηκε το ChatGPT, ποια δεδομένα χρησιμοποιήθηκαν, από πού προήλθαν τα δεδομένα ή πώς φαίνεται λεπτομερώς η αρχιτεκτονική του συστήματος.
Ενώ το OpenAI θεωρεί την ασφάλεια υψηλή προτεραιότητα, υπάρχουν πολλά που δεν γνωρίζουμε για το πώς θα λειτουργήσουν τα ίδια τα μοντέλα, καλώς ή κακώς. Είτε πιστεύετε ότι ο κώδικας πρέπει να είναι ανοιχτού κώδικα είτε συμφωνείτε ότι θα πρέπει να κρατά μυστικά μέρη του, δεν μπορούμε να κάνουμε πολλά για αυτό.
Στο τέλος της ημέρας, πρέπει να εμπιστευόμαστε τυφλά το OpenAI για την έρευνα, την ανάπτυξη και τη χρήση του ChatGPT με υπευθυνότητα. Είτε συμφωνούμε με τις μεθόδους είτε όχι, το OpenAI θα συνεχίσει να αναπτύσσει το ChatGPT σύμφωνα με τους δικούς του στόχους και ηθικά πρότυπα. Επαληθεύω Έχει χάσει πραγματικά το OpenAI τον έλεγχο του chatbot ChatGPT;
Αντιμετωπίστε τα μεγαλύτερα προβλήματα της τεχνητής νοημοσύνης
Υπάρχουν πολλά που πρέπει να ενθουσιαστείτε με το ChatGPT, αλλά πέρα από τις άμεσες χρήσεις του, υπάρχουν μερικά σοβαρά ζητήματα που αξίζει να κατανοήσετε. Το OpenAI αναγνωρίζει ότι το ChatGPT μπορεί να παράγει κακόβουλες και μεροληπτικές απαντήσεις, ελπίζοντας να μετριάσει το πρόβλημα συλλέγοντας σχόλια από τους χρήστες. Αλλά η ικανότητά του να παράγει συναρπαστικό κείμενο, ακόμη και όταν τα γεγονότα δεν είναι αληθινά, μπορεί εύκολα να χρησιμοποιηθεί από άτομα με κακές προθέσεις.
Με εντελώς νέα τεχνολογία, είναι δύσκολο να προβλέψουμε τα προβλήματα που θα προκύψουν στο μέλλον. Έτσι, αν και μπορεί να είναι διασκεδαστικό στη χρήση, φροντίστε να μην πιστεύετε όλα όσα λέει το ChatGPT. Μπορείτε να δείτε τώρα Μπορεί το ChatGPT να παρέχει αξιόπιστες πληροφορίες υγείας;
