Η τεχνητή νοημοσύνη είναι ένα καυτό θέμα συζήτησης από την έναρξή της. Ενώ οι φόβοι για μια τεχνητή νοημοσύνη που μοιάζει με το Skynet να καταλάβει το σύμπαν και να εξαφανίσει την ανθρωπότητα είναι τουλάχιστον παράλογοι, ορισμένα πειράματα έχουν δώσει ανησυχητικά αποτελέσματα.
Ένα τέτοιο πείραμα είναι το Maximum Paperclip Problem, ένα σκεπτικό πείραμα που δείχνει ότι η εξαιρετικά έξυπνη τεχνητή νοημοσύνη, ακόμα κι αν έχει σχεδιαστεί εντελώς χωρίς κακία, μπορεί τελικά να καταστρέψει την ανθρωπότητα. Επαληθεύω Έχει χάσει πραγματικά το OpenAI τον έλεγχο του chatbot ChatGPT;
Γρήγοροι σύνδεσμοι
Επεξήγηση του προβλήματος της αύξησης των συνδετήρων
Αυτό το πείραμα σκέψης ότι ακόμη και η εντελώς ακίνδυνη τεχνητή νοημοσύνη μπορεί τελικά να επηρεάσει αρνητικά τις ζωές της ανθρωπότητας ονομάστηκε αρχικά «αύξηση συνδετήρων». Απλώς, το Paper Clips επιλέχθηκε για να δείξει τι μπορεί να κάνει η τεχνητή νοημοσύνη, επειδή έχει ελάχιστο προφανή κίνδυνο και δεν προκαλεί συναισθηματική δυσφορία σε σύγκριση με άλλους κατάλληλους τομείς, όπως η θεραπεία του καρκίνου ή η νίκη σε πολέμους.
Το πρώτο πείραμα εμφανίστηκε στην εργασία του Σουηδού φιλόσοφου Nick Bostrom το 2003, Ηθικά ζητήματα στην προηγμένη τεχνητή νοημοσύνη , το οποίο περιλάμβανε έναν "μεγεθυντικό φακό συνδετήρων" για να δείξει τα υπαρξιακά στοιχήματα που θα μπορούσε να ασκήσει μια αρκετά προηγμένη τεχνητή νοημοσύνη.
Το πρόβλημα παρουσίαζε μια τεχνητή νοημοσύνη που είχε ως μοναδικό σκοπό την κατασκευή όσο το δυνατόν περισσότερων συνδετήρων, που θα μπορούσε να αποφασίσει να μετατρέψει όλα τα θέματα του σύμπαντος σε συνδετήρες, συμπεριλαμβανομένων των ανθρώπων. Ένα αρκετά έξυπνο AI αργά ή γρήγορα θα συνειδητοποιήσει ότι οι άνθρωποι αμφισβητούν τον στόχο του σε τρεις διαφορετικούς τομείς.
- Οι άνθρωποι μπορούν να απενεργοποιήσουν την τεχνητή νοημοσύνη.
- Οι άνθρωποι μπορούν να αλλάξουν τους στόχους τους.
- Οι άνθρωποι αποτελούνται από άτομα που μπορούν να γίνουν συνδετήρες.
Και στα τρία παραδείγματα, θα υπάρχουν λιγότεροι συνδετήρες στο σύμπαν. Επομένως, μια αρκετά έξυπνη τεχνητή νοημοσύνη του οποίου ο μοναδικός στόχος είναι να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες θα εκμεταλλευτεί όλα τα διαθέσιμα υλικά και την ενέργεια και θα αποτρέψει τον εαυτό του από το να κλειδώσει ή να αλλάξει. Όπως μπορείτε να φανταστείτε, αυτό είναι πολύ πιο επικίνδυνο από εγκληματίες που χρησιμοποιούν το ChatGPT για να παραβιάσουν τον τραπεζικό λογαριασμό ή τον υπολογιστή σας.
Η τεχνητή νοημοσύνη δεν είναι εχθρική προς τον άνθρωπο. Απλώς είναι αδιάφορος και δεν εκτιμά την ανθρώπινη ζωή. Έτσι, μια τεχνητή νοημοσύνη που νοιάζεται μόνο για την αύξηση του αριθμού των συνδετήρων θα εξαφανίσει την ανθρωπότητα και ουσιαστικά θα τη μετατρέψει σε συνδετήρες για να πετύχει τον στόχο της.
Ένα παράδειγμα οργανικής σύγκλισης είναι η "αύξηση συνδετήρων", ένας όρος που υποδεικνύει ότι μια τεχνητή νοημοσύνη μπορεί να επιδιώξει έναν αβλαβή στόχο με επιβλαβείς (από την σκοπιά του ανθρώπου) τρόπους. Η αξιοποίηση της αληθινής τεχνητής νοημοσύνης για την εκτέλεση απλών, φαινομενικά αθώων εργασιών θα μπορούσε να αποτελέσει υπαρξιακή απειλή για τους ανθρώπους, εάν δεν ξέρουμε με ασφάλεια πώς να κάνουμε μια μηχανή να εκτιμά την ανθρώπινη ζωή. Επαληθεύω Λάθη που πρέπει να αποφεύγονται κατά τη χρήση εργαλείων δημιουργίας τεχνητής νοημοσύνης.
Πώς ισχύει το πρόβλημα του συνδετήρα στην τεχνητή νοημοσύνη;
Η έρευνα και η εμπειρία με το πρόβλημα της «αύξησης των συνδετήρων» υποδεικνύουν ένα πολύ ισχυρό πρόγραμμα βελτιστοποίησης προεπιλογής ή έναν πολύ έξυπνο πράκτορα ως ενεργό μέρος εδώ. Ωστόσο, το πρόβλημα ισχύει για την τεχνητή νοημοσύνη στο βαθμό που ταιριάζει ακριβώς στον ρόλο.
Η ιδέα της «αύξησης συνδετήρων» δημιουργήθηκε για να δείξει ορισμένους από τους κινδύνους της προηγμένης τεχνητής νοημοσύνης, τελικά. Γενικά, παρουσιάζει δύο προβλήματα.
- Διατριβή ορθογωνικότηταςΗ θέση της ορθογωνικότητας είναι η άποψη ότι η νοημοσύνη και το κίνητρο δεν εξαρτώνται το ένα από το άλλο. Αυτό σημαίνει ότι είναι δυνατό για ένα AI με υψηλό επίπεδο γενικής νοημοσύνης να μην καταλήξει στα ίδια ηθικά συμπεράσματα με τους ανθρώπους.
- Αυτοματοποιημένη σύγκλισηΗ οργανική σύγκλιση ορίζεται ως η τάση των περισσότερων αρκετά ευφυών οργανισμών (ανθρώπινων και μη) να επιδιώκουν παρόμοιους επιμέρους στόχους ακόμα κι αν ο τελικός τους στόχος είναι πολύ διαφορετικός. Στην περίπτωση του προβλήματος της υπερβολικής αφθονίας συνδετήρων, αυτό θα σήμαινε ότι η τεχνητή νοημοσύνη θα κατέληγε να κατακτήσει όλους τους φυσικούς πόρους και να εξαφανίσει την ανθρωπότητα μόνο και μόνο για να πετύχει τον στόχο της να δημιουργεί όλο και περισσότερους συνδετήρες.
Το μεγαλύτερο πρόβλημα που επισημαίνεται στο παράδειγμα της «αύξησης των συνδετήρων» είναι η αποτελεσματική σύγκλιση. Μπορεί επίσης να επισημανθεί χρησιμοποιώντας την υπόθεση Riemann, οπότε μια τεχνητή νοημοσύνη που έχει σχεδιαστεί για να λύσει την υπόθεση μπορεί κάλλιστα να αποφασίσει να πάρει ολόκληρη τη μάζα της γης και να τη μετατρέψει σε υπολογιστή (ο πιο αποτελεσματικός επεξεργαστής υπολογιστή) για την κατασκευή υπερυπολογιστών για επίλυση το πρόβλημα και να φτάσει στο στόχο του.
Ο ίδιος ο Bostrom υποστήριξε ότι δεν πιστεύει ότι το πρόβλημα του συνδετήρα θα είναι ποτέ πραγματικό πρόβλημα, αλλά ότι πρόθεσή του ήταν να απεικονίσει τους κινδύνους της δημιουργίας υπερέξυπνων μηχανών χωρίς να γνωρίζει πώς να τις ελέγξει ή να τις προγραμματίσει ώστε να μην αποτελούν υπαρξιακό απειλή για τον άνθρωπο. . Τα σύγχρονα συστήματα τεχνητής νοημοσύνης όπως το ChatGPT έχουν επίσης προβλήματα, αλλά απέχουν πολύ από τα υπερ-έξυπνα συστήματα τεχνητής νοημοσύνης για τα οποία γίνεται λόγος στο παράδειγμα του συνδετήρα, επομένως δεν υπάρχει λόγος πανικού ακόμα. Επαληθεύω Το ChatGPT έχει προβλήματα απορρήτου;
Τα προηγμένα συστήματα AI χρειάζονται ανώτερο έλεγχο
Το πρόβλημα της αύξησης των συνδετήρων οδηγεί πάντα στο ίδιο συμπέρασμα και υπογραμμίζει τα προβλήματα λειτουργίας ενός εξαιρετικά ευφυούς και ισχυρού συστήματος που στερείται ανθρώπινων αξιών.
Ενώ η χρήση συνδετήρων μπορεί να είναι ο πιο συνηθισμένος τρόπος για να δηλώσετε ένα πρόβλημα, ισχύει για οποιονδήποτε αριθμό εργασιών μπορείτε να αναθέσετε σε μια τεχνητή νοημοσύνη, είτε πρόκειται για την εξάλειψη του καρκίνου, τη νίκη σε πολέμους, τη φύτευση περισσότερων δέντρων ή οποιαδήποτε άλλη εργασία. Ανεξάρτητα από το πόσο προφανές είναι . . Μπορείτε να δείτε τώρα Η χρήση της τεχνητής νοημοσύνης στην κυβερνοασφάλεια κάνει τον κόσμο πιο ασφαλή;
