Ο τομέας της επεξεργασίας φυσικής γλώσσας (NLP) έχει γνωρίσει μια τεράστια επανάσταση τα τελευταία χρόνια, με την εμφάνιση μεγάλων γλωσσικών μοντέλων (LLM) που προσφέρουν εξαιρετικές δυνατότητες στην κατανόηση και την επεξεργασία της ανθρώπινης γλώσσας. Το Gemini 1.5 είναι ένα από τα πιο πρόσφατα από αυτά τα μοντέλα, που προσφέρει τεράστιες δυνατότητες. Το μοντέλο Google Gemini 1.5 έρχεται τώρα με ένα τεράστιο παράθυρο περιβάλλοντος με XNUMX εκατομμύριο μοναδικά εικονίδια, υποβαθμίζοντας τους άμεσους ανταγωνιστές του όπως το ChatGPT, ο Claude και άλλα chatbot που υποστηρίζονται από AI.
Το παράθυρο συμφραζομένων με ένα εκατομμύριο διακριτικά στο Gemini 1.5 αλλάζει το παιχνίδι, επιτρέποντας στο μοντέλο να έχει μια βαθύτερη και ακριβέστερη κατανόηση της γλώσσας. Με μεγαλύτερη χωρητικότητα συμφραζομένων, το μοντέλο μπορεί να αναλύσει περισσότερες λέξεις και φράσεις που περιβάλλουν μια δεδομένη λέξη ή πρόταση, κάτι που το βοηθά να συμπεράνει καλύτερα το νόημα. Επαληθεύω Το Gemini AI της Google φτάνει: Ξεχωρίζει περισσότερο από το ChatGPT στον κόσμο της AI;
Γρήγοροι σύνδεσμοι
Τι είναι το παράθυρο περιβάλλοντος;
Ενώ απαντούν στα ερωτήματά σας, όπως η εξήγηση μιας έννοιας ή η περίληψη ενός κειμένου, τα μοντέλα τεχνητής νοημοσύνης έχουν όρια στον όγκο των δεδομένων που μπορούν να λάβουν υπόψη για να δημιουργήσουν μια απάντηση. Το μέγιστο μέγεθος κειμένου που μπορεί να ληφθεί υπόψη ονομάζεται παράθυρο περιβάλλοντος.
Εδώ είναι ένας άλλος τρόπος για να δούμε αυτήν την έννοια. Ας υποθέσουμε ότι πήγατε σε ένα παντοπωλείο για να αγοράσετε λαχανικά και είδη σπιτιού χωρίς τη λίστα με τα παντοπωλεία σας. Ο μέγιστος αριθμός ειδών παντοπωλείου που θυμάστε όταν ψωνίζετε είναι το παράθυρο περιβάλλοντος. Όσο περισσότερα παντοπωλεία μπορείτε να θυμάστε, τόσο περισσότερες είναι οι πιθανότητες να μην καταστρέψετε τα καθορισμένα σχέδια αγορών σας. Ομοίως, όσο μεγαλύτερο είναι το παράθυρο περιβάλλοντος ενός μοντέλου AI, τόσο πιο πιθανό είναι το μοντέλο να θυμάται όλα όσα χρειάζεται για να σας παρέχει τα καλύτερα αποτελέσματα.
Τη στιγμή της σύνταξης του κειμένου, το παράθυρο περιβάλλοντος Claude 2.1 της Anthropic με 200 διακριτικά είναι το μεγαλύτερο παράθυρο περιβάλλοντος από οποιοδήποτε μοντέλο τεχνητής νοημοσύνης που είναι διαθέσιμο στο κοινό. Ακολουθεί το GPT-4 Turbo με παράθυρο περιβάλλοντος 128 μάρκες. Το Google Gemini 1.5 προσφέρει ένα εκατομμύριο παράθυρα με βάση τα συμφραζόμενα, τέσσερις φορές μεγαλύτερα από οτιδήποτε άλλο στην αγορά. Αυτό οδηγεί στο μεγάλο ερώτημα: Τι είναι το ιδιαίτερο σε ένα παράθυρο περιβάλλοντος με ένα εκατομμύριο διακριτά εικονίδια; Επαληθεύω Ποιο είναι το όριο διακριτικού ChatGPT και μπορείτε να το παρακάμψετε;
Γιατί το παράθυρο περιβάλλοντος στο Gemini 1.5 είναι τόσο μεγάλο;
Για να το θέσω με περισσότερες λεπτομέρειες, το παράθυρο περιβάλλοντος 200k του Claude AI σημαίνει ότι μπορεί να λάβει ένα βιβλίο περίπου 150 λέξεων και να δώσει απαντήσεις σε αυτό. Αυτό είναι πραγματικά τεράστιο. Αλλά το Google Gemini 1.5 θα μπορεί να φιλοξενήσει 700000 λέξεις ταυτόχρονα!
Όταν τροφοδοτείτε ένα μεγάλο μπλοκ κειμένου σε προτροπές σε ένα chatbot AI, όπως το ChatGPT ή το Gemini, προσπαθεί να λάβει όσο το δυνατόν περισσότερο κείμενο, αλλά το πόσο μπορεί να λάβει εξαρτάται από το παράθυρο του περιβάλλοντος. Έτσι, εάν έχετε μια συνομιλία 100 λέξεων σε ένα μοντέλο που μπορεί να χειριστεί μόνο 28 λέξεις και στη συνέχεια αρχίσετε να του κάνετε ερωτήσεις που απαιτούν πλήρη γνώση του συνόλου των 100 λέξεων της συνομιλίας, το ρυθμίζετε για αποτυχία .
Φανταστείτε ότι παρακολουθείτε μόνο 20 λεπτά μιας ταινίας μιας ώρας αλλά σας ζητείται να εξηγήσετε ολόκληρη την ταινία. Πόσο καλά θα είναι τα αποτελέσματά σας; Είτε αρνηθείτε να απαντήσετε είτε απλώς επινοήστε, κάτι που ακριβώς θα κάνει ένα chatbot AI, με αποτέλεσμα... Μια ψευδαίσθηση τεχνητής νοημοσύνης.
Τώρα, αν πιστεύετε ότι δεν χρειάστηκε ποτέ να εισαγάγετε 100 λέξεις σε ένα chatbot, δεν είναι μόνο αυτό που έχει σημασία. Το παράθυρο περιβάλλοντος υπερβαίνει το κείμενο που τροφοδοτείται στο μοντέλο AI με μία μόνο προτροπή. Τα μοντέλα AI λαμβάνουν υπόψη ολόκληρη τη συνομιλία που έχετε κατά τη διάρκεια μιας συνεδρίας συνομιλίας για να βεβαιωθούν ότι οι απαντήσεις τους είναι όσο το δυνατόν πιο σχετικές.
Έτσι, παρόλο που δεν τροφοδοτείτε το μοντέλο με ένα βιβλίο 100 λέξεων, οι συνεχόμενες συνομιλίες σας και οι απαντήσεις που δίνει συνδυάζονται στον υπολογισμό του παραθύρου περιβάλλοντος. Αναρωτιέστε γιατί το ChatGPT ή το Gemini της Google συνεχίζει να ξεχνάει πράγματα που του είπατε νωρίτερα στη συνομιλία; Μπορεί να του τελείωσε ο χώρος του παραθύρου περιβάλλοντος και άρχισε να ξεχνάει πράγματα.
Το μεγαλύτερο παράθυρο περιβάλλοντος είναι ιδιαίτερα σημαντικό για εργασίες που απαιτούν βαθιά κατανόηση του πλαισίου, όπως η σύνοψη μεγάλων άρθρων, η απάντηση σε σύνθετες ερωτήσεις ή η διατήρηση μιας συνεκτικής αφήγησης στο κείμενο που δημιουργείται. Θέλετε να γράψετε ένα μυθιστόρημα 50 λέξεων που να έχει μια συνεπή αφήγηση παντού; Θέλετε ένα μοντέλο που να μπορεί να «βλέπει» και να απαντά σε ερωτήσεις σε ένα βίντεο διάρκειας μιας ώρας; Χρειάζεστε ένα μεγαλύτερο παράθυρο περιβάλλοντος!
Εν ολίγοις, το μεγαλύτερο παράθυρο περιβάλλοντος του Gemini 1.5 μπορεί να βελτιώσει σημαντικά την απόδοση του μοντέλου τεχνητής νοημοσύνης του, μειώνοντας τις παραισθήσεις και αυξάνοντας δραματικά την ακρίβεια και την ικανότητα να ακολουθεί κανείς καλύτερα τις οδηγίες.
Το Gemini 1.5 θα ανταποκριθεί στις προσδοκίες;
Εάν όλα πάνε όπως έχουν προγραμματιστεί, το Gemini 1.5 πιθανότατα θα ξεπεράσει τα καλύτερα μοντέλα AI στην αγορά. Ωστόσο, δεδομένων των πολυάριθμων αποτυχιών της Google στην κατασκευή ενός σταθερού μοντέλου AI, είναι σημαντικό να είμαστε προσεκτικοί. Η αύξηση του παραθύρου περιβάλλοντος της φόρμας από μόνη της δεν βελτιώνει αυτόματα τη φόρμα.
Χρησιμοποιώ το παράθυρο περιβάλλοντος 2.1k Claude 200 για αρκετούς μήνες από την κυκλοφορία του και ένα πράγμα ήταν ξεκάθαρο για μένα — ένα μεγαλύτερο παράθυρο περιβάλλοντος μπορεί πραγματικά να βελτιώσει την ευαισθησία περιβάλλοντος, αλλά προβλήματα με την απόδοση του υποκείμενου μοντέλου μπορεί να καταστήσουν προβληματικό το ευρύτερο πλαίσιο γι 'αυτό.
Θα αλλάξει το παιχνίδι το Google Gemini 1.5; Τα μέσα κοινωνικής δικτύωσης είναι επί του παρόντος γεμάτα με λαμπερές κριτικές για το Gemini 1.5 από χρήστες πρώιμης πρόσβασης. Ωστόσο, οι περισσότερες από τις κριτικές πέντε αστέρων προέρχονται από βιαστικές ή απλοϊκές περιπτώσεις χρήσης. Ένα καλό μέρος για να ελέγξετε πώς αποδίδει το Gemini 1.5 στη φύση βρίσκεται μέσα στην τεχνική έκθεση Google Gemini 1.5 [PDF]. Η αναφορά δείχνει ότι ακόμη και κατά τη διάρκεια της «ελεγχόμενης δοκιμής», το μοντέλο δεν μπόρεσε να ανακτήσει όλες τις λεπτές λεπτομέρειες των εγγράφων εντός του μεγέθους του παραθύρου περιβάλλοντος.
Ένα παράθυρο περιβάλλοντος ενός εκατομμυρίου διακριτικών είναι ήδη ένα εντυπωσιακό τεχνικό επίτευγμα, αλλά χωρίς τη δυνατότητα αξιόπιστης ανάκτησης λεπτομερειών εγγράφου, ένα μεγαλύτερο παράθυρο περιβάλλοντος έχει μικρή πρακτική αξία και μπορεί να γίνει αιτία μειωμένης ακρίβειας και πρόσθετων παραισθήσεων. Τώρα μπορείτε να δείτε Πέρα από το ChatGPT: Ένα όραμα για το μέλλον των chatbots και της γενετικής τεχνητής νοημοσύνης;
