Για πολύ καιρό, δεν δίσταζα να επικολλήσω ένα συμβόλαιο στο ChatGPT, να ανεβάσω μια εμπιστευτική αναφορά για να ζητήσω μια περίληψη ή να εισαγάγω μια πρόταση πελάτη σε ένα εργαλείο τεχνητής νοημοσύνης στο cloud. Τότε, μια μέρα σταμάτησα και διάβασα το έγγραφο των Όρων Παροχής Υπηρεσιών (κάτι που ξεφύλλιζα τεμπέλικα για χρόνια) και συνειδητοποίησα: αυτά τα αρχεία έφευγαν από τη συσκευή μου και ζούσαν, τουλάχιστον προσωρινά, στους διακομιστές κάποιου άλλου. Είναι ενδιαφέρον ότι συνειδητοποίησα ότι ένας πρώην συνάδελφος είχε κάποτε καλύψει το γιατί. Μην εμπιστεύεστε το ChatGPT με εμπιστευτικές πληροφορίες.Αυτή η ενόχληση με ώθησε να αναζητήσω έναν καλύτερο τρόπο.
Αυτό που βρήκα ήταν το AnythingLLM, μια δωρεάν εφαρμογή ανοιχτού κώδικα για υπολογιστές που σας επιτρέπει να δημιουργήσετε έναν πλήρως προσαρμοσμένο βοηθό τεχνητής νοημοσύνης από τα δικά σας έγγραφα—και τα κάνει όλα στη συσκευή σας. Έχει γίνει ένα από τα Εφαρμογές τεχνητής νοημοσύνης ανοιχτού κώδικα που χρησιμοποιώ καθημερινάΝα πώς ήταν στην πραγματικότητα η μεταμόρφωση.
Γρήγοροι σύνδεσμοι
Η εγκατάσταση και η διαμόρφωση του AnythingLLM διαρκεί μόνο λίγα λεπτά.
Σας λέει ακριβώς πού πηγαίνουν τα δεδομένα σας πριν καν ξεκινήσετε.
Αφού λάβετε το αρχείο εγκατάστασης, κάντε διπλό κλικ πάνω του και ο οδηγός θα αναλάβει την εγκατάσταση. Κατά την εγκατάσταση, κατεβάζει αυτόματα τα υποστηρικτικά στοιχεία: τις βιβλιοθήκες CUDA της Ollama, εάν έχετε συμβατή GPU NVIDIA – μια διαδικασία που θα εκτιμήσετε μόλις την κατανοήσετε. Τι είναι οι πυρήνες CUDA και πώς βελτιώνουν τη γενική υπολογιστική ισχύ; FFProbe για επεξεργασία πολυμέσων και στοιχεία Meeting Assistant για λειτουργίες ήχου. Κανένα από αυτά δεν απαιτεί καμία δική σας παρέμβαση. Όλη η διαδικασία, από το διπλό κλικ στο πρόγραμμα εγκατάστασης μέχρι την προβολή του κύριου πίνακα ελέγχου, διήρκεσε λιγότερο από πέντε λεπτά.
Μόλις ανοίξετε το AnythingLLM, ένα από τα πρώτα πράγματα που παρουσιάζει είναι μια οθόνη διαχείρισης δεδομένων και απορρήτου—και αξίζει να την διαβάσετε. Αναφέρει σαφώς ότι η φόρμα και οι συνομιλίες σας είναι προσβάσιμες μόνο στη συσκευή σας, ότι το κείμενο του εγγράφου είναι ιδιωτικά ενσωματωμένο σε αυτήν την περίπτωση χρησιμοποιώντας το ενσωματωμένο AnythingLLM Embedder και ότι τα διανύσματά σας αποθηκεύονται τοπικά μέσω του LanceDB. Αν έχετε αναζητήσει ποτέ Τι είναι μια διανυσματική βάση δεδομένων και πώς ενισχύει την τεχνητή νοημοσύνη;Θα συνειδητοποιήσετε ότι η πλήρης διατήρηση αυτού του στοιχείου εκτός σύνδεσης αποτελεί σημαντική νίκη για την προστασία της ιδιωτικής ζωής. Δεν υπάρχουν κουμπιά εναλλαγής και οι επιλογές εξαίρεσης είναι κρυμμένες στις ρυθμίσεις. Όλα παραμένουν τοπικά από προεπιλογή.
Αμέσως μετά την επισκόπηση απορρήτου, το AnythingLLM σας καθοδηγεί στην οθόνη προτιμήσεων LLM. Η λίστα των υποστηριζόμενων παρόχων είναι εκτενής: από την πλευρά του cloud, υπάρχουν οι OpenAI, Anthropic, Azure OpenAI, Gemini, Groq και άλλοι. Από την πλευρά που είναι εξ ολοκλήρου εγκατεστημένη, υπάρχουν, μεταξύ άλλων, οι Ollama, LM Studio, LocalAI, KoboldCPP, Dell Pro AI Studio, Microsoft Foundry Local και Docker Model Runner. Η προεπιλεγμένη επιλογή "AnythingLLM" συνδυάζει έναν τοπικό δρομέα μοντέλων που υποστηρίζεται από την Ollama, που σημαίνει ότι μπορείτε να κατεβάσετε μοντέλα όπως το Phi-4 της Microsoft (9.1 GB) ή το Qwen3 0.6B της Alibaba (μικρά 600 MB) απευθείας από την εφαρμογή, χωρίς καμία πρόσθετη ρύθμιση.
Αν το μηχάνημά σας δεν διαθέτει ειδική μονάδα επεξεργασίας γραφικών (GPU), αυτό δεν αποτελεί πρόβλημα. Η σύνδεση με το Groq API σάς παρέχει πρόσβαση σε μοντέλα γρήγορης εξαγωγής συμπερασμάτων όπως το Llama 3 70B με σχεδόν μηδενικό κόστος και χρειάζεστε μόνο ένα κλειδί API για να το λειτουργήσει. Μπορείτε να αλλάξετε πάροχο ανά πάσα στιγμή από τις ρυθμίσεις, επομένως δεν είστε δεσμευμένοι από την επιλογή που επιλέξατε στη ρύθμιση. Ξεκίνησα με τον τοπικό πάροχο για δοκιμές — το Phi-3 3.8B με εξέπληξε με το πόσο καλά χειριζόταν τις ερωτήσεις και απαντήσεις εγγράφων σε έναν φορητό υπολογιστή μεσαίας κατηγορίας — και στη συνέχεια άλλαξα στο Groq για βαρύτερες εργασίες όπου η ταχύτητα ήταν πιο σημαντική.
Μόλις ρυθμιστεί, το AnythingLLM μετατρέπει τα προσωπικά σας έγγραφα σε έναν στοχευμένο βοηθό τεχνητής νοημοσύνης.
Τα αρχεία σας μιλούν ξανά με πιο καθαρό τρόπο
Ο πίνακας ελέγχου σας υποδέχεται με μια λίστα ελέγχου για να ξεκινήσετε και μια πλαϊνή μπάρα που περιέχει ήδη έναν εικονικό χώρο εργασίας που ονομάζεται "Ο Χώρος Εργασίας μου". Οι χώροι εργασίας αποτελούν την βασική οργανωτική ιδέα στο AnythingLLM: ο καθένας είναι ένα αυτόνομο περιβάλλον όπου συνυπάρχουν τα έγγραφα και οι συνομιλίες σας. Σκεφτείτε κάθε χώρο εργασίας ως ξεχωριστό δωμάτιο: ένα για συμβάσεις πελατών, ένα άλλο για εσωτερική έρευνα και ένα τρίτο για προσωπικές σημειώσεις. Τα έγγραφα μπορούν να κοινοποιηθούν μεταξύ των χώρων εργασίας, εάν χρειάζεται, αλλά δεν αλληλεπιδρούν μεταξύ τους, διατηρώντας την εστίαση και την ακρίβεια των απαντήσεων της Τεχνητής Νοημοσύνης.
Η προσθήκη εγγράφων στον χώρο εργασίας είναι απλή μέσω μεταφοράς και απόθεσης. Το AnythingLLM χειρίζεται έγγραφα Word, αρχεία απλού κειμένου, αρχεία CSV, υπολογιστικά φύλλα, αρχεία ήχου, ακόμη και PDF, όπως ακριβώς... Το NotebookLM το χρησιμοποιεί για να μετατρέψει οποιοδήποτε αρχείο PDF σε μια διαδραστική συνομιλία.Υπάρχει επίσης ένα πεδίο "Ανάκτηση ιστότοπου" στον πίνακα μεταφόρτωσης, επομένως αν θέλετε να ανακτήσετε μια ιστοσελίδα ή έναν διαδικτυακό πόρο, επικολλάτε τη διεύθυνση URL και αυτό θα ανακτήσει αυτόματα το περιεχόμενο. Μόλις μεταφορτωθεί, το AnythingLLM επεξεργάζεται κάθε αρχείο μέσω αυτού, διαχωρίζοντας το κείμενο και αποθηκεύοντας τα διανύσματα τοπικά. Ένα τυπικό αρχείο PDF δέκα σελίδων διαρκεί μόνο λίγα δευτερόλεπτα.
Οι πράκτορες και οι λοξές αστυνομικές εντολές προωθούν το AnythingLLM πέρα από ένα έξυπνο πλαίσιο αναζήτησης
Εδώ είναι που γίνεται πραγματικά συναρπαστικό.
Το AnythingLLM είναι εξοπλισμένο με δυνατότητες πρακτόρων που ξεπερνούν τις απλές ερωτήσεις και απαντήσεις σε έγγραφα. Εκτελεί πληκτρολόγηση. @μέσο Στη συνομιλία, μπορείτε να ενεργοποιήσετε έναν παράγοντα τεχνητής νοημοσύνης που μπορεί να εκτελέσει εργασίες κλήσης εργαλείων: αναζητήσεις ιστού, βαθύτερες αναζητήσεις και ενέργειες μεταξύ εφαρμογών. Προσαρμοσμένες δεξιότητες παράγοντα είναι διαθέσιμες μέσω του Κέντρου Κοινότητας AnythingLLM, όπου η βιβλιοθήκη αναπτύσσεται συνεχώς. Η λειτουργία εντολών slash σάς επιτρέπει να δημιουργείτε και να αποθηκεύετε πρότυπα προτροπών για επαναλαμβανόμενες εργασίες — όπως σύνοψη σημειώσεων σύσκεψης σε συνεπή μορφή, διατύπωση απαντήσεων email με συγκεκριμένο τόνο ή εξαγωγή συγκεκριμένων πεδίων από μεταφορτωμένα έγγραφα κάθε φορά.
Αν θέλετε να το πάτε ένα βήμα παραπέρα, υπάρχει μια επέκταση προγράμματος περιήγησης που σας επιτρέπει να αλληλεπιδράτε με την παρουσία σας στο AnythingLLM από οποιαδήποτε ιστοσελίδα και μια ενσωμάτωση GPTLocalhost που φέρνει τον βοηθό απευθείας στο Microsoft Word. Οι ομάδες που χρειάζονται κοινόχρηστη πρόσβαση μπορούν να επιλέξουν την έκδοση Docker, η οποία προσθέτει υποστήριξη πολλαπλών χρηστών, στοιχεία ελέγχου βάσει ρόλων και προσθήκη σε λίστα επιτρεπόμενων. Η εφαρμογή για υπολογιστές είναι υπεραρκετή για προσωπική χρήση, αλλά είναι καλό να γνωρίζετε ότι είναι διαθέσιμη μια διαδρομή ρύθμισης ομάδας.
Καλώς ορίσατε στην επανάσταση της Τεχνητής Νοημοσύνης για εσάς (πληθυσμός: εσείς)
Με τη μετάβαση στο AnythingLLM, σταμάτησα να βλέπω την Τεχνητή Νοημοσύνη ως μια υπηρεσία που νοικιάζω και άρχισα να τη βλέπω ως ένα εργαλείο που μου ανήκει. Τα έγγραφά μου παραμένουν στον δίσκο μου, τα ερωτήματά μου παραμένουν ιδιωτικά και τώρα έχω έναν ψηφιακό βοηθό που κατανοεί πραγματικά το περιβάλλον μου, όχι μόνο το δημόσιο διαδίκτυο.
