Wat is AnythingLLM?
AnythingLLM is een full-stack applicatie die is ontworpen om je de flexibiliteit te geven om zowel commerciële LLMs als populaire open-source LLMs te gebruiken, samen met oplossingen voor vectordatabases. Je kunt deze applicatie lokaal uitvoeren of extern hosten, waardoor je een veilige, privéomgeving hebt om intelligent met je documenten te communiceren. Door deze bronnen te integreren, stelt AnythingLLM je in staat om een zeer functionele AI-gestuurde chatinterface te bouwen die complexe taaltaken uitvoert zonder in te leveren op privacy of controle.Belangrijkste functies
- Thread-achtige Workspace-structuur: Workspaces fungeren als threads en organiseren gerelateerde documenten in een afgebakende ruimte. Elke Workspace isoleert documenten van andere Workspaces, waardoor een unieke context voor elk project of onderwerp behouden blijft.
- Flexibiliteit voor particulieren en bedrijven: Installeer AnythingLLM en de volledige suite aan tools als één applicatie op je persoonlijke desktop. Daarnaast zijn fijnmazige machtigingen en toegangscontrole voor organisaties ingebouwd.
- Beveiliging: AnythingLLM communiceert alleen met de services waarmee je verbinding maakt en kan volledig op je machine draaien zonder internetverbinding.
Vereisten
Voordat je begint, zorg ervoor dat je het volgende hebt:- Novita AI LLM API Key:
- Bezoek de website van Novita AI en maak een account aan.
-
Ga na het inloggen naar de pagina Key Management om je API Key te genereren. Deze sleutel is vereist om Novita AI’s modellen met AnythingLLM te verbinden.
- AnythingLLM Software: Download en installeer AnythingLLM software van de officiële website.
- Een werkende kennisbank (optioneel): Als je van plan bent je eigen documenten te gebruiken voor kennisverrijking, bereid ze dan voor op upload.
Hoe installeer je AnythingLLM lokaal op Linux?
Voor Linux-gebruikers kun je AnythingLLM installeren door deze opdracht in de terminal uit te voeren: curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh Dit downloadt de nieuwste versie van AnythingLLM’s AppImage, pakt deze uit en maakt vervolgens een symlink beschikbaar om AnythingLLM naadloos uit te voeren. Dit script pakt de app uit in$HOME/AnythingLLMDesktop.
Je kunt de app op elk moment starten door ./AnythingLLMDesktop/start uit te voeren. Hiermee start de app met volledige logging.
Integratiestappen
1. Verbind Novita AI met AnythingLLM
Volg deze stappen om Novita AI’s modellen met AnythingLLM te verbinden:-
Klik in de applicatie op het pictogram 🔧 Settings linksonder.
-
Ga naar de sectie LLM API Providers en selecteer vervolgens Novita AI in het dropdownmenu.
- Plak in het veld Novita API Key je Novita AI API Key (degene die je eerder hebt gegenereerd).
- Klik op Save om de integratie te voltooien.
2. Web Search inschakelen
AnythingLLM stelt je in staat om in realtime op het web te zoeken door webzoekmogelijkheden in te schakelen. Volg deze stappen om webzoekfunctionaliteit in te stellen:- Navigeer naar Agent Skills: Zoek in de instellingen of de hoofdinterface de sectie Agent Skills.
- Schakel Scrape Websites en Web Search in: Zet de optie aan om zowel Scrape Websites als Web Search in te schakelen.
- Kies Web Search Providers: Je kunt kiezen uit de volgende aanbevolen zoekproviders:
- DuckDuckGo: Een gratis en privacygerichte webzoekfunctie via DuckDuckGo’s HTML-interface.
- Google Search Engine: Aangedreven door een aangepaste Google Search Engine. Het is gratis tot 100 zoekopdrachten per dag.
- Bing Search: Aangedreven door de Bing Search API. Het is gratis tot 1000 zoekopdrachten per maand.
3. Maak een kennisbank
Vervolgens wil je een kennisbank bouwen die je assistent kan gebruiken. Volg deze stappen:-
Klik op het Upload-pictogram van de Workspace.
- Upload lokale documenten of websitelinks.
- Selecteer het bestand/de bestanden of de webpagina die je naar de workspace wilt uploaden.
- Zodra het bestand is geselecteerd, klik je op Move to Workspace om het document/de documenten over te zetten naar de AnythingLLM-workspace.
- Sla je bestanden op en klik op Save and Embed om het proces af te ronden.
-
Je kennisbank is nu ingesteld en klaar voor gebruik.
4. Probeer vragen te stellen
Stel in AnythingLLM vragen met @agent. Het model zal antwoorden op basis van je documenten en zoekresultaten, met citaties of verwijzingen uit de bestanden.