O que é AnythingLLM?
AnythingLLM é uma aplicação full-stack projetada para oferecer a flexibilidade de usar tanto LLMs comerciais quanto LLMs populares de código aberto, junto com soluções de banco de dados vetorial. Você pode executar esta aplicação localmente ou hospedá-la remotamente, oferecendo um ambiente seguro e privado para interagir de forma inteligente com seus documentos. Ao integrar esses recursos, o AnythingLLM permite criar uma interface de chat altamente funcional com tecnologia de IA, capaz de lidar com tarefas complexas de linguagem sem comprometer a privacidade ou o controle.Principais recursos
- Workspace com estrutura semelhante a threads: Workspaces funcionam como threads, organizando documentos relacionados em um espaço contido. Cada Workspace isola seus documentos dos demais, preservando um contexto exclusivo para cada projeto ou tópico.
- Flexibilidade para uso pessoal e empresas: Instale o AnythingLLM e seu conjunto completo de ferramentas como uma única aplicação no seu desktop pessoal. Além disso, permissões granulares e controle de acesso para organizações também estão integrados.
- Segurança: O AnythingLLM se comunica apenas com os serviços aos quais você se conecta e pode ser executado totalmente na sua máquina sem conectividade com a internet.
Pré-requisitos
Antes de começar, certifique-se de ter o seguinte:- Chave de API LLM da Novita AI:
- Visite o site da Novita AI e crie uma conta.
-
Após fazer login, acesse a página Key Management para gerar sua chave de API. Essa chave é necessária para conectar os modelos da Novita AI ao AnythingLLM.
- Software AnythingLLM: Baixe e instale o software AnythingLLM no site oficial.
- Uma base de conhecimento funcional (opcional): Se você planeja usar seus próprios documentos para aumento de conhecimento, prepare-os para upload.
Como instalar o AnythingLLM localmente no Linux?
Para usuários Linux, você pode instalar o AnythingLLM executando este comando no terminal: curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh Isso baixará a versão mais recente do AppImage do AnythingLLM, fará a extração e, em seguida, fornecerá um symlink para executar o AnythingLLM de forma simples. Este script extrairá o aplicativo em$HOME/AnythingLLMDesktop.
Você pode iniciar o aplicativo a qualquer momento executando ./AnythingLLMDesktop/start. Isso inicializará o aplicativo com logs completos.
Etapas de integração
1. Conecte a Novita AI ao AnythingLLM
Para conectar os modelos da Novita AI ao AnythingLLM, siga estas etapas:-
Na aplicação, clique no ícone 🔧 Settings localizado no canto inferior esquerdo.
-
Acesse a seção LLM API Providers e, em seguida, selecione Novita AI no menu suspenso.
- No campo Novita API Key, cole sua chave de API da Novita AI (a que você gerou anteriormente).
- Clique em Save para concluir a integração.
2. Habilite a pesquisa na web
O AnythingLLM permite pesquisar na web em tempo real ao habilitar recursos de pesquisa na web. Siga estas etapas para configurar a funcionalidade de pesquisa na web:- Navegue até Agent Skills: Nas configurações ou na interface principal, localize a seção Agent Skills.
- Habilite Scrape Websites e Web Search: Ative a opção para habilitar os recursos Scrape Websites e Web Search.
- Escolha provedores de pesquisa na web: Você pode escolher entre os seguintes provedores de pesquisa recomendados:
- DuckDuckGo: Uma pesquisa na web gratuita e focada em privacidade usando a interface HTML do DuckDuckGo.
- Google Search Engine: Desenvolvido com um Google Search Engine personalizado. É gratuito para até 100 consultas por dia.
- Bing Search: Desenvolvido com a Bing Search API. É gratuito para até 1000 consultas por mês.
3. Crie uma base de conhecimento
Em seguida, você vai querer criar uma base de conhecimento para seu assistente usar. Siga estas etapas:-
Clique no ícone de Upload do Workspace.
- Faça upload de documentos locais ou links de sites.
- Selecione o(s) arquivo(s) ou a página da web que deseja enviar para o workspace.
- Depois que o arquivo for selecionado, clique em Move to Workspace para transferir o(s) documento(s) para o workspace do AnythingLLM.
- Salve seus arquivos e clique em Save and Embed para finalizar o processo.
-
Sua base de conhecimento agora está configurada e pronta para uso.
4. Experimente fazer perguntas
No AnythingLLM, faça perguntas usando @agent. O modelo responderá com base nos seus documentos e resultados de pesquisa, com citações ou referências dos arquivos.