AnythingLLM とは？
AnythingLLM は、商用 LLM と人気のあるオープンソース LLM の両方を、ベクトルデータベースソリューションとともに柔軟に使用できるように設計されたフルスタックアプリケーションです。このアプリケーションはローカルで実行することも、リモートでホストすることもでき、ドキュメントとインテリジェントにやり取りするための安全でプライベートな環境を提供します。 これらのリソースを統合することで、AnythingLLM は、プライバシーや制御を損なうことなく複雑な言語タスクを処理する、高機能な AI 搭載チャットインターフェースの構築を可能にします。主な機能
- スレッドのような構造の Workspace: Workspace はスレッドのように機能し、関連するドキュメントを閉じた空間に整理します。各 Workspace はドキュメントを他と分離し、プロジェクトやトピックごとに固有のコンテキストを保持します。
- 個人利用およびビジネス向けの柔軟性: AnythingLLM とそのフルツールスイートを、個人のデスクトップ上に単一のアプリケーションとしてインストールできます。また、組織向けのきめ細かな権限設定とアクセス制御も組み込まれています。
- セキュリティ: AnythingLLM は、接続したサービスとのみ通信し、インターネット接続なしでも完全に自分のマシン上で実行できます。
前提条件
始める前に、以下が揃っていることを確認してください。- Novita AI LLM API Key:
- Novita AI の Web サイトにアクセスしてアカウントを作成します。
-
ログイン後、Key Management ページに移動して API Key を生成します。このキーは、Novita AI のモデルを AnythingLLM に接続するために必要です。
- AnythingLLM ソフトウェア: 公式 Web サイトから AnythingLLM software をダウンロードしてインストールします。
- 動作するナレッジベース（任意）: ナレッジ拡張に独自のドキュメントを使用する予定がある場合は、アップロード用に準備してください。
Linux に AnythingLLM をローカルインストールする方法
Linux ユーザーは、ターミナルで次のコマンドを実行することで AnythingLLM をインストールできます。 curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh これにより、AnythingLLM の AppImage の最新バージョンがダウンロードされ、展開され、AnythingLLM をシームレスに実行するための symlink が作成されます。このスクリプトはアプリを$HOME/AnythingLLMDesktop に展開します。
./AnythingLLMDesktop/start を実行することで、いつでもアプリを起動できます。これにより、完全なログ出力付きでアプリが起動します。
統合手順
1. Novita AI を AnythingLLM に接続する
Novita AI のモデルを AnythingLLM に接続するには、次の手順に従ってください。-
アプリケーションで、左下にある 🔧 Settings アイコンをクリックします。
-
LLM API Providers セクションに移動し、その後 ドロップダウンメニューから Novita AI を選択します。
- Novita API Key フィールドに、Novita AI API Key を貼り付けます（先ほど生成したもの）。
- Save をクリックして統合を完了します。
2. Web 検索を有効にする
AnythingLLM では、Web 検索機能を有効にすることで、リアルタイムに Web を検索できます。Web 検索機能をセットアップするには、次の手順に従ってください。- Agent Skills に移動する: 設定またはメインインターフェースで、Agent Skills セクションを見つけます。
- Scrape Websites と Web Search を有効にする: オプションを切り替えて、Scrape Websites と Web Search の両方の機能をオンにします。
- Web Search Providers を選択する: 次の推奨検索プロバイダーから選択できます。
- DuckDuckGo: DuckDuckGo の HTML インターフェースを使用した、無料でプライバシー重視の Web 検索です。
- Google Search Engine: カスタム Google Search Engine によって提供されます。1 日あたり最大 100 クエリまで無料です。
- Bing Search: Bing Search API によって提供されます。1 か月あたり最大 1000 クエリまで無料です。
3. ナレッジベースを作成する
次に、アシスタントが使用するナレッジベースを構築します。次の手順に従ってください。-
Workspace の Upload アイコンをクリックします。
- ローカルドキュメントまたは Web サイトリンクをアップロードします。
- Workspace にアップロードしたいファイルまたは Web ページを選択します。
- ファイルを選択したら、Move to Workspace をクリックして、ドキュメントを AnythingLLM の Workspace に転送します。
- ファイルを保存し、Save and Embed をクリックして処理を完了します。
-
これでナレッジベースのセットアップが完了し、使用できる状態になりました。
4. 質問してみる
AnythingLLM で、@agent を使用して質問します。 モデルは、あなたのドキュメントと検索結果に基づいて、ファイルからの引用や参照を含めて応答します。