AIエージェント

DifyでLM Studio経由のローカルLLMを設定する場合の手順を紹介いたします。 前提は ローカル環境（メモリは32GB以上を推奨）にLM Studioをインストールしている。 LM StudioでローカルLLMのモデル「openai/gpt-oss:20b」をインストールしている。 参考記事：LM Studioの導入 Difyをローカル環境で起動している。 としています。 ※他のモデルを設定の場合は、モデル名を読み替えていただければと思います。 １．LM Studioをサーバーとして起動 LM Studioを起動して、左メニューの緑色ア ...続きを読む

DifyでOllama経由のローカルLLMを設定する場合の手順を紹介いたします。 前提は ローカル環境（メモリは32GB以上を推奨）にOllamaをインストールしている。 OllamaでローカルLLMのモデル「gpt-oss:20b」をインストールしている。 Difyをローカル環境で起動している。 としています。 ※他のモデルを設定の場合は、モデル名を読み替えていただければと思います。 １．Difyの設定画面にアクセス Difyを起動し、ログインします。 画面右上の プロフィールアイコン をクリックします。 表示されたメニューから 「 ...続きを読む

Difyはアメリカの会社LangGenius Inc.が提供（リリース:2023年5月）している、LLMアプリ開発のプラットフォームです。 例えば独自データ（RAG:Retrieval Augmented Generation）に対応したチャットボットの構築などができます。 Dify自体について、自分のPCや社内サーバー等に設定することができます。 DifyからOllama経由でローカルLLMを使用することもできます。 関連記事 DifyでOllama経由のローカルLLMを設定 ...続きを読む