该教程假设您已经熟悉以下概念: Chat Models Chaining runnables Embeddings Vector stores Retrieval-augmented generation 很多流行的项目如 llama.cpp, Ollama, 和 l...
博客广场
使用 LangChain 构建本地 RAG 应用
Dify 接入 Ollama 部署的本地模型
Dify 支持接入 Ollama 部署的大型语言模型推理和 embedding 能力。 快速接入 下载 Ollama 访问 Ollama 安装与配置，查看 Ollama 本地部署教程。 运行 Ollama 并与 Llama...
搭建本地的 AI Copilot 编程助手
简介 本文档介绍了如何在本地搭建类似 Copilot 的编程助手，以帮助您写出更加优美，效率的代码。 从过本课程你将学会，使用 Ollama 集成本地编程助手，其中包括 Continu...
WebUI 部署 Ollama 可视化对话界面
参考仓库地址：https://github.com/ollama-webui/ollama-webui-lite 一、使用 Node.js 部署 安装 Node.js 下载并安装 Node.js 工具：https://www.nodejs.com.cn/downloa...
FastAPI 部署 Ollama 可视化对话界面
一、目录结构 仓库 notebook 的 C6 文件夹下： fastapi_chat_app/ │ ├── app.py ├── websocket_handler.py ├── static/ │ └── index.html └── requirements.txt app.py ...
Ollama 在 LangChain 中的使用 - JavaScript 集成
简介 本文档介绍了如何在 JavaScript 环境中使用 Ollama 与 LangChain 集成，以创建强大的 AI 应用。Ollama 是一个开源的大语言模型部署工具，而 LangChain 则是一个用...
Ollama 在 LangChain 中的使用 - Python 集成
简介 本文档介绍了如何在 Python 环境中使用 Ollama 与 LangChain 集成，以创建强大的 AI 应用。Ollama 是一个开源的大语言模型部署工具，而 LangChain 则是一个用于构...
在 Golang 中使用 Ollama API
本文介绍了如何在 Golang 中使用 Ollama API。这篇文档旨在帮助开发者快速上手并充分利用 Ollama 的能力。Ollama 本身是由 Golang 语言开发，Golang 语言版本的接口代码...
在 C++ 中使用 Ollama API
本文介绍了如何在 C++ 中使用 Ollama API 。这篇文档旨在帮助 C++ 开发者快速上手并充分利用 Ollama 的能力。通过学习本文档，你可以轻松集成 Ollama 到你的项目中。 需...
在 JavaScript 中使用 Ollama API
本文介绍了如何在 JavaScript 中使用 Ollama API 。这篇文档旨在帮助开发者快速上手并充分利用 Ollama 的能力。你可以在 Node.js 环境中使用，也可以在浏览器中直接导入...
在 Java 中使用 Ollama API
本文介绍了如何在 Java 中使用 Ollama API。这篇文档旨在帮助开发者快速上手并充分利用Ollama的能力。你可以直接在程序中调用 Ollama API，也可以通过 Spring AI 组件调...
在 Python 中使用 Ollama API
在本文中，我们将简单介绍如何在 Python 中使用 Ollama API。无论你是想进行简单的聊天对话、使用流式响应处理大数据、还是希望在本地进行模型的创建、复制、删除等操作...
Ollama API 使用指南
简介 Ollama 提供了强大的 REST API，使开发者能够方便地与大语言模型进行交互。通过 Ollama API，用户可以发送请求并接收模型生成的响应，应用于自然语言处理、文本生...
Ollama 自定义在 GPU 中运行
Windows 以下以 Windows 系统为例，介绍如何自定义在 GPU 中运行 Ollama。 Ollama 默认情况下使用 CPU 进行推理。为了获得更快的推理速度，可以配置 Ollama 使用的 GPU...
Ollama 自定义模型存储位置
以 Windows 系统为例，Ollama 拉取的模型默认存储在 C 盘中，若需要拉取多个模型，则让 C 盘爆满，影响 C 盘存储空间。 因此，本节将介绍如何在 Windows、Linux 和 MacO...
Ollama 自定义导入模型
简介 本节学习如何使用 Modelfile 来自定义导入模型，主要分为以下几个部分: 从 GGUF 导入 从 Pytorch 或 Safetensors 导入 由模型直接导入 自定义 Prompt 一、从 GGUF ...
Ollama 安装与配置 - docker 篇
简介 本节学习如何在 Docker 中完成 Ollama 的安装与配置。 Docker是一种虚拟化的容器技术，其基于镜像，可以秒级启动各种容器。其中的每一种容器都是一个完整的运行环...
Ollama 安装与配置 - Linux 系统篇
简介 本节学习如何在 Linux 系统中完成 Ollama 的安装与配置，以及对 Ollama 更新，特定版本的安装，查看日志和卸载。 一、快速安装 Ollama 下载：https://ollama.com/d...
Ollama 安装与配置 - Windows 系统篇
简介 本节学习如何在 Windows 系统中完成 Ollama 的安装与配置，主要分为以下几个部分: 访问官网直接完成下载 环境变量配置 运行 Ollama 验证安装成功🎉 一、访问官网直...
Ollama 安装与配置 - macOS 系统篇
简介 本节学习如何在 macOS 系统中完成 Ollama 的安装与配置，主要分为以下三部分: 访问官网直接完成下载 运行 Ollama 安装 Enchanted 一、访问官网直接完成下载 访问官...
