在 Windows 上配置 Ollama 服务并开放局域网访问

news/2025/2/26 22:55:25

为了在局域网内共享 Ollama 服务,我们需要完成以下两步:

1、设置 Ollama 的环境变量 OLLAMA_HOST,使其监听局域网的 IP 地址。

(1) 配置 Ollama 服务的监听地址
Ollama 服务使用环境变量 OLLAMA_HOST 来指定监听的地址,默认情况下,它只监听 localhost,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST 设为 0.0.0.0
(2)设置环境变量

在 Windows 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST:

1、打开系统属性:

右键点击 此电脑 或 计算机,选择 属性。
在左侧点击 高级系统设置。
2、环境变量:

在弹出的窗口中,点击 环境变量。
3、新建用户环境变量:

        在 系统变量 部分,点击 新建。
        在 变量名 输入框中,输入 OLLAMA_HOST。
        在 变量值 输入框中,输入 0.0.0.0,然后点击 确定。
4、重启命令行窗口:
        设置完成后,确保关闭并重新打开命令行窗口,使新的环境变量生效。

完成后,Ollama 服务将在所有网络接口上监听,包括局域网。

2、在 Windows 防火墙中开放 Ollama 服务使用的端口(如 11434)。

为了使其他设备能够访问 Ollama 服务,我们需要在 Windows 防火墙中开放 Ollama 服务运行的端口(例如 11434)。你可以选择通过图形界面操作,或者更快捷地通过命令行操作来完成设置。

方法一:使用 Windows 防火墙图形界面

  1. 打开 控制面板,搜索并选择 Windows Defender 防火墙。
  2. 在左侧点击 高级设置,进入高级防火墙设置页面。
  3. 在左侧菜单中,点击 入站规则,然后在右侧点击 新建规则。
  4. 选择 端口 作为规则类型,然后点击 下一步。
  5. 选择 TCP,并在 特定本地端口 一栏中输入 11434,然后点击 下一步。
  6. 选择 允许连接,点击 下一步。
  7. 根据需求选择应用的网络类型(域、专用或公用),点击 下一步。
  8. 为这条规则命名(如 “Allow Ollama Port 11434”),然后点击 完成。

方法二:使用命令行快速开放端口
如果你更习惯使用命令行,可以通过以下步骤快速开放端口。
1、打开 命令提示符(以管理员身份运行),使用以下命令为 Ollama 服务开放 11434 端口(TCP 协议):

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434

如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP 改为 UDP

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434

2、你可以通过以下命令确认规则是否正确添加:

netsh advfirewall firewall show rule name="Allow Port 11434"

3、测试 Ollama 服务是否在局域网中可访问

完成上述设置后,Ollama 服务应该可以通过局域网中的其他设备访问。你可以通过局域网中的另一台设备,在浏览器中输入以下地址进行测试:
http://<你的本机IP地址>:11434
例如,如果你的本机 IP 地址是 192.168.1.100,则在局域网中其他设备的浏览器中输入:

http://192.168.1.100:11434

怎么查看本机ip地址,在cmd下输入ipconfig查看,我是用的WiFi,所以选择的是无线局域网适配器WLAN,你连接的宽带的话就看以太网的ip地址,如下所示。


如果服务成功启动,页面应显示 Ollama API 的相关信息,表明你的服务已经能够在局域网中正常访问。

5. 总结
通过以上步骤,你可以轻松地在 Windows 上配置 Ollama 服务并允许其他局域网设备访问该服务。具体操作包括:

  1. 配置环境变量 OLLAMA_HOST,使 Ollama 服务监听局域网中的请求。
  2. 在 Windows 防火墙中开放相应端口。

这一过程简单且高效,能够帮助你快速地将本地 AI 服务共享给局域网中的其他设备,实现更广泛的应用场景。

 本文参考文章:在 Windows 上配置 Ollama 服务并开放局域网访问_windows_史不了-尧米AI


http://www.niftyadmin.cn/n/5869249.html

相关文章

elementPlus 中表单验证方法(手机号、正整数、邮箱)

1、手机号验证 <el-form ref"formRef" :model"form" :rules"rule" label-width"100px"><el-form-item label"联系电话" prop"mobile"><el-input type"tel" v-model"form.mobile&q…

服务端获取远程ip的方法

在业务系统中&#xff0c;通常需要获取用户的真实ip地址对用户进行分析&#xff0c;nginx配置需要有相关的配置才行 1、nginx配置 #server模块配置 proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header REMOTE-HOST $remote_addr; prox…

数据保护API(DPAPI)深度剖析与安全实践

Windows DPAPI 安全机制解析 在当今数据泄露与网络攻击日益频繁的背景下&#xff0c;Windows 提供的 DPAPI&#xff08;Data Protection API&#xff09;成为开发者保护本地敏感数据的重要工具。本文将从 双层密钥体系、加密流程、跨上下文加密、已知攻击向量与防御措施、企业…

【前端】【面试】【功能函数】写一个JavaScript树形结构操作函数:`filter` 与 `forEach`

写一个JavaScript树形结构操作函数&#xff1a;filter 与 forEach 在JavaScript开发中&#xff0c;处理树形结构数据是一项常见的任务。本文将详细介绍两个用于操作树形结构数据的函数&#xff1a;filter 和 forEach&#xff0c;包括它们的功能、使用方法以及具体示例。 1. f…

ubuntu-server 安装 navidia 显卡驱动

资料 https://juejin.cn/post/7362562720708280332 过程 ubuntu-drivers devices 选择ubuntu-server安装 rootroot:~# ubuntu-drivers devices udevadm hwdb is deprecated. Use systemd-hwdb instead. udevadm hwdb is deprecated. Use systemd-hwdb instead. udevadm hwd…

水利工程安全包括哪几个方面

水利工程安全培训的内容主要包括以下几个方面&#xff1a; 基础知识和技能培训 &#xff1a; 法律法规 &#xff1a;学习水利工程相关的安全生产法律法规&#xff0c;了解安全生产标准及规范。 事故案例 &#xff1a;通过分析事故案例&#xff0c;了解事故原因和教训&#x…

当下弹幕互动游戏源码开发教程及功能逻辑分析

当下很多游戏开发者或者想学习游戏开发的人&#xff0c;想要了解如何制作弹幕互动游戏&#xff0c;比如直播平台上常见的那种&#xff0c;观众通过发送弹幕来影响游戏进程。需要涵盖教程的步骤和功能逻辑的分析。 首先&#xff0c;弹幕互动游戏源码开发教程部分应该分步骤&…

力扣 下一个排列

交换位置&#xff0c;双指针&#xff0c;排序。 题目 下一个排列即在组成的排列中的下一个大的数&#xff0c;然后当这个排列为降序时即这个排列最大&#xff0c;因为大的数在前面&#xff0c;降序排列的下一个数即升序。所以&#xff0c;要是想找到当前排列的下一个排列&…