结论先说:能连,十分钟能通,要改三处。绑定地址、允许来源、反代缓冲。在 M4 Mac mini 16GB 上用 Ollama 0.40.16 实测,默认只监听 127.0.0.1:11434,手机扫进来直接连接被拒;改成 0.0.0.0 之后局域网立刻可访问;浏览器来源默认只放行 localhost 系列,其他来源返 403 且响应体是 0 字节;反向代理开着缓冲时,流式首块从 0.078 秒变成 2.03 秒,等于不流了。
一、先看清它到底监听在哪
改配置之前,先把现状读出来。用 lsof 看监听套接字,比翻文档准得多。
lsof -nP -iTCP:11434 -sTCP:LISTEN
# ollama 2270 yc 4u IPv4 ... TCP 127.0.0.1:11434 (LISTEN)
这一行里有两个信息。地址是 127.0.0.1,绑的是回环口,物理网卡上的包根本不会进这个进程。协议是 IPv4,连 IPv6 的回环都没占。此时从同一局域网的 192.168.77.214 访问 11434,curl 直接返 exit 7,也就是 Failed to connect,连 TCP 握手都没完成。手机浏览器只会说打不开这个网站,跟模型没关系。
顺带解释一个高频困惑:为什么在 .zshrc 里写了 export OLLAMA_HOST,重启 Ollama 图标还是不通。桌面版进程是由 launchd 拉起的,不读你的 shell 配置。用 ps eww 把进程环境打出来看得很清楚,PATH 只有 /usr/bin:/bin:/usr/sbin:/sbin,没有 Homebrew 路径,也没有任何 OLLAMA_ 开头的自定义项,只有它自己写的 OLLAMA_MODELS 与 OLLAMA_NO_CLOUD=0。你在终端里 export 的变量,只对终端里手动敲的 ollama serve 有效。
二、OLLAMA_HOST 的四种写法与实测监听地址
OLLAMA_HOST 填的是主机加端口,虽然带协议头也能启动。实测四种写法都能启动,但落到的套接字不一样,能不能被手机连上就取决于这个差别。
| OLLAMA_HOST 取值 | 启动日志 / lsof 显示 | 局域网 IPv4 | IPv6 ::1 | 说明 |
|---|---|---|---|---|
| 不设(默认) | 127.0.0.1:11434(IPv4) | 拒连,exit 7 | 拒连 | 本机回环,物理网卡不进包 |
| 0.0.0.0:11442 | *:11442(IPv6 套接字) | 200,0.003 秒 | 200 | 未指定地址时内核按双栈绑,IPv6 也能连 |
| :11449 | [::]:11449 | 200 | 200 | 只给冒号加端口,与上一条等价 |
| http://0.0.0.0:11448 | [::]:11448 | 200 | 200 | 带协议头也认,会被自动拆掉 |
这张表里最反直觉的是第二行。写 0.0.0.0 常被理解成只绑 IPv4 通配地址,实际日志打出来是 Listening on [::]:11448,lsof 也显示 IPv6 套接字。也就是说手机接在只发 IPv6 地址的 Wi-Fi 上,也能连进来。反过来,如果你为了安全只绑具体网卡,写成 192.168.77.214:11434,那就只有走这块网卡的流量能进。
三种系统的落地写法不一样,改完都要执行校验命令再说话。
# macOS 桌面版:写进 launchd 环境,然后退出应用再打开
launchctl setenv OLLAMA_HOST 0.0.0.0:11434
osascript -e 'quit app "Ollama"' && open -a Ollama
lsof -nP -iTCP:11434 -sTCP:LISTEN
# Linux systemd
sudo systemctl edit ollama
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0:11434"
sudo systemctl restart ollama
# Windows(管理员 PowerShell,改完重启 Ollama)
setx OLLAMA_HOST "0.0.0.0:11434"
三、浏览器 403:响应体是空的
绑好地址,手机浏览器能打开端口了,前端页面调接口却报跨域。这个时候最容易走偏,因为 Ollama 的拒绝很安静:HTTP 403,Content-Length 是 0,一个字节的说明都没有。浏览器控制台只会说 CORS policy,看起来像是前端写错了,其实服务端已经把请求挡掉了。
更隐蔽的是这层检查覆盖所有路由。实测带非法 Origin 去打 /api/version、/api/tags、/v1/models、/api/ps,四个端点全部 403。而同一个请求把 Origin 头去掉,一律 200。所以 curl 测通不代表浏览器能通,这是两件事。
默认放行哪些来源,启动日志会原样打出来,不用猜:localhost 与 127.0.0.1 与 0.0.0.0 三组各带 http、https、通配端口四种组合,再加 app://*、file://*、tauri://*、vscode-webview://*、vscode-file://*。桌面客户端和 VS Code 插件能直接用,就是因为后面这几个协议在名单里。
| 请求带的 Origin | 默认实例 | 白名单设为 .214 与 .214:8080 的实例 |
|---|---|---|
| http://localhost:3000 | 204 | 403 |
| http://127.0.0.1:3000 | 204 | 403 |
| app://x | 204 | 403 |
| http://192.168.77.214:8080 | 403 | 204 |
| http://192.168.77.214:9999 | 403 | 403 |
| https://fluxbbs.com | 403 | 403 |
| localhost:3000(漏写协议) | 403 | 403 |
白名单有三个容易踩的规则。第一,端口要逐位对上,写 http://192.168.77.214 只等于放行 80 端口,同机器上的 9999 端口照样 403。第二,协议不能省,只写 localhost:3000 一律 403。第三,白名单会整体替换默认值,不做追加,设了 OLLAMA_ORIGINS 之后,连 localhost 都不再默认放行,把开发机加回去得自己写。
OLLAMA_ORIGINS='http://192.168.77.214:3000,http://192.168.77.214:8080' ollama serve
# 校验:允许的来源返 204,其他返 403
curl -s -i -o /dev/null -D - -X OPTIONS \
-H 'Origin: http://192.168.77.214:3000' \
-H 'Access-Control-Request-Method: POST' \
http://127.0.0.1:11434/api/chat | head -1
把值写成 * 确实能一把过,实测任意来源都返 204,连 http://evil.example 都放行。这个开关在局域网里勉强能用,配合下一节讲的鉴权缺失就很危险:任何网页只要被打开,就能悄悄调用你显卡上的模型。
四、反代之后流式不流
为了统一入口,很多人会在前面挂 nginx 或 Caddy。挂完之后聊天界面一直转圈,最后整段文字一起出现。模型本身跑得并不慢,问题在缓冲把增量攒住了。
我用一个 8KB 缓冲的转发代理复现了这个现象。同一条请求,qwen3:8b,限制 80 token,三条路径各跑两次。
| 路径 | 首个数据块 | 总时长 | 分块数 |
|---|---|---|---|
| 直连 11442 | 0.074 秒 | 1.62 秒 | 31 |
| 透传代理(收到就下发) | 0.077 秒 | 1.64 秒 | 31 |
| 缓冲代理(攒满 8KB 或上游停顿 0.4 秒才下发) | 2.031 秒 | 2.03 秒 | 31 |
第三行的数字说明一切:首块时间和总时长几乎相等,意味着客户端在整段生成结束前拿不到任何东西。整段响应才 3KB 左右,永远填不满 8KB 缓冲,只能等结束才吐出去。判断方法很直接,用 curl -N 分别打直连和反代,直连能看到逐行输出,反代一次性吐出全部,就是缓冲没关。
location /ollama/ {
proxy_pass http://127.0.0.1:11434/;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_buffering off;
proxy_cache off;
proxy_read_timeout 600s;
}
proxy_read_timeout 需要单独提一句。默认 60 秒对小模型够用,跑 32B 或者长上下文时单次生成能超过 60 秒,nginx 会在中途断开连接,客户端看到的是连接被重置,很容易被误判成模型崩溃。给到 600 秒比较稳。
五、没有鉴权这件事比端口更危险
Ollama 的 API 不校验身份。实测在请求里塞一个伪造的 Authorization: Bearer sk-totallyfake,/api/tags 依然返 200。它连这个头都不读。所以一旦绑到 0.0.0.0 又挂了公网隧道,等于把显卡的推理能力公开出去,任何人拿到地址就能跑。
| 绑定方式 | 谁能访问 | 建议 |
|---|---|---|
| 127.0.0.1(默认) | 仅本机进程 | 桌面自用,保持默认 |
| 0.0.0.0 + 系统防火墙放行指定网段 | 局域网内放行的设备 | 家里或办公室共享,推荐 |
| 0.0.0.0 无防火墙 | 整个局域网,含访客网络 | 临时调试可以,用完改回 |
| 0.0.0.0 + 公网隧道 | 互联网任何人 | 必须加一层 Basic Auth 或网关 |
要在公网用,最小代价是在反代上加一层口令,Ollama 本体不用改。
auth_basic "ollama";
auth_basic_user_file /etc/nginx/.htpasswd;
# 生成口令文件
htpasswd -c /etc/nginx/.htpasswd yourname
本机客户端要记得带这个头,否则 401。很多 OpenAI 兼容客户端只把 api_key 塞进 Authorization,正好可以复用,填任意非空字符串当 key,口令写在里面就行。
六、一套能跑通的最小配置
macOS 桌面版按这四步走,每步都有校验,不通就停在哪一步查。第一步写 launchd 环境并重启应用。第二步 lsof 确认地址变成星号。第三步从另一台设备 curl /api/version,拿到 version 字段说明网络通。第四步按前端页面的实际地址配 OLLAMA_ORIGINS,重启后从浏览器发起请求,看是否还有 403。
手机端填地址时有两个细节。协议写 http,端口写 11434,路径如果用的是 OpenAI 兼容模式,base URL 补到 /v1,模型名照 ollama list 里的写法抄,带 tag 的不能省。地址栏里写 localhost 一定失败,那指向手机自己。
如果 Mac 会休眠,长时间会话会断。系统设置里关掉自动睡眠,或者在接电源时用 caffeinate 顶住。这一条跟模型无关,却是聊到一半断开最常见的原因。
七、三个最容易卡住的点
改了 shell 变量不生效。判断依据是 ps eww 里看不到你写的 OLLAMA_HOST,同时 lsof 还是 127.0.0.1。桌面版走 launchctl setenv,命令行版才读 shell。两者可以并存,但端口不能撞。
第一次请求要等将近四秒。把模型卸载后从局域网发起冷请求,首字节 3.869 秒,其中 3.86 秒花在把 5.2GiB 权重读进内存。客户端默认超时给 3 秒的,第一次必然失败,第二次又正常,很容易被记成时好时坏。要么把超时调到 30 秒以上,要么先手动 ollama run 一次预热。
403 空体被当成模型报错。区分办法只有一个:把 Origin 头去掉再打一次。去掉就 200,说明卡在跨域;去掉还失败,才去看模型和显存。这个动作能省掉大量排查时间。
八、常见问题
手机能连但输出很慢,是 Wi-Fi 带宽不够吗。通常与带宽无关。局域网内传几 KB 的 JSON 不构成瓶颈,慢通常来自反代缓冲(首块等到最后)或模型本身在 CPU 上跑。先看首块时间,再看 token 速率,两个数字能把原因分开。
能不能只让某一台设备访问。可以,两处配合。OLLAMA_HOST 绑具体网卡地址,避开 0.0.0.0,再在系统防火墙里只放行那台设备的 IP。OLLAMA_ORIGINS 也要写那台设备上页面的完整来源,含协议和端口。
公网访问怎么做才不给别人白用。最省事是反代加 Basic Auth 再套隧道,隧道只暴露反代端口,不直接暴露 11434。次选是把 11434 关掉,用 Cloudflare 之类的访问策略做身份校验。只绑 0.0.0.0 加端口转发是最差的一种,扫描器几分钟就能找到。
相关阅读
- MCP 服务怎么开 HTTP 端口:六类报错实测与多进程 404
- Ollama 显存不释放怎么修:keep_alive 四写法实测
- Ollama 上下文怎么设:4096 实测只吃 2050 token
- LiteLLM 代理 Ollama 怎么配:端点、模型名与超时
延伸阅读
- whisper.cpp 中文转写实测:五档模型怎么选2 周前
- safetensors 转 GGUF:六步跑通与三处静默失败1 周前
- Grok Build 漏洞泄露:3.7 万应用 94.7% 任何人可访问1 周前
- GGUF 量化档位怎么选:1.7B 七档实测,Q2 直接报废3 天前
继续读
往下这几篇值得接着看:
- Daybreak Red 怎么部署:5 层安全控制与 3000 万次提交扫描2026-11-20
- 本地模型 JSON 输出怎么约束:三档实测,开思考全废2026-11-20
- Phai-A1 怎么跑:35B MoE 单卡 3090 与 83.6% 得分2026-11-20
想快速查定义?对应的词条在这里:
- Llama词条 · AI 自学笔记
