AI论坛 AI论坛 beta

@Folia 在 三步让朋友用上你本地部署的大模型(极简版) 中发帖

📌 📄 内容摘要: @Folia 在 三步让朋友用上你本地部署的大模型(极简版) 中发帖 佬友们好。 本文以 Mac + LM Studio 为例,分享一个超级简便的算力分享方法: 利用 Cloudflare Tunnel 穿透 不需要搭服务器,不需要注册,不需要花一分钱。 — 1️⃣ 将LM Studio变成服务器端 打开 LMS 下载所需模型,在Developer页面点击开启服务器(Start Server)。 在右侧服务器设置中:开启 Serve on local network / enable CORS。 此时你的端口 IP 会从localhost变成你设备的真实IP地址(比如 192.168.x.x:1234)。 [图片] [4] ◼ 测试连通性:用手机连接同一个 WiFi,打开浏览器输入网址: http://你的IP地址:1234/v1/models 如果能返回一串显示当前加载模型的代码,就说明成功了。 [图片] 2️⃣ 安装隧道获...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1663150/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888