ChatGPT平替！LocalAI+cpolar笔记本本地大模型离线运行
本地化AI部署的核心价值
处理商业合同时，最担忧的莫过于数据泄露。LocalAI作为一款开源工具，能让Llama、Stable Diffusion等模型在个人设备上离线运行，所有数据始终留存在本地网络内。更关键的是，它针对CPU推理做了深度优化——即便是四年前的旧笔记本，也能流畅加载7B参数模型。AI硬件的壁垒被彻底打破。从此，客户合同中的敏感信息无需上传云端，这种私有化部署带来的隐私保障，是主流商业AI服务难以企及的。
在法律文书场景下，LocalAI私有化部署的优势尤为显著。将客户的保密协议导入本地模型，AI即刻生成条款建议，整个流程文档从未离开办公电脑。“模型切换”功能允许用户随时在专业法律模型与通用写作模型间切换，比单一功能AI工具灵活得多。举例来说，周末加班时通过LocalAI的离线语音转写处理会议录音，生成的文字稿准确率高达95%，完全满足后续整理需求。
然而，本地部署的AI服务存在天然局限：外出时无法访问家里的算力资源。上个月在客户现场急需生成方案配图，只得临时使用手机版AI工具，结果风格不匹配导致反复修改。这种“设备绑定”的工作方式，在移动办公时尤为不便。
cpolar内网穿透技术恰好化解了这一难题。在办公电脑上部署cpolar，将LocalAI的8080端口映射为公网地址，即便身处酒店的公共电脑也能安全调用家中的大模型。更关键的是，cpolar采用端到端加密传输，即便在不可信的Wi-Fi环境下生成敏感内容，也无需担心数据泄露。上周帮客户修改专利申请书时，通过4G网络连接LocalAI，借助其“专业术语优化”功能提升文案严谨度，客户完全不知道我是在咖啡厅完成的。
cpolar的“访问白名单”功能更为实用。将常用设备的IP加入信任列表后，即使公网链接意外泄露，非授权设备也无法访问AI服务——这种双重安全机制比商业云服务更可靠。如今，许多法律咨询团队已经采用LocalAI+cpolar组合方案，既获得AI辅助的效率提升，又守住客户数据的绝对安全，真正实现了“鱼与熊掌兼得”。
本文将手把手讲解如何在本地服务器上部署LocalAI——这款无需昂贵GPU即可离线运行的开源AI神器，并结合cpolar内网穿透，实现远程安全访问的完整流程。
视频教学指南
第一步：Docker容器部署
本教程以Ubuntu 22.04为例，采用Docker方式部署。若尚未安装Docker，建议先阅读《Docker跨平台安装指南》进行准备。
安装好Docker后，打开终端执行这行命令启动容器：
sudo docker run -ti --name local-ai -p 8080:8080 localai/localai:latest-cpu
上述镜像为纯CPU版本。若拥有NVIDIA显卡，可改用下方命令拉取支持GPU加速的镜像：
sudo docker run -ti --name local-ai -p 8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12
更多项目配置与使用详情，可以访问作者的GitHub主页：LocalAI官方GitHub仓库
第二步：快速上手体验
容器启动后，在Ubuntu浏览器中打开http://localhost:8080，即可进入LocalAI的Web UI界面：
页面中央提示尚未添加模型。点击Gallery选项卡，进入模型库后选择所需模型：
该界面收录了600余款模型，可按用途标签（如文字转语音、图像生成、文本创作等）筛选，也可直接在搜索框内查找特定模型：
以添加llama-3.2-1b模型为例，点击install按钮，等待安装完成：
安装完成后，点击导航栏的HOME返回主页，即可看到已添加的llama-3.2模型：
如需使用该模型，点击导航栏的chat选项，即可进入对话界面：
点击右侧的模型下拉框，列表中将展示已安装的模型：
目前仅安装了一个。如需添加更多模型，可点击导航栏中的Models（即首次选择模型的页面）继续安装：
第三步：部署cpolar内网穿透
现阶段，仅有本地局域网内的设备可访问LocalAI。若希望突破局域网限制，在外部网络环境下使用手机、平板或电脑远程调用AI服务，cpolar内网穿透工具可完美解决——无需公网IP，也无需繁琐的路由器配置。
安装cpolar的具体步骤如下：
运行一键安装脚本：
sudo curl https://get.cpolar.sh | sh
安装完毕，执行以下命令检查cpolar服务状态（如下图所示表示正常）：
sudo systemctl status cpolar
cpolar服务启动后，在浏览器中输入http://localhost:9200（Ubuntu主机IP加9200端口），即可进入cpolar管理界面。使用cpolar官网注册的账号登录，随后在Web界面进行隧道配置：
第四步：创建公网隧道
登录cpolar Web UI，点击左侧导航中的“隧道管理”→“创建隧道”：
- 隧道名称：可自定义，本例设为localai，确保不与已有隧道重名
- 协议：http
- 本地地址：8080
- 域名类型：随机域名
- 地区：China Top
点击“创建”按钮：
创建完成后，在左侧“在线隧道列表”中会看到生成的两个公网地址。现在，你可以在任何其他电脑或移动设备（异地）上，使用其中任意一个地址通过浏览器访问LocalAI。
如下图所示，已成功通过公网地址远程访问本地部署的LocalAI，实现AI大模型对话！
临时隧道特点
上述演示中，我们使用了cpolar生成的HTTP随机公网地址。其优点是建立迅速、即建即用；缺点则是地址随机且每24小时变化一次，仅适合临时测试。
若需长期使用LocalAI或远程访问其他本地服务，且不愿每日更新地址，推荐配置固定二级子域名。该方式地址美观易记，同时享有更稳定的带宽和更多高级功能。
第五步：设置固定二级子域名
由于之前创建的隧道使用的是随机公网地址，每24小时自动变更，不利于长期远程访问。通过配置二级子域名，可获得固定不变的公网地址。
在cpolar管理界面中，点击左侧“预留”选项，选择“保留二级子域名”，地区设为China Top，然后自定义一个二级子域名名称（本例使用mylocal），填写备注后点击“保留”。
保留成功后，复制生成的二级子域名地址：
返回cpolar Web UI，依次点击“隧道管理”→“隧道列表”，找到名为localai的隧道，点击右侧的“编辑”按钮。
修改隧道配置，将保留的二级子域名填入对应字段：
- 域名类型：选择二级子域名
- Sub Domain：填写已保留的二级子域名（如mylocal）
- 地区：China Top
点击“更新”按钮：
更新后，进入“在线隧道列表”，可见随机地址已被替换为固定的二级子域名。
最后，在任意设备的浏览器中输入固定公网地址，即可成功访问LocalAI Web UI。至此，一个永久不变的二级子域名公网地址配置完成。
