FreeAskInternet测评:Docker三步搭建私有AI搜索引擎
简介
FreeAskInternet 这个项目,说白了就是一个完全免费、私有且能在你自己机器上运行的搜索引擎——而且它还能借助大语言模型(LLM)直接给你生成答案,关键是连 GPU 都不需要。你只需要输入问题,系统就会自动调动多个搜索引擎去搜索,然后把那些搜索结果全部丢给 ChatGPT3.5(也是免费的),最后基于这些结果整理出一份带 AI 总结的回答。整个过程全都在本地跑,既不需要你注册什么 OpenAI 账号,也不需要掏钱买 API 密钥。
什么是 FreeAskInternet
再明确一下:FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,它用 LLM 来生成答案,但整个过程中你不用为 GPU 操心。用户丢进去一个提问,系统马上通过 searxng(这东西也是本地运行的)在多个搜索引擎上搜一遍,然后把搜到的结果全部汇总到 ChatGPT3.5(同样免费)里,让它根据这些内容来回答。所有逻辑都在你本地完成,不需要 GPU,也不需要 OpenAI 或者 Google 的 API 密钥。
项目地址
https://github.com/nashsu/FreeAskInternet?tab=readme-ov-file
特点
- ?️ 完全免费——不需要任何 API 密钥
- ? 完全本地化——不需要 GPU,任何一台普通电脑都能跑
- ? 完全私有——所有东西都落在你自己的机器上
- ? 无需 LLM 硬件——真的不用 GPU
- ? 使用了免费的 ChatGPT3.5 API——连 API 密钥都不需要(感谢 OpenAI)
- ? 用 Docker Compose 部署,速度飞快
- ? 同时支持 Web 和移动端,手机平板也能轻松访问(感谢 ChatGPT-Next-Web)
展示
实际体验下来你会发现,系统不仅会根据搜索内容配合 AI 总结返回文字答案,还能同时搜到图片和视频,整个交互体验相当流畅。
运行原理
整个流程拆开来看并不复杂:
- 系统从 ChatGPT-Next-Web(本地跑着的)那里拿到用户输入的问题,然后调用本地的 searxng 在多个搜索引擎上发起搜索。
- 抓取搜索结果中链接的内容,再把这些内容传给 ChatGPT3.5(通过本地运行的 FreeGPT35 来调 OpenAI 的免费接口),让它基于这些参考信息来回答用户的问题。
- 最终的答案会以流式的方式回传到 ChatGPT-Next-Web 的聊天界面上,用户能看到一个字一个字蹦出来的效果。
安装
前提是你的服务器上有 Docker 环境。然后就这么几步:
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
? 启动之后,直接在浏览器里打开 http://localhost:3000 就能看到界面了。
更新
想要更新版本的步骤也很简单:
cd ./FreeAskInternet
git pull
docker compose rm backend
docker image rm nashsu/free_ask_internet
docker-compose up -d