Chat GPT自托管神器Odysseus:本地跑AI,数据不外泄

admin AI新闻 2

Odysseus 项目主界面截图 | 来源:GitHub 仓库

奥德修斯项目主要界面的截图图片, 其来源是来自GitHub仓库之处。

它到底是个什么东西

奥德修斯其实是一个能够自我托管的一体化人工智能工作台, 简言之, 你能够在自己的电脑、网络附属存储设备或者服务器上面构建一套Docker环境, 随后打开浏览器, 进而获得一个界面逻辑与GPT几乎完全相同的对话窗口, 然而, 背后的种种运作均是在你的硬件设备上运行, 你的数据会保留本地, 对于模型你能够随意更换, 既可以连接Ollama运行本地模型, 也能够连接OpenAI的应用程序编程接口, 甚至二者混合使用亦可。基础层面由FastAPI与Python共同构造, 以ChromaDB开展向量存储工作, 借助SearXNG实施元搜索活动, 通过Docker Compose达成一键部署操作。其技术栈并非绚丽夺目, 然而好在坚实可靠。

这个项目运用的是AGPL - 3.0许可证, 不管是谁, 都是能够去查看源码的, 也能进行修改, 还可以分发。这样有的开放程度, 跟那些把API密钥以及用户数据全部锁放在自己服务器上的大厂, 鲜明地构成了对比。仓库简介, 仅仅用一句话就完完全全地把野心给挑明了: 给予人们一种更贴近GPT或者Claude的体验, 不过是运行在你自己的手上。还补充了这样一句话: 「but with more jank and fun」——尽管也许稍微有点糙, 然而却很好玩。这种坦诚的确是反而能够让人家对此好感大幅增加。

从技术架构方面来看, Odysseus运用分层模块化设计方式, 通过Docker Compose进行容器化封装, 它支持在Windows、Mac、Linux、NAS这些全平台去部署。在模型层面, 搭建了统一调度中台, 能兼容Ollama、llama.cpp、vLLM、OpenRouter、OpenAI等主流接口。其智能能力依靠轻量化Agent框架以及ChromaDB向量数据库得以实现, 能够自主完成联网检索、文档解析以及信息归纳。需留意的是, 该项目接入了GitHub Copilot的模型接口, 如果你拥有Copilot订阅, 那么也能够直接在Odysseus里使用。此种「本地模型与云端API混合使用」的灵活性, 在当下同类项目中是做得最为到位的。

项目还设置了硬件自适应匹配这种算法, 针对该算法系统能够去自动识别设备性能,接着去匹配合适可运行设备, 使之保障普通设备也能够稳定运行。默认状况下会禁用全部后台数据上报以及硬件信息采集的逻辑, 通过这种底层架构的做法来去规避存在的数据外泄风险。Docker Compose默认启动了四个容器, 这四个容器分别是Odysseus、ChromaDB、SearXNG和ntfy, 它们各自负责主应用、向量存储、元搜索和消息推送, 并且各自履行职责。整个项目的代码, 是全然透明的, 不存在任何埋点, 也没有任何遥测, 在当前情形下, 于 AI 产品里, 这实在是属于罕见的情况。

一个界面开云正版app下载开云app在线入口,九种能力

有不少人舍弃本地 AI 的缘由颇为简易, 其一为仅能够聊天, 其二是得装七八个工具拼凑着运用, 其学习成本高昂, 体验存在割裂感。Odysseus 最为突出的闪光点, 便是将碎片化的 AI 能力统统整合于同一个页面之中, 即从日常的聊天, 到自动化干活, 再到办公处理、学术调研以及模型测评, 均在同一个界面得以达成。它还对 PWA 渐进式 Web 应用予以支持, 在手机浏览器开启便能使用。我们选取几个最为值得讲述一番的功能拆解开来瞧瞧:

Cookbook——你的硬件开云真人app官网登录app,它帮你挑模型

这属于 Odysseus 极为令人惊喜感叹之功能, 将 Cookbook 点开时, 其会率先对您硬件作出扫描行为, 该硬件涵盖 GPU 型号、显存大小以及内存容量。而后会依据此自动为您推荐此台机器能够流畅运行之模型是什么样子。每处型号周边皆存在一个适配度评分即 fit score, 其中关于显存是否充足以及推理速度预估等相关情况悉皆明确进行标注。当您用手指点击一下之时, 模型便会自动开展下载操作并且予以部署, 其支持 GGUF、FP8、AWQ 等诸多量化格式, 无论低配还是高配均可寻觅到最优解决办法。相对于普通用户而言, 它表明你无需去知晓「量化位数」「上下文窗口」「张量并行」这些专业术语, 仅轻点一下便可运行。该项目还给出了 GPU 透传诊断脚本, 能自动检测 Docker 能否调用 GPU, 针对 AMD 用户也配备了相应的 ROCm 支持脚本。脚本的设计极为审慎, 仅仅开展诊断, 并不会自行修改你的系统配置。

Odysseus 聊天与 Agent 界面演示 | 来源:GitHub 仓库

Odysseus进行与Agent界面展示的聊天, 其来源是GitHub仓库。

盲测对比——选模型,自己测了才知道

选取两个模型来问相同的问题, 并使答案不向你透露究竟哪个是哪个。待你选出「A 更好」或者、「B 更好」之后才会将答案揭晓。此功能尽管规模小, 然而却极为实用, 因其免除了你于心理层面之中偏向乃至偏袒某个模型所遭致出的不客观之结果。DeepSeek 和 Llama 究竟到底谁更加厉害抑或出色呢? 只单纯依据评测文章进行查看是不够的, 恰恰相反, 亲自去跑上一轮这种盲测, 你才能够确切知晓答案。

Odysseus 模型盲测对比界面 | 来源:GitHub 仓库

奥德修斯模型进行盲测的对比界面, 其来源是代码托管平台GitHub上的仓库。

Deep Research——本地版的深度研究

你给出一个话题, 它会自行前往网上去搜寻资料, 阅读各个网页, 从中提炼出要点, 历经这些之后, 它就最后能生成出一份既附带引用来源的又呈现所谓结构化的报告, 它对标GPT的Deep Research功能, 然而却是在本地运行, 不用花上一分钱丝毫费用, 数据全程不会流出本机, 其底层基于对于阿里通义的DeepResearch开源方案来进行改编, 对于那些需要去开展行业调研、进行竞品分析、做完文献综述的用户而言, 这功能就如同节省下了一份GPT Pro的月度花费这样的效果。生成的报告支持可视化图表展示,阅读体验比纯文本好得多。

Odysseus Deep Research 深度研究报告生成 | 来源:GitHub 仓库

关于奥德修斯深入探究报告的生成, 其源头为GitHub仓库存书| , 它是一份深度研究报告。

Agent——让它自己干活

Odysseus设置了自主Agent模块, 该模块依据opencode框架搭建而成, 对MCP协议、网页访问、文件读写、Shell执行、技能调用以及记忆系统予以支持。你能够给它设定一个目标, 像「搜集竞品最新动态并整合成报告这样的事儿」, 它会自行联网去搜索, 读取网页资讯开运真人app下载苹果版,开运真人app下载,归纳有关信息, 进而输出结果。不是你一道道地去指挥它, 而是把任务交予它, 它会自行完成整个流程。再搭配内置的定时任务系统, Agent甚至能够在指定的时间自动开展操作。

记忆系统——越用越懂你

奥德修斯会记住你先前的对话内容以及偏好, 比如说你曾跟它讲过〔我正在开展React项目的、不曾喜好运用Redux、更倾向于Tailwind CSS〕这番原话的情况下, 随后当让它来编写组件之际, 它便能自动化地为你提供Tailwind版本的代码, 其所依托的底层是ChromaDB向量存储这一技术方法的, 因它得以支持关键词加上语义的双重检索操作, 同时其记忆具备两种属性, 既能够被进行导出之举, 也能够实现导入之态, 你的人工智能助手会历经使用时长一天天地递进, 从而更为深入切得懂清你的习惯, 进而催生演变成个性化风格样式上极其富有特色的私有知识库。有着本质区别的是, 这种「越用越聪明」的体验, 与那些每次都要重新就对话之际交代上下文内容的云端工具。

智能邮箱与日历

能自动给每封新邮件打分, 分为紧急、普通、垃圾, 在接入IMAP邮箱之后, 还可以对长邮件生成一句话摘要, 给常见问题生成回复草稿。日历能够支持CalDAV协议, 能同步到Radicale、Nextcloud、苹果日历以及Fastmail。单独来说, 这些功能每个都不算惊艳, 不过整合在一个界面里, 数据全部本地留存, 体验就全然不同了。你用不着于GPT、Notion、Todoist、Google Calendar三者之中反复来回切换辗转, 通过一个Odysseus便能统统全数利落搞定, 并且所有的数据皆放置于你自身的硬盘之内。

Odysseus 文档编辑器界面 | 来源:GitHub 仓库

界面是 Odysseus 文档编辑器的那个, 来源是 GitHub 仓库的呀。

所有这些功能, 不依靠云端, 不进行数据上传, 在你自身的机器上运行。项目的核心理念是Local -First, 默认将所有数据上报关闭, 不存在后台偷偷采集的情况。甚至连Docker容器默认也仅仅绑定127.0.0.1, 不会暴露至局域网或者公网——除非你主动去配置。

部署有多简单

奥狄修斯把繁杂的技术全都封装妥善, 留给使用者的唯有极简的操作, 全方位Docker自动化部署, Windows、Mac、Linux、NAS均具备兼容性, 四条命令就能处理妥当:

部署完毕之后, 通过浏览器访问 http://localhost:7000 便能够进入操作台。首次开启会自行创建管理员账号并且在终端打印临时密码。之后在 Cookbook 模块当中依据硬件状况自动匹配模型, 一键启用即可达成。倘若需要 PDF 查看以及 Office 文档解析等额外功能, 构建时添加 --build-arg INSTALL_OPTIONAL=true 便可达成。

要是你身为 Mac 用户(Apple Silicon), 那 Docker 没办法去调用 Metal GPU, 此项目特地给出了原生启动脚本 ./start-macos.sh, 借助本机 GPU 来运行模型。乃至还存在一个 ./build-macos-app.sh 脚本, 其能够打包成一款可点击的 macOS 应用。该项目同样内置了完备的 2FA 双因素认证, 哪怕你把服务暴露到外网进行访问, 安全性依旧有保障。PWA 支持让它在手机上也能流畅运行。

一周六万星,到底在兴奋什么

Odysseus 的这种火爆行为, 当然是有着 PewDiePie 这个 IP 所带来的名人效应在予以加持的, 而 PewDiePie 可是一个与超 1 亿粉丝的博主相关联的项目, 如此关联下其流量必然不会小。然而, 评论区里所呈现出的兴奋情形 , 更像是一次集体性的表态行为样子。现如今的AI工具市场之中, 主流的那些产品差不多全部之际订阅制的, GPT Plus每个月要二十美元, Claude Pro同样也为二十美元, GitHub Copilot是十美元, Midjourney为三十美元, Perplexity Pro为二十美元等等, 加在一起每个月轻松就能达到上百美元, 一年算下来就要上千美元了。更让人心生不安的是, 那种状况是你的聊天记录啦, 还有上传的文档以及所写的代码, 全部都在别人的服务器里面的。服务商能够随时去更改价格, 能够随时去更改功能, 甚至能够把你的数据拿去用于训练模型, 然而你却一点儿办法都没有。这般呈现出的“租用式AI”所充斥的不可控感, 确切而言正是Odysseus能够引发如此之大的共鸣情况的深层主因所在。

在技术社区当中, 这种有关「租用式AI」的焦虑已蓄势待机了很长一段时间 , 在2026年年初之时 , 多个桌面Agent相关的项目逐个突然地火爆起来 ,并且每一个项目都在尝试解答同一个问题 , 那就是AI所具备的能力 , 能不能无需依靠云端才得以实现? 而Odysseus所给出的答案又是最令人全然满意的一个。 它并非单纯地仅仅只是一台可供对话的机器人 , 事实是它作为一个具备完整功能的本地AI使用的工作空间 , 在众多方面都能够自行运行 , 像是 , 聊天 、 研究 、 写作 、 邮件服务 、 日历管理 、 笔记记录 , 这些全部都是能够基于这个本地闭环而完全自主性完成的。

它径直宣布了一套全然相反的路线, 工作区运行在自身的硬件之上, 数据由自己进行管理。它不一定能够取代GPT的所有能力, 毕竟云端存在海量的GPU以及超大的上下文窗口, 本地硬件在短期内还无法追上。但它将“所有权”再度放置于AI对话的核心位置, 这才是它真正能够打动人之处。当巨头们把AI包装成愈发厚重的订阅套餐时, 一个游戏主播(至少账号名指向他)凭借开源项目提醒了一件事情, 算力能够租赁, 但控制权不应该被出让。

当然, 自托管向来都不是那种一键丝滑的消费级体验的东西。要自己去维护环境, 还要管理模型, 并且解决兼容性方面的问题, 而这些对于并非技术用户来说依旧是存在门槛的。不过, Odysseus的出现, 至少, 让「拥有自己的AI」这件事例, 距离普通人又靠近了那么一步。要是你恰巧有一台处于闲置状态的电脑, 亦或是NAS, 花费一个下午的时间把它运行起来的话, 所得到的很可能会是一个完完全全属于你个人的AI助手——不用缴纳月费, 也不用看厂商的脸色行事, 数据始终都是你的。

还折射出一个更大的趋势, 具体是: AI正在从「服务」回归「工具」。具体表现为, 能够在本地, 去跑动一个和云端体验相当的AI工作台了, 并且有情形如下, 就是你的数据, 已不需要上传到别人的服务器去得到智能能力了, 在此情况下, 整个AI产业的权力结构可能会被重新书写。Odysseus不会是最后一个这么做的项目, 然而它可能是最响亮的一个信号。(本文首发钛媒体APP, 作者 | 硅谷Tech_news, 编辑 | 焦燕)

Chat GPT自托管神器Odysseus:本地跑AI,数据不外泄-第6张图片-世界杯直播平台-世界杯2026直播平台-免费观看官方-V3.6.9

标签: AI 自托管 本地运行 开源 工具

发布评论 0条评论)

还木有评论哦,快来抢沙发吧~