手表上跑大模型?Google 这个 3000+ Star 的框架太离谱了,首 token 不到 1 秒
大家好,我是何三,独立开发者 litertlmassets/litertlm_cover.png 你有没有想过,一个手表上能跑大模型? 不是那种"阉割版"的文本分类器,而是正儿八经的语言模型,能聊天、...
大家好,我是何三,独立开发者 litertlmassets/litertlm_cover.png 你有没有想过,一个手表上...
仅用3行代码,本地跑大模型!Nexa SDK 到底凭什么?
简单来说,Nexa SDK 是一个完整的 AI 模型推理工具包,它让你能够在本地轻松运行各种 AI 模型,而不需要依赖云端服务。 这就好比你想做饭,以前需要去餐厅点外卖(调用云端 API),现在 Nexa SDK 给你配了一套完...
简单来说,Nexa SDK 是一个完整的 AI 模型推理工具包,它让你能够在本地轻松运行各种 AI 模型,而不需要依赖云端...
仅用630行python代码实现模型自动训练
想象一下,传统的 AI 研究是什么样的:研究人员每天在代码库中修改参数、调整架构、训练模型、等待结果、分析性能,周而复始。这个过程既耗时又费力,而且容易受人类认知局限的影响。 而 autoresearch 项目提出了一种全新的研...
想象一下,传统的 AI 研究是什么样的:研究人员每天在代码库中修改参数、调整架构、训练模型、等待结果、分析性能,周而复始。...
省 99.9% Token!这个数据库不存东西反而更聪明,向量数据库的时代要结束了?
大家好,我是何三,独立开发者 5000 条记忆,文件方案要吃掉 101,739 个 tokens,直接撑爆任何上下文窗口。而这个叫 YantrikDB 的数据库,同样的 5000 条记忆只花 ~70 ...
大家好,我是何三,独立开发者 5000 条记忆,文件方案要吃掉 101,739 个 tokens,直接撑爆任何上下文窗口。...
一个工具替代5个!Ruff重新定义Python代码分析的速度与效率
今天要给大家介绍一个在Python生态圈里引起不小轰动的工具——Ruff。如果你还在用flake8、pylint这些传统的代码检查工具,那一定要看看这篇文章,因为Ruff可能会彻底改变你的代码分析工作流程。
今天要给大家介绍一个在Python生态圈里引起不小轰动的工具——Ruff。如果你还在用flake8、pylint这些传统的...
近 1.1 万 Star!输入主题自动出片,短视频创作者的饭碗要被 AI 砸了?
大家好,我是何三,独立开发者 说实话,看到 PixelleVideo 的时候,我第一反应是:这玩意儿是真的吗? 输入一个主题——比如「为什么要养成阅读习惯」——然后它自动给你把文案写了、配图画了、语音...
大家好,我是何三,独立开发者 说实话,看到 PixelleVideo 的时候,我第一反应是:这玩意儿是真的吗? 输入一个主...
比 FastAPI 快 3 倍,比 Babel 快 20 倍:Rust 重写的项目有多强?
大家好,我是何三,独立开发者 最近在技术圈里,我发现一个有趣的现象:越来越多的项目开始用 Rust 重写。从数据库到前端工具,从 AI 框架到浏览器引擎,Rust 正在悄悄改变着我们的技术栈。 今天就来聊聊这股 Rust ...
大家好,我是何三,独立开发者 最近在技术圈里,我发现一个有趣的现象:越来越多的项目开始用 Rust 重写。从数据库到...
公众号排版太痛苦?我用 Rust 写了个神器,Markdown 秒变精美推文
作为一个经常写技术文章的公众号作者,我一直有个痛点:Markdown 写得很爽,但复制到公众号编辑器就各种格式错乱。代码块没样式、表格变形、图片布局混乱……每次排版都要花费大量时间。 于是,我用 Rust 写了一个命令行工具 —...
作为一个经常写技术文章的公众号作者,我一直有个痛点:Markdown 写得很爽,但复制到公众号编辑器就各种格式错乱。代码块...
10kB 内存跑 JS 引擎?V8 的千分之一大小,这位传奇程序员又出手了
大家好,我是何三,独立开发者 mquickjsassets/mquickjs_cover.png 曾在 Hacker News 首页被一个项目刷屏了——1500+ upvote,569 条评论,讨论热...
大家好,我是何三,独立开发者 mquickjsassets/mquickjs_cover.png 曾在 Hacker Ne...
告别单调黑白:用Python的rich库打造炫酷命令行应用
今天咱们来聊聊一个能让你的Python命令行程序“颜值”飙升的神器——Rich库。如果你还在忍受着终端里单调的黑白文字,或者被复杂的日志输出搞得眼花缭乱,那么Rich可能就是你的“救星”。
今天咱们来聊聊一个能让你的Python命令行程序“颜值”飙升的神器——Rich库。如果你还在忍受着终端里单调的黑白文字,或...
公众号排版太麻烦?这款工具让你用 Markdown 5 分钟搞定一篇精美推文
大家好,我是何三,独立开发者 最近一直在捣鼓一个东西,叫mgo,我自己写的一个多公众号文章管理器。 mgo 起因很简单。写公众号的人大概都有这感觉:内容半小时写完,排版能磨两小时。微信后台那个编辑器,调格式调到崩溃。...
大家好,我是何三,独立开发者 最近一直在捣鼓一个东西,叫mgo,我自己写的一个多公众号文章管理器。 mgo ...
近 2 万 Star!AI 写代码每次结果不一样?这个开源工具让 AI 编码变成流水线
大家好,我是何三,独立开发者 你有没有经历过这种事——让 AI 帮你改个 Bug,第一次跑出来写得挺好的,兴高采烈地去看结果,发现测试没跑。让它再跑一次,这次测试跑了,但代码风格又不对了。第三次,它忘...
大家好,我是何三,独立开发者 你有没有经历过这种事——让 AI 帮你改个 Bug,第一次跑出来写得挺好的,兴高采烈地去看结...
同一个模型,成功率42%→78%!Anthropic说:别等下一代模型了,去搞Harness
大家好,我是何三,独立开发者 同一个模型,什么都没换。数据没换,提示词没换,只换了模型外面包的那层运行环境,编程基准的成功率从 42% 跳到了 78%。 变量只有一个:模型外面的壳。 Anthropic 前阵子发了篇工程博客:同一句提...
大家好,我是何三,独立开发者 同一个模型,什么都没换。数据没换,提示词没换,只换了模型外面包的那层运行环境,编程基准的成功...
137K 行代码、零 clippy 警告:这个开源项目凭什么让 AI Agent 领域炸锅?
大家好,我是何三,独立开发者 今天要给大家介绍一个特别有意思的开源项目 —— OpenFang。这可不是什么普通的聊天机器人框架,而是一个真正的 Agent 操作系统,用 Rust 从零开始构建的。 为什么需要 OpenF...
大家好,我是何三,独立开发者 今天要给大家介绍一个特别有意思的开源项目 —— OpenFang。这可不是什么普通的聊...
近万Star!1B参数碾压7B模型,MiniCPM5把"大力出奇迹"的AI圈整不会了
大家好,我是何三,独立开发者 这两年大模型圈子卷来卷去,大家好像默认了一个潜规则:参数越大越牛逼。7B 是入门,70B 才算能打,千亿参数的模型都排着队发布。 直到 MiniCPM51B 出来,直接把...
大家好,我是何三,独立开发者 这两年大模型圈子卷来卷去,大家好像默认了一个潜规则:参数越大越牛逼。7B 是入门,70B 才...