科技爱好者周刊(第 408 期):AI 提示词缓存机制与前沿科技汇总
AI-assisted summary of 科技爱好者周刊(第 408 期):你需要知道的 AI 缓存知识 — original source.
Article summary — original
科技爱好者周刊(第 408 期):AI 提示词缓存机制与前沿科技汇总
本期周刊重点解析了 AI 大模型输入 Token 缓存的计费与保活原理,并汇集了融合蓝牙识别的交通摄像头、声波灭火实验、无舷窗客机概念以及中荷生活对比等科技资讯与实用开源工具。
大模型通过缓存多轮对话的历史提示词前缀可大幅削减计算量,DeepSeek 等模型的缓存命中费用仅为未命中的五十分之一。
主流大模型输入缓存有效期通常在 5 至 10 分钟,建议将 AI Agent 的保活请求频率由 30 秒调整为 4 分钟以节省开销。
新型交通监控摄像头除拍摄车牌外,可通过抓取蓝牙 MAC、RFID 标签及车内 Wi-Fi SSID 来推断车内人员身份。
美国创业团队研发出 30Hz~60Hz 低频声波灭火装置,同时有飞机制造商尝试以摄像头与内部屏幕替代传统舷窗以降低风阻。
周刊分享了荷兰与中国在数字化基础设施、服务响应速度、工作闲暇及物品循环消费理念上的生活对比观察。
AI 大模型输入缓存的原理与成本优化
大模型在处理输入提示词时需将其分解为 Token 并计算注意力关系,非常消耗算力。针对多轮对话中重复出现的前缀,服务器将先前计算结果缓存起来,调用时仅收取极低的存储成本。以 DeepSeek 为例,10 分钟以内的有效缓存命中价格仅为 2 分钱,远低于未命中时的 1 元。为防止缓存超时失效,AI Agent 通常会定期发送激活请求,但过于频繁的保活也会累积费用,鉴于多数模型缓存至少维持 5 分钟,将激活间隔设为 4 分钟是更为经济合理的策略。
前沿硬件与工程探索
周刊介绍了多项工程技术新动态:美国初创企业开发出不仅能识别车牌、还能捕获蓝牙 MAC、钥匙卡与芯片 RFID 及车载 Wi-Fi 的综合监控摄像头,以此推断驾乘人员身份;物理实验证实 30Hz~60Hz 低频声波可通过阻隔氧气与加速散热扑灭厨房明火,但受限于声波衰减和设备体积,目前仅适用于零星火势;另有私人飞机厂商推出无舷窗设计,机舱内壁完全由液晶屏幕拼接,通过外部高分辨率摄像头实时还原高空全景,以减轻机身重量并减少阻力与燃油消耗。
社会观察与技术资源
刊内分享了一位荷兰人在上海生活八年后返欧的生活随笔,探讨了中国在数字化客服、移动支付与新能源车换电等技术便利上的优势,与荷兰在自行车路网、房屋空间、二手回收及充裕闲暇之间的反差。此外,本期还收录了 Docker 官方 AI 沙箱、CertMate 证书管理器、手机改 Linux 服务器经验及网页 Canvas 替代 HTML 方案等开发工具与技术文章。
Article summary — zh
科技爱好者周刊(第 408 期):AI 提示词缓存机制与前沿科技汇总
本期周刊重点解析了 AI 大模型输入 Token 缓存的计费与保活原理,并汇集了融合蓝牙识别的交通摄像头、声波灭火实验、无舷窗客机概念以及中荷生活对比等科技资讯与实用开源工具。
大模型通过缓存多轮对话的历史提示词前缀可大幅削减计算量,DeepSeek 等模型的缓存命中费用仅为未命中的五十分之一。
主流大模型输入缓存有效期通常在 5 至 10 分钟,建议将 AI Agent 的保活请求频率由 30 秒调整为 4 分钟以节省开销。
新型交通监控摄像头除拍摄车牌外,可通过抓取蓝牙 MAC、RFID 标签及车内 Wi-Fi SSID 来推断车内人员身份。
美国创业团队研发出 30Hz~60Hz 低频声波灭火装置,同时有飞机制造商尝试以摄像头与内部屏幕替代传统舷窗以降低风阻。
周刊分享了荷兰与中国在数字化基础设施、服务响应速度、工作闲暇及物品循环消费理念上的生活对比观察。
AI 大模型输入缓存的原理与成本优化
大模型在处理输入提示词时需将其分解为 Token 并计算注意力关系,非常消耗算力。针对多轮对话中重复出现的前缀,服务器将先前计算结果缓存起来,调用时仅收取极低的存储成本。以 DeepSeek 为例,10 分钟以内的有效缓存命中价格仅为 2 分钱,远低于未命中时的 1 元。为防止缓存超时失效,AI Agent 通常会定期发送激活请求,但过于频繁的保活也会累积费用,鉴于多数模型缓存至少维持 5 分钟,将激活间隔设为 4 分钟是更为经济合理的策略。
前沿硬件与工程探索
周刊介绍了多项工程技术新动态:美国初创企业开发出不仅能识别车牌、还能捕获蓝牙 MAC、钥匙卡与芯片 RFID 及车载 Wi-Fi 的综合监控摄像头,以此推断驾乘人员身份;物理实验证实 30Hz~60Hz 低频声波可通过阻隔氧气与加速散热扑灭厨房明火,但受限于声波衰减和设备体积,目前仅适用于零星火势;另有私人飞机厂商推出无舷窗设计,机舱内壁完全由液晶屏幕拼接,通过外部高分辨率摄像头实时还原高空全景,以减轻机身重量并减少阻力与燃油消耗。
社会观察与技术资源
刊内分享了一位荷兰人在上海生活八年后返欧的生活随笔,探讨了中国在数字化客服、移动支付与新能源车换电等技术便利上的优势,与荷兰在自行车路网、房屋空间、二手回收及充裕闲暇之间的反差。此外,本期还收录了 Docker 官方 AI 沙箱、CertMate 证书管理器、手机改 Linux 服务器经验及网页 Canvas 替代 HTML 方案等开发工具与技术文章。
Saved original article
这里记录每周值得分享的科技内容,周五发布。
本杂志[开源](https://github.com/ruanyf/weekly),欢迎[投稿](https://github.com/ruanyf/weekly/issues)。另有[《谁在招人》](https://github.com/ruanyf/weekly/issues/10950)服务,发布程序员招聘信息。合作请[邮件联系](mailto:yifeng.ruan@gmail.com)(yifeng.ruan@gmail.com)。
浙江台州的椒江滨江公共空间生态绿廊,象征涟漪从水面蔓延,涌上岸边,堆积成丘。([via](https://www.gooood.cn/en/ripples-becoming-everyday-ground-by-original-design-studio-tjad.htm))
大模型的价格,主要是 Token 的输入价格和输出价格,这个很容易理解。
但是,还有一项"输入 Token 的缓存命中价格",这是什么东西?
上图是 DeepSeek V4 Flash 模型的[定价](https://api-docs.deepseek.com/zh-cn/quick_start/pricing/),可以看到缓存命中的输入价格只有2分钱,足足是未命中的输入价格的五十分之一!
为什么相差这些大?我们能不能充分利用缓存,来降低费用呢?
我对于这些问题,以前也不是很了解,最近看了[一篇文章](https://blog.mempko.com/your-agentic-workflows-cache-keepalive-costs-8x-too-much-v2-the-interval-frontier/),终于理清了思路,今天就来分享。
**(1)模型输入的收费原因**
大家知道,使用大模型的时候,需要先有提示词。
大模型会将提示词分解成 Token,再将 Token 转成向量值,然后计算所有 Token 之间的注意力关系。
这一步非常消耗算力,因此模型公司会对输入 Token 收费。你的提示词越多,输入 Token 的费用就越高。
**(2)输入缓存的作用**
对于多轮对话和长程任务,每一轮都需要把以前步骤的输入输出结果,提交给模型。
我们可以想到,这些每一轮额外增加的提示词是不变的,以前都已经处理过了。模型完全不必要对这些"前缀"每次进行重复计算,只要把以前的计算结果缓存起来,下一次再取出来用就行了。
这就是为什么需要缓存,它可以大大节省不必要的算力消耗,加快模型处理。
这也是它便宜的原因,因为只要命中缓存,基本不消耗算力,收取的费用实际上是储存空间的费用。
**(3)缓存的时间期限**
缓存有时间期限,长期保存并无意义。如果一段时间没有用到这些缓存,服务器就会把缓存删除。
根据[前面引用文章](https://blog.mempko.com/your-agentic-workflows-cache-keepalive-costs-8x-too-much-v2-the-interval-frontier/)的测试,各家公司的缓存保存时间不一样。
以 DeepSeek 为例,在10分钟以内,缓存就是有效的,命中缓存只收取2分钱。如果对话的间隔特别久,下一次输入跟上一次之间超过了10分钟,缓存就被删除了,模型收到上一轮的提示词,就不得不重新计算,收取的费用就变成了1元。
**(4)保持缓存有效**
由于缓存命中与未命中之间,有巨大的价差。用户的 AI Agent 工具往往会想办法,尽可能延长缓存的保存时间。
当用户长时间不操作、也不退出的时候,大多数 AI Agent 会每隔30秒,自动向服务器发送一个请求,让缓存保存激活状态。
有些模型有专门的缓存激活接口,还有一些没有。这时可以用笨办法,Agent 自动重复发送一次以前的提示词,确保缓存激活。
不过,激活请求也会产生费用。每隔30秒发送一次,如果10分钟没有输入,就会发送20个激活请求。时间一长,费用也不低。
前面说过了,现在各家模型的实际缓存期限,最短也有5分钟,因此30秒一次的激活请求,似乎频率太高了。所以,最新的建议是,可以改成每4分钟自动激活一次缓存。
一家美国创业公司推出一种交通摄像头,不仅能识别车牌号,还能识别蓝牙设备。
公路上的交通摄像头,一般来说只能拍到车牌,不能识别谁在开车。
这个新型摄像头就能解决这个问题。它还能捕捉蓝牙信号,从而将蓝牙设备的 MAC 地址跟车牌绑定,有助于推断谁在车上。
此外,除了蓝牙,它还能捕捉钥匙卡和宠物芯片中的 RFID 标签,以及车内 WIFI 的 SSID,从而进一步增加推断的可靠性。
2、[声波灭火](https://arstechnica.com/gadgets/2026/05/startup-says-sound-waves-can-replace-fire-sprinklers-experts-arent-so-sure/)
灭火除了用水,还可以用声波。
物理学已经证明,强烈的低频声波(30Hz~60Hz)可以用来灭火,原理是声波可以阻碍氧气流入,并加速热量散发。
一家美国创业公司,最近就制造了一个声波灭火装置,准备推广上市。他们成功演示了厨房灭火的场景。
只见喇叭对着灶头猛放低频声波,火就灭了。该公司希望该装置可以取代喷淋系统,以后着火时,头顶的喇叭放放声音就可以了。
但是,它有几个缺点,可能难以推广。首先,喇叭的体积较大,否则声波强度不够,另外它必须离火源较近,因为声波会迅速衰减。这也造成它只能用于零星的火势,无法用于连片的大火。
3、[没有舷窗的飞机](https://www.wsj.com/business/airlines/this-windowless-plane-is-vying-to-be-the-private-jet-of-the-future-2fdf184b?st=fHNiyn&mod=1440&user_id=66c4c9305d78644b3ac5df9c)
一家美国的飞机制造商,推出新型的私人飞机,最大特点是没有舷窗(下图)。
它的机舱内部是一体封闭的,没有窗户。
取而代之的是,连在一起的液晶显示屏,播放飞机外部的高分辨率摄像头拍到的景象。
该公司表示,取消窗户可以让飞机更轻,外表更光滑,从而减少空气阻力和燃油消耗。而且,乘客不必探头,就能在座位上环顾整个高空,拥有飞机驾驶员的视野,而不是原来窗口的狭小视野。
4、[最长的视线](https://earthlymission.com/longest-view-world/)
科学家使用算法,确定了地球上最长的视线,即从一个地点可以看到另一个地点的最长距离。
那是从吉尔吉斯斯坦(靠近中国边境)的皮克丹科瓦峰向南眺望,可以清晰地看到中国昆仑山脉深处,距离长达530公里。
一般来说,海拔越高、空气越通透,看的距离就越远。
皮克丹科瓦峰海拔约6000米,向南正好是低洼的柴达木盆地沙漠,再远又是海拔6000米以上的昆仑山,因此,这两座相距几百公里的高山可以互相眺望。
1、[常见的任务执行工具](https://hamvocke.com/blog/task-runners/)(英文)
命令行执行任务,可以选择不同的执行方式,比如自己写 Bash 脚本,或者用 make、just、mise 等任务执行工具。
2、[如何用脚本将文件上传到 GitHub](https://island94.org/2026/08/programmatically-upload-attachments-to-github-issues-pull-requests-comments)(英文)
GitHub 允许用户上传文件到 issue 和 pull request,本文教你怎么在脚本里面上传。
3、[Canvas 而不是 HTML](https://hivekit.io/blog/why-you-might-want-to-build-your-webapp-in-canvas-instead-of-html/)(英文)
很多复杂网页不使用 HTML,而使用 Canvas 呈现页面,用户看到的其实是一张图片。本文讨论 Canvas 页面的优缺点,以及何时适用。
4、[我的服务器是一部手机](https://seg6.space/posts/phone-server/)(英文)
作者介绍怎么把自己的安卓手机作为 Linux 服务器(使用了 Termux)。
"(我的安卓手机有)八个 ARM 核心、8GB 内存、128GB 闪存、WiFi 6、5G 调制解调器,以及内置电池,所有这些都集成在一个我觉得性能过剩、闲置在抽屉里的 SoC 芯片上。而且我已经付过钱了。掸去灰尘,把玩了一会儿之后,我决定把这台手机改造成服务器。"
5、[电梯的算法](https://john.fun/elevators)(英文)
本文介绍电梯的算法,写得比较简单,没有代码实例,但有动画,解释了这个问题的复杂性在哪里(如何缩短等待时间)。
Docker 官方推出的沙箱工具,把 Docker 容器当作沙箱,让 AI Agent 在里面运行,跟底层系统隔离。
2、[CertMate](https://github.com/fabriziosalmi/certmate)
一个自搭建的 SSL 证书管理系统,可以自动申请证书,支持多家云服务商。
这个工具让你用图形界面,来管理 Cron 任务。
一个 Linux 命令行程序,提供回收箱功能,保存已删除的文件,以备将来恢复,参考[介绍文章](https://ittavern.com/adding-a-trash-can-to-linux-with-trash-cli/)。
5、[LeePanel](https://github.com/gna1280072/LeePanel)
安装在本地计算机的远程服务器管理面板,所有操作都由 SSH 操作完成,不需要在服务器安装任何东西。([@gna1280072](https://github.com/ruanyf/weekly/issues/11083) 投稿)
将 Markdown 文本转成分享卡片,提供16套内置主题,可以自动分页、排版,一次导出整套图片或 PDF。([@pangxiaobin](https://github.com/ruanyf/weekly/issues/11097) 投稿)
在地图上模拟2026年8月12日的日全食,查看指定地点什么时候开始日食、食甚和结束,以及天空的样子。([@DophinL](https://github.com/ruanyf/weekly/issues/11136) 投稿)
8、[DBX](https://github.com/t8y2/dbx)
轻量级跨平台的数据库管理工具,支持79余种数据库,并且可以接入 AI 与 MCP。([@t8y2](https://github.com/ruanyf/weekly/issues/11143) 投稿)
Cloudflare 本周开源了一个内部的 AI 工具,虽然名字里面有 OS,但其实是在浏览器里使用。
它是一个企业内部的 AI 门户,用来向员工提供统一的 AI 服务,包括 AI 代理、内部应用、知识管理和自动化流程。
2、[乡音阁](https://xiangyinge.com/zh)
在线文字转方言语音工具,目前支持16种方言、63个音色。([@ldbmcs](https://github.com/ruanyf/weekly/issues/11111) 投稿)
3、[chat.md](https://github.com/rusiaaman/chat.md)
一个 VS Code 插件,将 AI 对话框变成一个 Markdown 文件,用户的输入和 AI 的输出都自动显示在这个文件。
4、[Parse](https://www.parse.bot/)
该网站让你使用自然语言,抓取其他网站的数据,转为 API 输出,免费额度是每分钟5个请求。
1、[昆虫世界](https://github.com/xr843/insect-world)
60 种昆虫的 3D 图鉴,可以旋转、缩放、点击标注点,介绍昆虫的身体构造、生活史与生态角色。([@xr843](https://github.com/ruanyf/weekly/issues/11135) 投稿)
2、[图解分布式系统原理](https://github.com/ruanyf/weekly/issues/11121)(中文)
本系列采用图示和直观解释的方式,深入探讨分布式系统背后的核心思想。([@lichuang](https://github.com/ruanyf/weekly/issues/11121) 投稿)
3、[吹口哨练习器](https://howtowhistle.org/zh)(HowToWhistle)
练习吹口哨的在线工具,实时检测你吹出的音高,显示当前音符以及与目标音的偏差。([@0647-cyber](https://github.com/ruanyf/weekly/issues/11127) 投稿)
1、[回形针收藏](https://www.presentandcorrect.com/blogs/blog/david-walkers-paper-clip-collection)
一个美国收藏家专门收藏回形针。这些藏品放在一起,还有一点艺术感。
2、[古典雕像的彩绘](https://worksinprogress.co/issue/were-classical-statues-painted-horribly/)
很多东西没有装饰时,比有装饰更漂亮。
希腊罗马雕塑现在显得非常高雅,但是它们最初都有彩绘,看上去非常俗艳。
上图是罗马皇帝奥古斯都的雕像,它最初制作的时候是有彩绘的。
1、[荷兰和中国](https://jaapgrolleman.com/degrees-of-wealth/)(英文)
我是荷兰人,在中国生活了八年。那些日子里,出租车司机和同事总爱问我:"荷兰和中国哪个更好?"
现在,我回到荷兰定居,人们却反过来问我:想念中国的生活吗?
这两个问题都不容易回答。这是两种不同的生活,很难比较。
住在上海的时候,我曾经瞧不起荷兰那些老旧的科技----银行卡、政府的纸质信件、乏善可陈的基础设施。回到荷兰后,我也确实怀念中国豪华的电动汽车,以及便捷的换电功能。但是,荷兰的自行车基础设施实在太棒了,而且阳光明媚的日子里骑车出行乐趣无穷。
大多数荷兰人比上海人富裕,但家中却没有空调,他们开着更小、更老旧、配置更少的汽车。公共交通相比之下糟糕透顶。手机更小、分辨率更低、速度更慢----电视也是如此。商店周日关门,人们仍然使用现金或银行卡支付。
有一次,我想打电话给我的荷兰银行,在它的网站上费了九牛二虎之力才找到电话号码,然后电话排队等上15分钟才能问到一个10秒钟就能解决的问题。而在中国,银行 App 里就有聊天功能,可以立即联系到客服人员。
荷兰的公共厕所也比较少,因为维护成本太高,政府不愿意为此买单。私人保姆或清洁工也少得多,因为价格极其昂贵,我们只能重新开始全职在家做饭,外出就餐很贵,外卖选择也很少,而且送餐速度很慢。
但是,荷兰人有更多的空闲时间,而且住的房子更大,通常前后院都有草坪。由于物价更高(包括商品和劳动力),荷兰的二手市场规模更大----自行车、汽车、家具等等,物品必须回收利用、修理或尽可能延长使用寿命。
在上海,我们会在网上购买婴儿用品,阅读关于最新款玩具或带有人工智能功能的婴儿摄像头的介绍。而在荷兰,我的父母仍然保留着我小时候用过的玩具、婴儿床和餐具----三十多年后的今天,我的小孩还在用。
总的来说,荷兰是一个规模较小、技术水平较低的社会。规模小体现在市政厅只有一个办公窗口,而上海却有数百个市民服务中心,每个中心都设有数十个服务台。据我所知,我生活的小镇只有一台自动取款机和一个小型图书馆。
在我看来,荷兰是一个拥有充裕时间的国度,人民过着节俭的生活,而中国是一个急切变革的国度,迅捷而急躁,人们争先恐后争取自己的机会。
回到最初的问题----荷兰和中国哪个更好----我的回答依然是,这两个国家各有自己的长处和不足,两种生活截然不同。
1、
AI 省下的时间,不是用来休假的,而是应该用来开发更多产品。你们正在做这个星球上最令人兴奋的事情。
-- [Andrew Bosworth](https://finance.sina.cn/7x24/2026-08-09/detail-inimsssr1991323.d.html),Meta 公司 CTO 回答员工的提问,关于 AI 带来的生产力提升是否可以转化为更多的休假时间的。
2、
一些人试图将蒸馏描述为有害行为,但我认为,应当保护"可以从任何能够观察到的事物中学习"这一原则。
-- [扎克伯格](https://finance.sina.cn/7x24/2026-08-11/detail-inimxrnq5879406.d.html),Meta 公司创始人
3、
有很多理由在本地运行大模型,但省钱不在其中。
目前,OpenCode Go 套餐的用户,平均每天花费1.14美元,来运行 DeepSeek Flash v4。同样的功能在本地运行,你需要使用双 DGX 架构,即使每天费用翻上10倍,也需要 24 年才能收回成本。
-- [Dax Raad](https://x.com/thdxr/status/2086599224674681242),OpenCode 创始人
4、
你不接受某种想法,但仍然愿意对其进行思考,这是受过良好教育的标志。
-- [亚里士多德](https://www.campion.edu.au/blog/top-25-aristotle-quotes-on-virtue-knowledge-and-happiness/)
[暗网 Tor 安全吗?](https://www.ruanyifeng.com/blog/2025/08/weekly-issue-361.html)(#361)
[低利率与长期项目](https://www.ruanyifeng.com/blog/2024/08/weekly-issue-311.html)(#311)
[黑客马拉松的正确方式](https://www.ruanyifeng.com/blog/2023/07/weely-issue-261.html)(#261)
[虚拟商品可以拉动 GDP](https://www.ruanyifeng.com/blog/2022/06/weekly-issue-211.html)(#211)
(完)