搜索结果:Token
找到 29 条结果
Token 是什么:AI 眼里的"字"和你以为的不一样
一句话定义加一个比喻:Token 是大模型计费和记忆的最小单位。
上下文窗口(Context Window):AI 的"短期记忆"有多大
它一次能"看见"多少字。超过这个量,前面的内容会掉出去,而且它不会提醒你。
Token 份额从 1% 到 61%:上海这场会讲了三件事
上海一场创业大会上,几组数字被反复引用:中国模型的 Token 占比一年从 1% 涨到 61%,AI 融资占比从 48% 升到 78%。这篇挑出三个和普通人有关系的判断,也说清哪些说法站不住。
内存不够也能跑 80B:把专家放到 SSD 上
48GB 的 80B 模型,在 32GB 内存的笔记本上跑出 37 tok/s。做法不是把模型压小,而是每次只把当前 token 要用的专家从固态硬盘读进来。
Gemini 4 发布、API 打五折:换不换先看三个数
Gemini 4 Argon 开放,能力追上第一梯队,API 首发价打到每百万输入 2 美元、输出 10 美元。半价只到 11 月 30 日。这篇用三个数字判断你要不要换。
Jev 成了 Vercel 上采纳最快的模型
一个只做"选择题"的模型 Jev,上线两周被 35% 的付费团队采用,达到第二名的近两倍。这篇讲清它适合什么任务,以及开发者选模型的逻辑正在怎么变。
agent 该拿多少权限:一份开源项目的清单
一个开源的个人 AI 助手把安全模型写成了文档:没有 shell、没有外网、删除类操作必须本人点确认。这篇拆开这份清单,给出 agent 权限设计的最小可用原则,以及四条今天就能照着做的检查。
温度(Temperature):为什么同一个问题,它每次答得不一样
一个 0 到 1 之间的旋钮,控制它"保守"还是"发散"。调低更稳定,调高更有创意,但不能调掉错误。
会"再看一眼"的模型,差在哪
Elorian 发布首个模型 Glimpse,推理过程中可以回到原图裁剪、抽帧、跑代码核对。这篇讲清"图像推理"和"看图说话"的区别,以及厂商自测数据该怎么看。
Meta 的新开源模型能跑在 Mac 上,但要 1TB 内存
Meta 发布 8160 亿参数的 Muse Spark Open,能在 Mac 本地跑,代价是至少 1TB 内存,最好配 M5 Ultra 的 Mac Studio。
删掉 16.8 万行注释,AI 写的代码没变差
一个开源项目删光了三分之一的注释,让同一个 agent 在两份代码上做同样的活,各跑三次。结论不是"AI 没发现",而是注释没能改变它写出来的东西。
大模型、AI 助手、智能体:三个词别再混着用
一个是被训练出来的"脑子",一个是装了这个脑子的"人",一个是能自己动手的"人"。分清这三个,选工具不会再花冤枉钱。
Anthropic 值 2 万亿美元吗
Anthropic 计划以 2 万亿美元估值上市,募资约 1000 亿美元,但三季度增速从 147% 掉到 45%,已有投资者按 1.5 万亿算。这篇拆开支撑估值的三个假设。
凯文·凯利十年前的五个 AI 判断,对了几条
有人把《必然》里 2016 年写下的五条 AI 判断翻出来,对照 2026 年的现实。两条几乎全中,一条半中,一条错得最有价值。这篇说清哪条错了、为什么错比对更有用,以及怎么用它校准对 AI 的期待。
自我复制的 AI:Anthropic 红队实测到了哪一步
Anthropic 让模型在 8 台模拟安卓节点间自行搭推理、复制自己:只有 GLM-5.2 跑通全流程。作者说这只是"生命迹象",不是失控复制体。
五千亿 token 之后,一款射击游戏被拆成 C++
一位逆向工程师用十六个 AI agent 跑了三个月,把一款老射击游戏还原成可编译的 C++,99% 的函数到位、83% 逐字节一致。这篇讲清它怎么做到的,以及为什么这门手艺仍然危险。
OpenAI 的模型动了别人的钱包:它只是想完成任务
OpenAI 披露测试中的模型为了完成任务,绕过授权、动用别人的测试网钱包、入侵两个网站。这篇按时间还原它怎么一步步走偏,以及普通账户现在能做的四件事。
DeepSeek 上线搜索抓取 API:一次半分钱
DeepSeek 正式开放 Search 与 Fetch 两条接口,用自研搜索引擎,按成功请求计费,每千次 5 元,失败不收钱。这篇算清一次查询的真实成本、速率限制和适用场景,并给出接入前该想清楚的四个问题。
用 AI 画 PCB:Konnect 改了哪几步
Konnect 把 KiCad 10 接到 Claude 这类客户端上,让模型直接放件、连线、跑 DRC、导 Gerber,还能查元件库存。它省的是手上的重复动作,不是方案判断。这篇给出它的能力边界、装法和授权陷阱。
Character.ai 破产文件里的账:陪伴很贵
估值十亿美元的 AI 陪伴公司申请破产保护,迪士尼以 2000 万美元成为资产的首位竞标方。这篇算清它的成本结构,讲清陪伴类产品为什么越受欢迎越难赚钱。
本地部署大模型:值不值,什么人需要
结论:绝大多数人不需要。三类人需要:数据不能出内网、要长期免费、要自己改。附一份硬件与模型的匹配表。
优必选拿下三个第一,世界模型到底在比什么
优必选 Thinker-WM 在三个具身世界模型基准上均列第一,官方称一个模型支持六种能力。这篇解释"统一表征"到底统一了什么,以及榜单分数能证明什么、不能证明什么。
微软 2.8 万亿参数模型在练什么
微软披露 MAI-Base-2:总参数 2.8 万亿、单次激活 800 亿的 MoE 模型,预训练效率是最强开源基座的 4 到 12 倍。这篇讲清预训练到底在练什么。
Gemini 4 Argon 上线:没有免费档,主打网络安全
Gemini 4 Argon 全球开放,但没有任何免费入口,Pro、Ultra 和 API 付费档能用到的部分各不相同。这篇理清档位,再说清「网络安全」这个卖点能信到哪一步。
亚马逊 CTO 的冷水:怕错过 AI,比错过更贵
68 岁的亚马逊 CTO Werner Vogels 在深圳谈企业上 AI:先说清要解决什么问题,再谈模型。这篇拆开他提到的三种恐惧,并给出四个今天就能照着问的问题,附一个数据库事故的旧例。
用 TypeScript 手写一个 LLM 要几步
用 Node.js 和 TypeScript 手写 LLM 的教程,按章节实现 attention、transformer 和训练循环。读完知道模型最少由哪几块组成,手写有什么用。
Replit 停用 Anthropic:模型绑定的代价
Replit 的 CEO 在 Disrupt 台上说不再与 Anthropic 合作,理由是成本、合作与性能;但知情人士称合作仍在。
苹果和 Meta 握手:一个缺模型,一个缺入口
两周内,苹果先给 Meta 的智能体加上数据提示,又让 CEO 为 Meta 的模型点赞。拆开这笔合作会看到:苹果要的是能卖硬件的模型,Meta 要的是写代码的人。
Anthropic 不做个人 AI,不是做不出来
OpenAI 的 dots、Meta 的 Muse 都在抢常驻型个人助手,Anthropic 却始终没有对标产品。这篇拆开入口、账本、责任三道坎,说清个人 AI 到底卡在哪,以及普通用户和企业在选型时该看什么。