Greg Wilson 注意到，很多人正在使用有问题的指标来判断 AI 工具是否值得投入成本。
你是要衡量生成的代码行数，还是关闭的工单数？或者你会发一份调查问卷，询问开发者是否感觉效率更高了？每种方法都有各自的缺陷；
他列举了许多常见的指标，并指出了它们各自的缺陷。遗憾的是，他没有给出任何更好的建议。在我看来，既然我们无法衡量生产力，那么任何指标充其量都只是薄弱的证据。
我确实在一定程度上使用了他提到的有缺陷的衡量方法之一：“询问开发者是否感觉效率更高”。虽然我承认他指出的这种方法存在的问题，但我发现，在一个难以找到像样衡量标准的环境中，即使是这样微弱的亮光，也是我们手中最好的工具。在这种情况下，这类定性指标可能不具有决定性，但它们是有用的。
❄ ❄ ❄ ❄ ❄
Benedict Evans 观察到，过去广泛的自动化并没有导致职业的消亡。
我们花了一个世纪的时间来实现会计工作的自动化：我们制造了计算器、穿孔卡片、大型机、数据处理系统、数据库、个人电脑、电子表格、企业资源规划系统、云计算……实际上，我们围绕自动化会计工作构建了半个科技行业。然而，会计师的数量却一直在增加。
他深入探讨了我们在试图预测一项技术对就业影响时所面临的无数问题。其中就有被广泛讨论的杰文斯悖论——一旦某样东西变得更便宜，人们就会更多地使用它，这可能会增加需求。这通常会导致工作性质发生变化，即使其名称保持不变。
如今的会计师并不是在做与1970年或1980年完全相同的工作，“只是做得更多”——他们仍然被称为“会计师”，但工作内容已经不同了。新技术最初往往被用于“做同样的事情，但做得更多”，但最终很少会停留在那个阶段。
技术常常会影响整个行业——想想互联网对新闻出版业的影响。在21世纪初，有观察智能手机兴起的人意识到，其后果之一会因拼车应用的兴起而改变出租车行业的经济模式吗？结论是，至少可以说，预测AI对我们工作的影响几乎是不可能的。
❄ ❄ ❄ ❄ ❄
Stephen O’Grady 审视了封闭模型和开放模型在基准测试中随时间推移的表现。
封闭模型在设定创新步伐，并在能力方面不断取得新突破。开放模型则在追赶它们，而且周期似乎越来越短。没有明确的能力护城河，今天的尖端技术明天就会变成入场门槛。
在基准测试中，开放模型花了13-18个月才赶上GPT-4，但只用了2-7个月就赶上了GPT-4o。
这项分析存在诸多前提条件，他本人也列举了这些条件，但这份调查仍颇具价值——它展示了各类模型在我们试图评估的各项指标上的表现差异。
❄ ❄ ❄ ❄ ❄
人工智能使用中一个最典型的粗心案例就是虚构引用——这既暴露了使用大语言模型的事实，也体现了操作者的草率。GPTZero是一家开发AI写作检测工具的公司。我无法判断其工具是否有效，但他们确实发布了关于AI使用情况的调查报告，并发表了多篇揭露虚构引用的文章。其中一篇聚焦安永加拿大公司关于忠诚度系统网络威胁的报告，发现其超过一半的参考文献都是虚构的。该文章在呈现信息时使用了大量令人厌烦的动画（导致Safari阅读模式无法正常使用）。但这类AI生成报告造成的危害远不止误导人类这么简单：
在线发布报告本质上是一种向互联网知识库注入数据的行为。当报告包含虚假信息（无论是虚构引用还是错误主张）时，就可能“污染水源”——误导未来的研究者，尤其是当报告由知名咨询公司发布并托管在高流量网站上时。
❄ ❄ ❄ ❄ ❄
随着大语言模型在编程领域的能力不断增强，我们理所当然地担心有人会利用它们攻击软件系统。但这些模型同样可用于防御，帮助团队在攻击者之前发现漏洞。Mozilla的一些成员发表了一篇文章，介绍他们如何利用AI模型识别并修复了Firefox中数量空前的潜在安全漏洞。
就在几个月前，AI生成的安全漏洞报告在开源项目中还主要被视为不受欢迎的垃圾信息。处理那些看似正确实则错误的报告，会给项目维护者带来不对称的成本：用大语言模型提示找出代码中的“问题”既便宜又简单，但回应这些问题却缓慢而昂贵。
很难夸大短短几个月内这种局面对我们发生的转变。这主要归功于两个因素。首先，模型的能力大幅提升。其次，我们显著改进了驾驭这些模型的技术——引导它们、扩展它们、叠加它们，以产生大量有效信号并过滤掉噪声。
2025年期间，每月修复的安全漏洞数量在17到31个之间。而到了2026年4月，他们修复了423个。
❄ ❄ ❄ ❄ ❄
帕维尔·沃罗宁对乌梅什·乔希关于什么是代码的文章进行了延伸思考。他指出，代码库中的冗余（技术债务）一直给软件开发增加摩擦。但当大语言模型将现有代码作为未来工作的上下文时，这种冗余的后果会被进一步放大。
在一个退化的代码库中，模型并不将“技术债务”视为债务。它看到的是范例，是先例，是一种需要延续的风格。
大语言模型会放大当前正在发生的一切。我听到一些报告说，优质代码可能会取代许多原本写在 Markdown 中的内容，因为大语言模型会模仿代码库中已有的模式。但劣质代码同样会成倍增长。他不可避免地又引入了另一个关于债务的泛滥隐喻：
认知债务会在团队使用自己不再理解的抽象概念时积累。生成债务则会在代码库包含模型可能继续延续的混乱概念时积累。
认知债务关乎团队不再理解的部分。生成债务关乎模型现在可能复制的部分。
❄ ❄ ❄ ❄ ❄
来自非常有价值的 404 media 的 Jason Koebler 写了一篇哀婉的文章，探讨AI 生成的垃圾内容如何让我们抓狂。这不仅是因为这些内容充斥网络，更因为它改变了我们人类对垃圾内容及其威胁的反应方式。我们审视自己的写作时发现：阅读 AI 垃圾内容固然令人痛苦，但更痛苦的是，我们可能写出看起来像 AI 垃圾内容的东西。如果我使用了 AI 从我这里抄袭的措辞，会不会显得我在模仿 AI？这催生了“人性化工具”——一种让我们的写作看起来不那么像 AI 产出的工具。
人性化工具会添加拼写错误、随机替换词语、删除“AI 痕迹”，有时还会插入随机字符。
这是通往僵尸网络的又一步：
我称之为僵尸网络，因为事实是，互联网的很大一部分不仅仅是机器人与机器人对话，或机器人与人对话。而是人与人对话、人与机器人对话、人们创建“AI 代理”并指示它们与人互动。[……] 就像我的电子邮箱收件箱——过去偶尔会收到格式混乱、文笔拙劣、长篇大论的邮件，来自那些坚信 CIA 用未公开的秘密技术将他们囚禁在虚拟酷刑室里的妄想者；而现在，我收到的则是格式工整、文笔尚可、长篇大论的邮件，来自那些坚信自己证明了 AI 具有感知能力，并附上 AI 对话记录作为证据的妄想者。
❄ ❄ ❄ ❄ ❄
Andy Osmani 指出，大量生成代理就像启动了一堆并行进程，而这些进程全都依赖于一个单一的编排线程——你自己。
Python 有全局解释器锁（GIL）。你可以生成任意数量的线程，但同一时间只有一个线程能执行 Python 字节码，因为它们必须获取锁。你就是你 AI 代理的 GIL。它们可以同时运行。但当它们的工作需要真正理解架构或解决合并冲突时，这些工作就必须获取锁。只有一个锁，而它掌握在你手中。
这意味着你在设计工作流时，必须将全局解释器锁（GIL）纳入对智能体的考量。你启动的智能体数量不应超过你能妥善审查的范围。将可交由智能体处理的背景任务与需要投入注意力的复杂任务区分开来，会非常实用。别把宝贵的脑力浪费在机器自己能验证的事情上。[我还要补充一点——让机器构建能简化人工验证的工具。例如，将测试用例数据以表格形式呈现，比埋藏在断言语句中要好得多。]
启动智能体并非技能。谁都能同时运行20个。
真正的技能在于围绕那个无法克隆或并行化的串行资源来设计系统。这个资源就是你的注意力。
❄ ❄ ❄ ❄ ❄
杰米·赫斯特是Booking.com的首席工程师，专注于开发者体验及AI工具化。他实事求是地撰文探讨了在此工作中使用大型语言模型（LLM）的得失。
构建成本已经骤降，但组织协调的成本并未随之下降。甚至可能还上升了。当三个不同团队都能在以往撰写提案所需的时间内，各自为同一问题提出可行解决方案时，瓶颈就从工程转向了协调。
他认为自己作为资深工程师能完成更多工作，但担忧这种状态能否持续——无论对他个人还是他所服务的组织而言。他现在能同时为多个工作流指引方向，这是三年前无法做到的。但一个损失是，他没有足够时间进行指导，这长期来看会对雇主造成影响。他还发现自己缺乏思考的时间。
AI带来的生产力提升被输出数量而非输出质量所捕获。组织的期望值随之提高，吸收了加速效应；而任务之间原本存在的缓冲地带——那些战略思考实际发生的非结构化时间——最先被吞噬，因为它在仪表盘上不可见。在我职业生涯的这个阶段，思考本应是工作的核心，但现在大部分思考只能发生在假期，因为工作日已无法容纳它。