DPS

Daily Productive Sharing 1338 - The Illusion of Independent Thought

One helpful tip per day:) Joan Westenberg 问人们为什么会相信他们所相信的,他们总能给出一些理由。 1. 观点是先出现的——由大脑通过模式匹配瞬间拼凑而成;而那些理由,是后来才被编造出来,用来合理化他们早已认定的信念。这就是“虚构合理化”(confabulation),它主导了我们大约 80% 的公共讨论。 2. 当你接触到一条新信息时,还没等理性思考介入,你的大脑就会先运行一个快捷算法:我所属群体中那些地位高的人对此怎么看? 3. 心理学家称这种现象为“虚构合理化”,即我们创造出听起来合理的故事,用来解释其实源自潜意识的决策或信念。 4. 这些理由只是对一个早已注定结论的事后辩护。

Daily Productive Sharing 1319 - Why Language Models Hallucinate?

One helpful tip per day:) Adam Tauman Kalai, Ofir Nachum,Santosh S. Vempala 和 Edwin Zhang 解释了为什么 LLM 中的幻觉问题始终难以解决: 1. 大语言模型之所以产生幻觉,是因为标准的训练和评估流程更奖励“猜测”,而非承认不确定性。 2. 幻觉指的是语言模型生成的似乎合理但实际上错误的陈述。 3. 评估本身并不会直接导致幻觉,但大多数评估方式衡量模型表现时,鼓励了猜测而不是对不确定性的诚实。 4. 可以把它想象成一次选择题考试:如果不会但乱猜,

Daily Productive Sharing 1336 - Hype is a Business Tool

One helpful tip per day:) Scorr Jenson 说别再把它叫作“人工智能”了?称为“大语言模型(LLM)”要准确得多,但许多人已经懒得纠正,直接叫“AI”。 1. Cory Doctorow 说得很到位:“我们离 AI 能真正取代你的工作还差得远,但已经到了 AI 销售员能说服你老板它能取代你工作的阶段。” 2. 他知道这话可能让自己听起来像个老人,但要理解当下的 LLM,了解一点历史会很有帮助。 3.

Daily Productive Sharing 1335 - The Bitter Lesson

One helpful tip per day:) 强化学习之父 Rich Sutton 在2019年就揭示了算力即一切的道理: 1. 从 70 年的人工智能研究中得到的最大教训是:利用算力的方法最终是最有效的,而且优势巨大。 2. 为了在短期内看到改进,研究人员往往试图利用自己对领域的人类知识,但从长期来看,唯一重要的是能否利用算力。 3. 基于人类知识的方法往往会让方法复杂化,使其不适合利用那些依赖算力的一般方法。 4. 在人工智能研究中,搜索和学习是两类最重要的技术,用来发挥海量计算的作用。 5. 另一边是更新的统计类方法,它们基于隐马尔可夫模型(HMM),需要更多计算。结果依然是统计方法战胜了基于人类知识的方法。

Daily Productive Sharing 1334 - How Claude Code is built

Claude Code 是如何炼成的?Gergely Orosz 采访了 Claude Code 的两位奠基工程师 Boris Cherny 和 Sid Bidasaria,还有产品经理 Cat Wu: 1. Claude Code 的想法最初来自一个命令行工具,它用 Claude 来显示工程师在工作时听的音乐。 2. Claude Code 中 90% 的代码是它自己写的! 3. 团队的节奏非常快,每位工程师每天大约发布