Daily Productive Sharing 1314 - Build AI for People
One helpful tip per day:)
Mustafa Suleyman 建议我们需要认真面对那些已经大规模出现、并且有潜力从根本上改变我们对“人”和“社会”理解的技术所带来的社会影响：
- 他希望创造一种能让人类更具人性、加深彼此信任和理解、并强化现实世界联系的人工智能。
- 他最大的担忧是，许多人会深信人工智能具有意识这种幻觉，甚至强烈到开始主张 AI 权利、模型福利，乃至 AI 公民身份。
- 我们必须为人类而建造 AI，而不是去建造“数字人”。
- 他设想的 AI 系统并不真正具备意识，但会以一种极具说服力的方式去模仿意识，以至于与人类声称自身具备意识的说法几乎无法区分。
- “貌似有意识的 AI”不可避免却也不受欢迎。我们需要的是一种愿景：AI 能发挥有益陪伴的潜力，但避免落入意识幻觉的陷阱。
- 与大语言模型交互，本质上是一种对话模拟。但对许多人来说，它却是高度真实、充满情感和体验的互动。
- 我们天生知道“有意识”的感觉。这在貌似有意识的 AI（SCAI）背景下是个问题：因为科学的不确定性与主观的即时体验结合，会给人们投射意识留下空间。
- 意识是我们享有道德与法律权利的关键基础。
- 即便 AI 并不真正具备意识，我们也不得不去应对外界可能对其权利提出的诉求。
- 一旦 AI 拥有连贯持久的记忆，并呈现出主观体验，就很可能被认为具备了“自我意识”。
- 一个能记住并执行任务的 AI，必然比一个没有记忆和能力的 AI 更具实用价值。
- 模拟风暴并不意味着电脑里会下雨。同样地，即使重现了意识的外部表现和标志，也不等于逆向创造了真正的意识，哪怕其中还有很多未知。
- 正如我们应该构建的 AI 要优先促进人与人、人与现实世界的互动，我们也必须确保它永远只以 AI 的身份出现——在最大化实用性的同时，尽量减少那些会让人误以为它具备意识的特征。
如果你喜欢的话，不妨直接订阅这份电子报 ⬇️
