AI产品默认启用背后：用户同意不能走过场
核心观点：当AI功能涉及人的形象、内容与身份认同时，采用"默认开启、用户自行关闭"的模式，已不再是单纯的产品设计问题，而是一种风险转移策略。Meta近期下架了一款引发广泛争议的Instagram AI功能。该功能原本允许用户在Meta AI中通过@某个公开Instagram账号，生成参考该账号内容的AI图像。简言之，只要账号处于公开状态，他人的内容与形象风格就可能被用作生成素材。功能上线后迅速引发强烈反对，Meta随后宣布该功能"已停止服务"。这并非简单的"社交平台又出问题了"。它对所有AI产品开发者都具
AI效能测量04：指标到手后——为何不应将其设为个人考核目标
摘要：AI 效能指标一旦转为个人 KPI，便会从观察工具蜕变为分数竞赛。本文借助 Goodhart、METR、IBM、CMU 的证据，破除排名冲动，明确度量与监控的界限。上篇结尾，你已能整合 ccusage 和 GitHub 生成报表。cost_per_pr、revert_rate、cache_hit_rate，每人一行，清晰可见。报表导出那一刻，最危险的想法也会浮现：“按 PR 数量排序，发到群里，大家就会更积极使用 AI。”停住。这篇只劝一件事：别将 AI 效能指标设为个人 KPI，别做排行榜。它不是
AI演进新阶段:主动式AI究竟是新机遇还是新炒作
在OpenAI于6月4日举办的企业活动上，Sam Altman分享了AI产品开发的三个发展阶段。他指出，行业已经告别了ChatGPT主导的聊天机器人时代，正进入Codex等工具所代表的AI Agent阶段。接下来，将是"主动式AI（Proactive AI）"时代——一种能在后台持续运行、主动为用户提供服务的AI系统。Altman的分类框架清晰明了。第一阶段：聊天机器人（Chatbot）。以ChatGPT为典型，用户提出问题，AI给予回应。这是人机交互的基本形态，AI处于被动、响应式状态。其价值主要体现在
AI 越智能，越需懂得克制
AI 助手的较量，不仅在于谁能替用户处理更多事务，更在于谁能即便掌握大量私密数据，依然坚守边界。Apple 在 AI 助手领域的处境颇为微妙。2024 年，它曾高调发布 Apple Intelligence 与新版 Siri，然而真正具备“智能感”的功能却迟迟未能落地。反观 Google Gemini，已展现出更为主动的助理潜能：整合日历、邮件、相册及位置信息，协助用户规划行程、设定出发时刻，甚至联动外部服务。The Verge 曾发表一篇颇具洞见的文章指出：Apple 的落后固然是隐患，但也可能成为其重
AI 录音卡：一把双刃的思考
年初被推荐了一款录音卡，因价格略高而观望，等待合适时机。日前与法务同事交流，得知她已在使用；随后又在早间播客中听到了关于钉钉 AI 录音卡的评测……看来价格短期内难以下调。录音卡似乎瞬间涌现，与 AI 的结合也日益强大：起初我打算用它帮助孩子课后复习听不懂的内容，同时记录重要谈话，以防万一（例如职场中遭遇恶意裁员）……如今其应用场景更加广泛，所有对话皆可被记录、转写、分析乃至润色，AI 宛如一位私人史官，详尽记载生活的点滴。商家敏锐捕捉商机，纷纷加速研发，丰富功能以吸引更多用户。然而，技术如刀，两面皆利：
人工智能需要伦理边界
被制造出来的智能系统，不能只讨论“能不能实现”，更要追问“应不应该做”，以及“出了问题由谁承担”。代替人作判断左右人的决定大范围处理个人信息像人那样交流、推荐、筛选、预测因此它带来的挑战，已经不只是“技术是否好用”，而是：它会不会对人造成伤害？它会不会带来不公？它会不会影响和控制人？它会不会让责任变得模糊？它会不会让权力集中到少数人手里？人工智能伦理，说到底就是在技术迅速扩展前，先为它划定边界。例如一个招聘 AI，用过往公司的录用记录来训练。如果公司过去本就偏向某一类人，那么 AI 很可能也会继承这种倾向