AI落地实施要点：从模型评估到沙盒上线03

1.1. 从打造精美的视觉作品，到撰写更吸引人的文字内容，再到研发生动复杂的数据模型、把重复性劳动交给自动化完成，生成式人工智能的能力范围很广，也因此具备明显的颠覆价值

1.2. 作为一种高效工具，它既能直接带来生产力的提升与创造力的释放，同时还能为以往难以攻克的难题提供可行思路

1.3. 在软件工程实践中，开发者采用“赛博格”式的协作方式，也就是微软常提到的“副驾驶”（Copilot）理念，借助GitHub代码仓库与生成式人工智能联动，工作效率已经得到显著增强

1.3.1. 人类始终保有最终的掌控权，并需要对相应结果承担责任与义务

1.3.2. 人工智能的定位应当是“辅助”，而不是去替代人类的自主性与控制权

1.4. 很多人对抽象概念的理解往往并不轻松

1.5. 不要因为某项新技术看起来很炫，就试图用它来改写人类的历史走向以及行为背后的动机

1.6. 你的AI助手可能很有吸引力，但它也可能会犯错；有时还会基于对你期待的理解偏差，做出“符合想象”的不实表述

1.7. 回看计算机发展的历程就会发现，最受欢迎、最具生命力的新技术常常很快就被赋予“人”的特征

2.1. 五项原则

2.1.1. 先把你真正想解决的具体问题界定清楚

2.1.2. 明确什么算“好”，甚至什么才算“更好”

2.1.2.1. 目标不必是追求绝对完美，而要能明显改善现状

2.1.2.2. 至少要比现有办法更有效，或者足以证明推动变革所投入的成本是值得的

2.1.3. 清楚生成式人工智能可以提供哪些支持，同时也要知道它可能有哪些局限

2.1.4. 行事必须始终做到负责任、合法合规，并符合伦理要求

2.1.5. 保持控制权

2.2. 以原则为导向的技术落地方法之所以有效，是因为它对任何人来说都更容易理解

2.3. 并不是只有数据科学家才需要弄清楚现场到底发生了什么

2.4. 文本类的大语言模型与专注视频的扩散模型看起来差异很大，因此在实施规则上理应采用不同的策略

3.1. 要评估人工智能模型，本身就是一件非常困难的事

3.2. 指标

3.2.1. 困惑度

3.2.1.1. 困惑度反映模型在预测下一个词元（通常对应一段文本或图像片段）时的把握程度，越不确定数值越高

3.2.1.2. 困惑度越低，说明模型生成更有用、更顺畅的序列能力越强

3.2.1.3. 困惑度越高，往往意味着输出的连贯性与合适性会变差

3.2.2. 双语对照分数

3.2.2.1. Bilingual Evaluation Understudy, BLEU

3.2.2.2. BLEU用于衡量机器生成文本与标准参考文本之间的相似度，因此常被用于机器翻译与文本摘要场景，用来评估生成结果的质量

3.2.2.3. 在翻译类任务中，它的使用频率尤其高

3.2.3. 摘要重现关键内容分数

3.2.3.1. Recall-Oriented Understudy for Gisting Evaluation, ROUGE

3.2.3.2. ROUGE会从N-gram、最长公共子序列以及词语对等角度，评估生成内容与参考文本的重合程度

3.2.3.3. 与BLEU类似，它同样常用于摘要任务的评估

3.2.3.4. ROUGE分数越高，通常说明摘要任务完成得越好

3.2.4. 弗雷歇起始距离

3.2.4.1. Fréchet Inception Distance, FID

3.2.4.2. FID用于度量生成图像与真实图像在特征向量分布上的差距

3.2.4.3. FID数值越低，表示生成图像与真实图像越相近

3.2.4.4. 这项方法在衡量图像生成模型时尤其实用

3.2.5. 人工评估

3.2.6. 多样性指标

3.2.6.1. 用来衡量模型输出的差异程度与独特性

3.2.6.2. 多样性指标能帮助避免模型产生过度重复或高度相似的内容；对创意类工作来说，这一点非常关键

3.2.6.3. 在故事创作场景中，如果同一提示能催生多个不同情节、不同角色的故事，那么模型的多样性表现通常会更高

3.2.6.4. 相反，如果生成的故事几乎一样，其多样性得分就会明显偏低

3.2.7. 对抗准确率

3.2.7.1. 这类指标用于考察模型抵抗“恶意输入”的能力；这类输入往往试图欺骗或扰乱模型推断

3.2.7.2. 在真实落地前，对模型安全性与可靠性的检验时，它是一项重要测试

3.2.7.3. 健壮性更强的模型，应该能继续做出正确续写“垫子上”的判断，不受那些刻意或无意的干扰信息影响

3.2.8. 推理速度与计算效率

3.2.8.1. 用来衡量模型生成输出所需要的时间以及计算资源消耗

3.2.8.2. 对于评估模型未来的运营成本非常必要

3.2.8.3. 在语音助手等需要实时响应的场景里，能够在一秒内给出结果的模型通常被认为效率较高

3.2.8.4. 如果模型需要数秒才能返回，或消耗大量算力，那么它可能不适合对时延敏感的应用

3.3. 模型能力测评

3.3.1. 指标可以帮助我们看清模型的某个单项表现，但完整的测评能让企业更理解模型在自身业务场景中的真实效果

3.3.2. 图像生成

3.3.2.1.1. 可从12个维度（并覆盖上百项指标）来考察DALL·E与Stable Diffusion等模型

3.3.2.1.2. 图像与文本的匹配程度

3.3.2.1.3. 图像本身的画面质量

3.3.2.1.4. 审美水平

3.3.2.1.5. 原创性表现

3.3.2.1.6. 推理与理解能力

3.3.2.1.7. 知识覆盖程度

3.3.2.1.8. 偏见情况

3.3.2.1.9. 毒性风险

3.3.2.1.10. 公平性

3.3.2.1.11. 鲁棒性

3.3.2.1.12. 多语言能力

3.3.2.1.13. 效率表现

3.3.3. 代码生成

3.3.3.1. 作为人工智能圈里相对“验证充分”的典型落地方式，如今几乎所有软件工程师都会在工作中使用大语言模型

3.3.3.2. HumanEval

3.3.3.2.1. 由OpenAI研究团队提出的一套测评方案，专门用来检验语言模型的代码生成能力

3.3.4. 代理行为

3.3.4.1. AI代理是建立在基础模型之上的结构，借助自然语言理解与生成能力去完成指定任务

3.3.4.2. 这些任务在产品形态上常见的包括：聊天机器人、虚拟助手、内容生成器、编码助手以及研究助手等

3.3.4.3. 代理常用的测评工具之一是AgentBench，该工具在2023年推出，曾在8种不同情境下测试并对比了超过25个大语言模型代理的准确性

3.3.5. 真实性与准确性

3.3.6. 通用推理能力

3.3.6.1. 人工智能领域最引人关注的进步之一，是“通用推理能力”的不断拓展

3.3.6.2. “专家级人工智能的大规模多学科多模态理解与推理测评”（Massive Multi-discipline Multimodal Understanding and Reasoning Benchmark for Expert AGI,MMMU）

3.4. 采用该模型后，是否一定比我们现在的方法更好？

3.5. 这个模型相对当前系统是否明显更强，以至于花费相应成本是合理且值得的？

3.6. 推动数字化转型的根本目的，是让各项事务变得更好

3.7. GitHub是研究与理解人工智能的重要资源库

4.1. 就算过程中出了差错，也能及时推翻重来，而且通常不会造成太大的损失

4.2. 沙盒是在相对安全、可靠的条件下试点人工智能的理想环境

4.3. 在沙盒里测试人工智能与在整个组织范围内正式部署，并不是同一件事

4.4. 沙盒属于受控环境，通常部署在组织内部，不会直接冲击核心业务流程

4.5. 沙盒模式

4.5.1. 所谓人工智能沙盒部署，是指在一个隔离且受控的环境中，让组织对新模型开展开发、测试与试验

4.5.2. 沙盒特别适合探索新思路、打磨模型；既不会影响真实运行的系统，也能避免接触敏感数据

4.5.3. 风险降低：在测试新算法或更新模型时，无需投入过多精力，从而减少对生产系统造成意外影响的风险

4.5.4. 成本把控：在沙盒中就能更早发现并修正问题，避免由于在真实环境中大规模部署而导致纠错成本迅速攀升

4.5.5. 鼓励创新：开发者可以更从容地尝试新功能和改进方案，无须承受立刻进入生产阶段的压力

4.6. 人工智能的应用同样存在风险

4.7. 从资源与能力结构来看，沙盒更多是数据科学家、软件开发人员和数据工程师的主场

4.8. 让业务运营部门的代表加入沙盒测试过程至关重要

4.9. 若沙盒环境越贴近企业真实运营方式，那么在进行企业级部署时获得一致结果的概率就越高

5.1. 可扩展性：要保证人工智能方案能承受不断增长的负载，并随着业务扩张进行扩容

5.2. 安全性：需要落实强有力的安全措施以保护敏感数据，同时确保满足监管要求

5.3. 性能监控：持续观察人工智能系统的运行状态，尽早发现并解决问题，确保系统长期处于良好工作水平

5.4. 跨部门协作

5.4.1. 打破组织内部的隔阂，与数字化团队、数据科学团队以及运营团队协同推进，让人工智能与业务目标更顺畅地衔接、更加贴合

5.4.2. 从要解决的具体问题入手，让各团队都能清楚自己在整体方案中承担的角色与责任

5.5. 用户培训与支持：确保员工掌握使用人工智能工具所需的能力与知识，并能持续获得支援

5.6. 合规性：当然要严格遵守相关行业法规与标准；只有把合规性说清楚并证实，才能更容易与利益相关方建立信任，让他们相信你在安全前提下部署人工智能

5.7. 由于企业级人工智能部署规模大、系统复杂度高，这一领域往往由大型云服务商发挥主导作用

5.8. 沙盒部署对于安全研发与创新探索不可或缺；而企业级部署则更强调以稳健、可控且可扩展的方式落地人工智能解决方案，以便真正为业务带来价值