新华网携手多方发布AI知识库安全指南，构筑智能时代安全基石

人工智能正迅速从“提供答案”迈向“辅助决策”。而支撑智能问答、决策支持、业务协作的AI知识库，如何确保其“可信、可控、可靠”，已成为一个亟待解决的关键问题。

4月26日，新华网股份有限公司联合中国信息通信研究院、北京金山办公软件股份有限公司、联通数字科技有限公司、中国人工智能产业发展联盟、国网经济技术研究院有限公司、中国财产再保险有限责任公司，共同推出了《AI知识库安全建设与应用指南》（以下简称“指南”）。这份覆盖AI知识库全生命周期安全建设的标准性文件，旨在为党政机关、企事业单位及科研机构提供一套清晰、可行的操作框架，以构建“内容可信、安全可控、动态优化”的知识基础设施。

高质量数据是AI知识库的“基石”，安全需居于首位

当前，以大语言模型和检索增强生成（RAG）技术为基础的AI知识库，已成为各行各业智能化转型的重要支撑。然而，数据泄露、内容虚构、知识投毒、模型“幻觉”以及合规性风险等安全隐患层出不穷，正严重威胁着知识库的稳固性。

该指南开宗明义地指出：高质量的数据是知识库的“基石”。缺乏标准化、高可信度、合规化的优质数据，知识库将如同“无本之木”，导致检索效果不佳、出现大量“幻觉”现象，以及安全失控的局面。因此，指南将高质量数据建设视为知识库构建的优先环节，明确要求在知识录入前，必须完成数据盘点、清理、标准化、合规性处理及质量验证等工作，以确保“纯净的数据源”能够生成“可靠的知识”。

全生命周期精细化管控，覆盖从采集到归档的每一个环节

指南建立了一套覆盖知识采集、清洗、分类、加工、入库、更新、检索直至归档的全生命周期安全管理体系。从数据源头的白名单验证，到传输过程中的加密与系统身份验证；从敏感数据的脱敏处理，到检索结果的实时脱敏；从多层级的审核机制，到内容安全防护和“幻觉”检测，每一个环节都设定了明确的技术要求和操作规范。

特别值得关注的是，指南提出了一套四级安全分级制度，针对不同敏感程度的知识，实施差异化的访问控制、加密存储和审计策略。这意味着，AI知识库将不再是“一成不变”的访问模式，而是能够精确区分“谁有权查看、谁有权修改、谁有权使用”。

超越规范，构建一套可行的能力体系

指南的价值不仅体现在文字规范上，更在于其提供了从标准到能力的落地路径。

在基础设施方面，指南推荐使用安全可靠的云服务。“新华云”作为符合高安全标准要求的云服务平台，能够为知识库提供从数据采集、存储、计算到应用的全链条安全隔离能力。

在内容治理方面，新华网多年积累的内容审核能力被系统性地整合进指南的安全框架。无论是价值观的对齐审查、敏感信息的过滤，还是多来源交叉验证与事实核查，这套审核体系都能为机构内部知识库提供专业、高效的“内容安全屏障”。

在涉及时政类知识的处理上，指南强调，面向公众服务的AI知识库，如果涉及到政策解读、法律法规、公共信息等敏感领域，应依赖权威平台提供数据支持。作为国家级权威新闻发布机构，新华社的时政及主流价值观语料库，可以作为“可信知识源”，从根本上确保涉政服务的权威性和时效性。

这意味着，遵循这份指南，不仅是遵守标准，更是接入了一整套覆盖知识库全生命周期的安全能力生态。

安全既是防护墙，也是核心竞争力

指南明确指出，安全是AI知识库能够长期稳定运行、持续创造价值的前提，同时也是机构建立差异化信任竞争力的关键资产。

从技术效率到业务价值，从质量提升到场景适应，从风险合规到经济效益，指南系统性地提出了AI知识库的应用效能评估体系。它鼓励组织不仅要关注“知识库是否全面”，更要关注“回答是否准确、是否安全、是否可追溯、是否合规”。

参与编制的专家表示，“AI知识库的安全建设，并非一次性的合规审查，而是一场需要持续投入和动态优化的长期过程。今日在安全上的每一份努力，都将是未来规避系统性风险的坚固防线。”

让知识可信，让智能可控

《AI知识库安全建设与应用指南》的发布，标志着我国在AI知识服务领域，已从“可用”迈向“可信”的关键一步。这不仅是一份技术指导文件，更是一份面向未来的安全承诺。

在这场由AI驱动的变革中，知识库的能力决定了智能应用的高度，而安全的深度则决定了这条发展道路能够走多远。我们呼吁各行业机构以此为标准，共同为AI知识库构筑一道坚实的安全屏障。

新华网后续将联合相关机构，推出《智能助手类智能体安全分级规范与建设指南》，进一步聚焦人机交互层面的安全管控，与《AI知识库安全建设与应用指南》形成协同效应，为AI系统的可信运行构建更完善的能力保障体系。