新华网北京4月29日电（曹素妨 向思敏）人工智能正在加速从“生成答案”走向“支撑决策”。而支撑智能问答、决策辅助、业务协同的AI知识库，如何确保自身的“可信、可控、可靠”，成为不容回避的关键问题。

  4月26日，新华网股份有限公司联合中国信息通信研究院、北京金山办公软件股份有限公司、联通数字科技有限公司、中国人工智能产业发展联盟、国网经济技术研究院有限公司、中国财产再保险有限责任公司，正式发布《AI知识库安全建设与应用指南》（以下简称“指南”）。作为系统覆盖AI知识库全生命周期安全建设的标准文件，该指南旨在为党政机关、企事业单位及科研机构构建“内容可信、安全可控、动态优化”的知识基础设施，提供清晰可落地的操作框架。

  图：专家论证会现场  

  高质量数据是AI知识库的“底座”，安全必须前置

  当前，基于大语言模型和检索增强生成（RAG）技术的AI知识库，已成为各行业智能化转型的核心基础设施。然而，数据泄露、内容伪造、知识投毒、模型幻觉、合规风险等安全隐患频发，正侵蚀着知识库的根基。

  指南开宗明义：高质量数据是知识库的“底座”。没有标准化、高可信、合规化的高质量数据，知识库将成为“无源之水”，导致检索失效、幻觉频发、安全失控。因此，指南将高质量数据建设列为知识库建设的前置流程，明确提出在知识入库之前，必须先完成数据盘点、清洗、标准化、合规处理与质量校验，确保“干净原料”产出“可靠知识”。

  全生命周期精准管控，从采集到归档无一遗漏

  指南构建了覆盖知识采集、清洗、分类、加工、入库、更新、检索到归档的全生命周期安全管理体系。从源头白名单核验，到传输加密与系统鉴权；从敏感数据脱敏，到检索结果实时脱敏；从多级审核机制，到内容安全护栏与幻觉检测，每一个环节都被赋予明确的技术要求与操作规范。

  值得关注的是，指南提出了四级安全分级制度，对不同敏感等级的知识实施差异化的访问控制、加密存储与审计策略。这意味着，AI知识库不再是“一把钥匙开所有门”，而是能够精准识别“谁能看、谁能改、谁能用”。

  不止于规范，更是一套可落地的能力体系

  指南的价值，不止于纸面规范。编制单位同步给出了从标准到能力的落地路径。

  在基础设施层面，指南推荐采用安全可信的云服务，“新华云”作为符合高安全等级要求的云服务平台，可为知识库提供从采集、存储、计算到网络应用的端到端安全隔离能力。

  在内容治理层面，新华网沉淀多年的内容审核能力被系统嵌入指南的安全框架。无论是价值观对齐审核、敏感信息过滤，还是多源交叉验证与事实核验，这套审核机制都能为机构内部知识库提供专业、高效的“内容护栏”。

  而在涉时政相关知识的处理上，指南强调，面向公众服务的AI知识库，若涉及政策解读、法律法规、公共信息等敏感领域，应由权威平台提供数据支撑。新华社作为国家权威新闻发布机构，其时政及主流价值观语料库，可作为“可信知识底座”，从源头上保障涉政服务的权威性与时效性。

  这意味着，遵循这份指南，不仅是在遵循标准，更是接入一整套覆盖知识库全生命周期的安全能力生态。

  安全既是防火墙，更是竞争力

  指南明确指出，安全是AI知识库能够长期运行、持续创造价值的前提，也是机构构建差异化信任竞争力的核心资产。

  从技术效能到业务价值，从质量进化到场景适配，从风险合规到经济效率，指南系统提出了AI知识库应用效能评估体系。鼓励组织不仅要问“知识库建得全不全”，更要问“回答得准不准、安不安全、可不可追溯、合不合规”。

  参与编制的相关专家表示，“AI知识库的安全建设，不是一次性的合规检查，而是一场需要持续投入、动态优化的长跑。今天为安全付出的每一分努力，都是未来避免系统性风险的防火墙。”

  让知识可信，让智能可控

  《AI知识库安全建设与应用指南》的发布，标志着我国在AI知识服务领域迈出了从“可用”到“可信”的关键一步。它不仅是一份技术指南，更是一份面向未来的安全承诺。

  在这场AI驱动的变革中，知识库的能力，影响了智能应用的高度，而安全的厚度，决定了这条道路能走多远。我们呼吁各行业机构以此为标准，共同为AI知识库筑起一道坚实的安全堤坝。

  新华网后续将联合相关机构，发布《智能助手类智能体安全分级规范与建设指南》，进一步聚焦人机交互端的安全管控，与《AI知识库安全建设与应用指南》形成联动，为AI系统的可信运行构建更完整的能力保障体系。