近日，中央网信办旗下杂志《中国网信》刊发了丁香园创始人、董事长李天天的署名文章《以“负责任创新”探索医疗人工智能发展新路径》。文章提到了丁香园在医疗人工智能领域秉持“负责任创新”理念，在医疗AI产品的研发上以数据质量为优先，坚持“有错必纠”，强化风险提示与循证依据前置，减少低级错误发生的概率，谨慎推进医疗人工智能的应用实践。以下为文章全文：
近年来，人工智能技术在医疗健康领域的应用不断深化，从医学知识检索、辅助诊疗到科研支持与健康管理，展现出广阔前景。与此同时，算法偏差、数据质量、责任边界等问题也逐渐显现。如何在鼓励技术创新的同时，有效防范潜在风险，推动人工智能在医疗健康领域实现风险可控、结论可信、发展可持续，成为当前亟须回应的重要课题。在这一背景下，“负责任创新”逐渐成为行业发展共识。在医疗健康等高风险领域，更应坚持审慎原则，将安全性、有效性和合规性置于优先位置。
以数据质量为核心的技术路径选择
医疗行业创新的底线在于确保医疗质量和患者安全，任何技术路径都不应偏离循证医学证据（用于支持医疗决策的科学研究证据）这一核心原则。这一认知既源于医疗行业的长期实践经验，也是医疗人工智能发展的价值坐标。
基于上述立场，观澜网络（杭州）有限公司（以下简称“丁香园”）在探索医疗人工智能发展的过程中明确将产品定位为医疗专业人员的辅助决策工具提供者，而非临床决策的替代者。核心目标是在严格遵循既有医疗规范和高等级循证医学证据的前提下，通过技术手段降低信息获取成本，减少低级错误风险，辅助医生更高效地做出符合专业共识的判断。
2025年10月，基于专业医疗数据和权威文献资料，丁香园上线循证医学临床诊疗决策辅助工具“临床决策”，该应用采用原文循证机制，以高质量循证医学数据为核心，依托人工智能技术实现智能化诊疗支持。在设计产品时，将重点放在数据可靠性、结论可追溯性和风险提示完整性上，力求在实际应用中发挥“纠错误、减风险、补短板”的辅助作用。在探索医疗人工智能发展的过程中，将更多资源投入医疗文本数据的系统性建设与治理，通过持续打磨数据来源、数据控制质量等，为模型提供更加可靠、可验证、可追溯的知识基础，以期从源头上降低潜在风险。
严格的数据筛选机制。在数据来源上，坚持以权威性和专业性为优先原则，重点选取权威临床指南、药品说明书、高等级循证医学文献及长期积累的专业内容体系，并通过交叉比对和专业筛选，尽量避免单一文本带来的偏差性和不确定性。
多层次的数据清洗与结构化处理。针对原始医学文本中表述不统一、适用条件不清晰等问题，在数据进入模型前进行系统化清洗与结构化处理，对关键概念、适用人群和风险提示进行明确标注，防范歧义表达引发的潜在风险。
动态更新与循证同步机制。围绕医学知识持续演进特点，建立动态更新机制，及时跟进权威指南修订和重要研究成果发布，补充或修正相关文本，剔除过时知识，避免因知识滞后影响临床判断。
同行评议与多轮人工复核流程。针对直接服务临床决策支持的重要内容，引入同行评议和多轮人工复核流程，重点关注安全边界、禁忌事项和高风险场景，确保内容符合当前医疗行业的专业共识和质量要求。
审慎应用中的初步实践与延展探索
丁香园把产品定位为风险约束与认知校验下的诊疗辅助决策系统，将风险控制和纠偏能力置于更加优先的位置。
一方面，在涉及潜在高风险的临床问题时，先充分暴露警示风险，再给出相关结论作参考，避免在证据不足或适用条件复杂的情境下对医生形成误导。引入针对医生提问的意图识别与风险分层机制，对不同类型问题进行差异化处理。重点识别是否涉及明确的高风险诊疗行为，并结合病情复杂程度、用药不良反应风险及适用条件的不确定性，对风险提示进行分层配置。
另一方面，在结论呈现上，始终将高等级循证医学证据置于核心位置，通过明确适用条件、证据来源和不确定性边界，强化对临床指南和专业共识的尊重。对于经识别明确涉及严重安全风险且缺乏合理医学超范围适用依据的问题，设置稳定且一致的安全约束机制，明确不输出可能引发误用的结论性建议，并且直接提示相关行为存在显著风险或不符合规范要求。
“临床决策”结合既有医学规范和质量控制经验，引入多项规则化约束机制，对药物禁忌、特殊人群用药及剂型差异等关键节点进行识别和提示，对明显存在风险的操作进行前置提醒，帮助医生减少在高强度工作环境下低级错误发生的概率。“临床决策”上线三个月内，系统处理了超过一百万条来自认证医生的提问。
当前，基层医疗资源相对有限、基层医生水平参差不齐、医生在独立决策时面临的压力较为集中，需要通过合规、可靠的技术工具，辅助基层医生提升决策质量、减少系统性风险。在后续规划中，丁香园将结合开展多年的“基层医生赋能计划”，逐步面向基层医疗机构和医生捐赠人工智能产品和服务。2026年计划向青海、甘肃、新疆、黑龙江等地的基层医生和大学生村医捐赠“临床决策”会员服务，助力提升基层诊疗水平。
未来，丁香园将持续完善数据治理与风险控制机制，审慎稳妥推进医疗人工智能的应用实践，为医疗人工智能在规范框架下的有序发展和医疗体系高质量发展提供可参考的实践经验。（钟新）
