4月27日，北京市科学技术委员会、中关村科技园区管理委员会在2024中关村论坛年会-未来人工智能先锋论坛上发布了《北京市人工智能大模型行业应用分析报告》（以下简称《分析报告》）。
《分析报告》提到，北京市委市政府高度重视人工智能发展，2023年5月印发《北京市加快建设具有全球影响力的人工智能创新策源地实施方案(2023-2025年)》，强调构建高效协同的大模型技术产业生态，建设大模型算法及工具开源开放平台，构建完整大模型技术创新体系。并印发《北京市促进通用人工智能创新发展的若干措施》，强调开展大模型创新算法及关键技术研究、加强大模型训练数据采集及治理工具研发，推动大模型在政务、医疗、科学研究、金融等领域的示范应用。通过积极布局人工智能产业发展要素，通过部署智能算力平台、建设数据基础制度先行区、发布中文互联网语料库、设立产业投资基金、建设大模型产业集聚区等一系列举措，加速推动人工智能产业发展。截至目前,全市人工智能相关企业约2200家，约占全国四成。2023年人工智能产业核心产值突破2500亿元。并且形成了人工智能领域完整的创新和产业链条。
同时，《分析报告》梳理了现阶段大模型应用的五个挑战。二是知识产权、数据隐私与大模型应用之间的最佳平衡点仍在探索中，如何最大限度地保护数据隐私，又最大限度地发挥模型的效果，这一矛盾在医疗领域尤为突出。三是大模型幻觉问题，医疗领域对大模型输出内容的专业性、准确性有较高要求，对不准确回答的容忍度较低，当前还缺乏“根治”幻觉的方法，大模型规模化落地受阻。四是需求方在输出内容的专业性、准确性等方面要求较高，特别是在医疗等领域尤为明显。当前大模型落地的各类应用大多处于可用阶段，但应当从“可用”迈向“好用”。五是医疗等领域在政策、数据隐私、伦理安全等方面有较高监管需要，可能对大模型落地提出特殊要求。《分析报告》也指出，2023年，大模型落地集中于边缘场景，例如在医疗领域，以医疗文书生成、智能医药问答等场景为主；2024年，大模型正逐步向核心场景挺进。与此同时，大模型在医疗领域落地相对较慢，2023年公开招投标统计数据显示，医疗相关大模型项目招标金额最少，占比仅1.7%。结合医疗领域的具体情况，《分析报告》对大模型的应用进行了几个方面的研判：
- 医疗领域核心场景重视准确性及可解释性。诊断场景作为医疗领域的核心场景，需要大模型结果准确，同时给出判断依据，还应支持生成结果可回溯、可验证，这对技术企业的医疗业务积累以及技术方案的设计都提出了更高的要求，不少技术企业将大模型尝试应用于科研及教学环节，推动医疗领域更快实现大模型应用落地。
- 医疗数据治理面临隐私及标准化的挑战。当前医疗人工智能产品训练所需的基础数据，均来源于医疗机构在不同时期逐步部署的异构信息系统，不同的医疗机构之间医疗数据仍难以互联互通、共享共用，这阻碍了医疗数据在大模型甚至多模态大模型上的进一步分析利用。同时医院内部对数据管理严格，对数据安全与用户隐私保护要求很高，只支持大模型在医院内部私有化部署训练，无法出域训练，这种方式一定程度上限制了大模型在医疗领域的商业化落地。
- 医疗机构私有化落地成本较高。大模型在资金、时间、算力、硬件设施和环境等方面具有高昂的开发和运营成本。大模型训练与推理对算力要求大，科研单位及医疗机构自建算力所需的前期购买与后期维护的人员与资金成本极高，在当前算力短缺的情况下，医疗机构私有化部署医疗大模型难度加大。
一是从医疗全流程入手，开放有价值业务场景。从加快场景落地考虑，在持续推进医疗诊断等核心业务的同时，拓展医疗行业全领域业务场景，从互联网诊疗、诊前诊后全流程管理、科研场景、民营医院入手，鼓励本市大模型团队找准行业或场景数据优势错位发展，探索大模型在医疗领域的商业化模式和产业化发展路径。二是推动构建北京市医疗大模型公共数据集。协同各类主体加快构建高质量的医疗领域公共训练数据集，推动医疗数据泛知情同意，按照尽职免责原则实现数据出院。研究制定数据集规范格式和使用标准，组织医疗数据治理能力强的企业进行医疗数据标准化治理，利用医学知识图谱技术，识别医疗实体并建立关联，形成结构化知识网络，针对病历文本进行语义分析，抽取症状、疾病等概念，有效提升医疗数据的质量，为训练更准确、可解释的医疗辅助模型奠定基础。三是大模型技术企业与医院IT解决方案供应商加强合作。医院通常有固定合作的解决方案供应商，其他技术企业全新建立与医院的合作关系较为困难。大模型技术企业需要结合自身的技术特征、目标场景等要素，选择合适的医院IT解决方案供应商进行合作。
