本报记者文丽娟

本报实习生张广龙

早上8点，四川省绵阳市游仙区忠兴镇兴合村村医宋文卓来到卫生室，第一件事等于翻开电脑登录AI(东说念主工智能)辅助诊疗系统，这是他近段时刻养成的一个新民风。

“宋大夫，我心跳有点快，嗅觉上不来气，偶尔还会咳嗽几声。”卫生室刚开门，年近九旬的村民涂婆婆便在老伴的随同下前来看诊。宋文卓一边筹谋症状，一边将病情输入系统，然后点击AI辅诊按钮，系统赶紧与领有海量多发病、常见病等病例的国度中枢学问库对接，通过索乞降分析患者的历史病历信息，给出“急性上呼吸说念感染”等会诊建议。宋文卓迎合我方的临床训戒进行概述评估，最终细目涂婆婆是急性上呼吸说念感染。

随后，系统笔据大夫的聘用，给出了推选用药，列出推选依据、检讨建议等。宋文卓参考采取颐养药物，让老东说念主先吃药不雅察。

在宋文卓看来，AI辅诊系统的应用，不仅提高了会诊的准确性和遵守，还能匡助大夫更好地应回报杂病例，贬低误诊漏诊风险，看病用药也愈加安全宽心。

AI辅助诊疗系统在绵阳市游仙区下层医疗机构的应用，是我国激动“AI+医疗”的一个机动缩影。《“十四五”医疗装备产业发展筹画》明确淡薄加速智能医疗装备发展；《对于进一步完善医疗卫生处事体系的成见》淡薄发展“互联网+医疗健康”，加速激动互联网、东说念主工智能等在医疗卫生范畴中的应用……频年来，我国握住加强顶层联想，激动“AI+医疗”的发展。

多名业内东说念主士和各人在收受《法治日报》记者采访时指出，医疗范畴已经成为探索AI应用的紧要塞方，当今在一些病院主要应用于分导诊、预问诊、病历生成等场景，助力患者就医愈加浅近，普及了医疗处事质料，改日AI辅助诊疗将会成为一种趋势，但也需要警惕背后荫藏的法律风险，这些风险不仅触及患者个东说念主阴私保护，还关连到算法透明度和自制性等问题。

多地上线AI辅诊

普及患者就诊体验

近日，记者来到北京大学东说念主民病院进行甲状腺和瘢痕检讨，检讨姿色包括B超、血液检讨等。缴费完成后，大夫提醒可在系统预约检讨时刻。记者翻开手机，像“自助值机”相似，在可选时刻段，把检讨姿色约在相对蚁集的时刻，这么就不错“一次跑完”，在最短的时刻内完成扫数检讨，幸免了因现场列队改约和检讨时刻不同而带来的反复奔走。

这仅仅AI辅助医疗的一个缩影。记者梳理公开贵寓发现，“AI+医疗”当今已在多个病院落地。

在华中科技大学同济医学院附属协和病院，要是患者不知说念挂哪个科室，AI不错来襄理。

该院本年5月推出了“AI智谋门诊”，涵盖智能分导诊、智能加号等功能。以彼时的“智能加号”功能为例：患者可点击“挂号处事”“在线挂号”，插足需要预约的科室，要是聘用的各人号“满诊”，则可点击下方的“肯求加号”，在跳转页面聘用该各人的加号日历。细目免费预约后，AI会自动发起对话，筹谋病情等斟酌情况，然青年景“病情卡片”，再概述评估病情严重进程，判断加号履历，临了发送给各人细目是否通过。

此外，该院还推出“智能候诊室”功能。患者挂号后，由“大夫数字东说念主”与患者先进行换取，提前了解患者症状、病程等，为大夫面诊作念准备。

在浙江省东说念主民病院，数字健康东说念主“安诊儿”不错陪伴患者就诊。

据了解，“安诊儿”不错为患者提供躲避就医前、中、后的AI陪诊处事。诊前，患者不错向其描摹我方的症状，“安诊儿”笔据症状为患者匹配科室和大夫，匡助患者预约挂号；诊中，“安诊儿”可合理安排就诊经由，全程提供AR智能导航，还不错让患者在线上径直取号，并提供叫号提醒，以致能在支付宝上完成医保缴费，从简患者的就医时刻；诊后，患者离开病院，其还会不时提供电子病历、处方和敷陈查询等处事。

在北京友谊病院，AI能帮大夫写病历。

本年5月，云知声门诊病历生成系统在北京友谊病院应用。该系统能在复杂的病院环境中识别医患对话，精确捕捉要道信息，分离医患变装，并从中剔除与病情无关的内容，生成专科术语抒发的信息摘录，以及妥贴病历书写范例条目的门诊电子病历。数据高慢，在门诊病历生成系统的匡助下，北京友谊病院斟酌科室门诊病例录入遵守大幅普及，大夫问诊时刻大幅裁汰。

法律风险进击忽视

警惕算法厌烦问题

多名受访的业内东说念主士指出，东说念主工智能在医疗范畴的宽泛应用，能为患者提供更浅近的处事，提高了医疗处事的遵守和精确度，让优质医疗资源更普惠，但其背后的法律风险也进击忽视。

在山西大学法学院讲师陈川看来，传统医疗会诊过程强调大夫对患者东说念主格尊容和自主权的尊重与保护，大夫在作出医疗决策时，需概述琢磨患者的既往病史和现时症状，并依照斟酌法律法例与伦理范例，制定妥贴的颐养决策。关联词，医疗东说念主工智能存在“自动化偏见”风险，即大夫在会诊过程中可能会过度依赖东说念主工智能工夫，从而忽略本身专科判断和对患者个体需求的琢磨。这种过度依赖可能导致大夫将贫瘠的医疗决策不妥贴地交给东说念主工智能处理。当大夫过度依赖东说念主工智能时，患者的颐养决策可能被打劫，转而交由机器进行处理，导致患者失去对本身健康科罚的自主权。

此外，算法透明度不及和算法厌烦问题也进击忽视。“天然2023年7月国度网信办纠合国度发展校正委等部门公布的《生成式东说念主工智能处事科罚暂行办法》淡薄了算法透明性条目，但在具体实施过程中，算法的推行使命旨趣和决策过程频频难以被外界贯串和监督。由于算法透明度不及，患者无法了解医疗东说念主工智能是若何得出会诊论断的，导致其知情权和聘用权无法得到充分保险，可能会侵扰患者的知情欢喜权和自主决定权。”陈川说。

她淡薄，算法厌烦问题还会导致不同地区在医疗资源上的不对等表象。不同开荒者在侦查算法时可能不测间引入偏见，导致生成式东说念主工智能在濒临不同群体患者时作出厌烦性决策。举例，某些医疗东说念主工智能系统在筛查病东说念主时，会诊限度不准确或存在系统性低估。再比如，算法模子的侦查数据要是主要来自某些特定群体，可能会导致其濒临特殊群体时产生偏见。

陈川以为，当今，东说念主工智能在医疗范畴的应用仍处于探索阶段，易因误诊、数据露出等行径引提问责和归质问题。我国民法典章程医疗毁伤包袱适用毛病包袱原则，也琢磨到医疗器械所致毁伤的包袱承担问题。但东说念主工智能梗概稀薄生成医疗会诊限度或建议，因此在现行法律框架下，对医疗东说念主工智能应用的追责十分复杂，传统的包袱容貌难以简陋套用到医疗东说念主工智能上。

线上购药背本逐末

审核门径形同虚设

除了“AI+医疗”当作一种新兴模式在推行应用过程中可能存在一定法律风险外，一些线上医疗问诊、线上购药平台在引入AI辅助后，天然给患者带来浅近，但也暴流露不少问题。

记者在访问中发现，一些互联网医疗平台接管“先选购药品，再因药配方，以致由东说念主工智能软件自动生成处方”这么背本逐末的操作时势。

记者前不久在某购药平台下单处方药骨化三醇软胶囊后，平台请示“请聘用线下已确诊疾病”。记者在“疾病栏”立地勾选了几项，“处方/病历/检讨敷陈栏”空着，并阐述“已确诊此疾病并使用过该药，且无过敏史、无斟酌禁忌证和不良反映”，很快便通过了考证，提交清单后，系统跳至问诊版本。

紧接着，有“医师”接诊，一语气发来数条信息，其中第一条强调“互联网病院只对复诊用户提供医疗处事”，后续几条信息均为阐述有无过敏史或处于特殊期间。在记者莫得回应的情况下，对方就发来一张处地契和购买相连。

北京市民杨木(假名)也有过肖似经历，他怀疑屏幕背后接诊的不是果真抓业医师：“在××平台购买处方药时，嗅觉对方跟机器东说念主莫得诀别，只须打字往时，对方就会在几秒钟内赶紧欢喜，根柢莫得给出任何专科成见。”有一次，他特殊描摹一些不是欲购药品适当病症的情况，限度对方仍然很快开了处方。

多名业内东说念主士以为，“隔空”诊疗并不适合扫数患者，常见病、慢性病的复诊，是较永劫刻以来互联网诊疗的定位。不外，对于何为复诊，业内一直清贫具体圭臬，导致出现一些监管真空。

“假如是正规互联网病院，有抓业履历的大夫开具的电子处方，应该有大夫的签名、互联网病院电子章。不摒除有些微型互联网医疗平台存在用东说念主工智能、机器东说念主等器具自动生成处方，一些大平台会用AI等来辅助大夫问诊，比如问病东说念主几岁、那处不闲散等，关联词处方必须条目大夫来开。”北京某三甲病院一刘姓大夫说。

他还瞩目到，不少平台为谋取利益，接管“AI开处方，客户径直取药”的模式，处方开具、审核门径形同虚设，要么径直跳过开具处方这也曾由，要么对用户上传的处方并子虚际审核，这类行径严重违背了我国药品科罚轨制，也给患者用药安全埋下风险隐患。

在线上健康平台咨筹谋诊会不会露出个东说念主信息，亦然多名受访患者淡薄的疑问。

有一次，杨木的后背上起了不少红疹子，便在某健康平台进行问诊，限度没过几天，他就不时接到多个告白电话和短信，有筹谋是否需要植发的、有倾销护肤居品的，以致还有假贷公司打来的倾销电话。

“问诊时，平台集会的个东说念主信息和健康情况能弗成保存好，这些信息会不会流向第三方？”杨木相配顾忌。

此前，工信部曾通报过多个互联网医疗App在个东说念主信息集会及使用方面存在严重问题，包括超范围集会个东说念主阴私信息、未经本东说念主欢喜向他东说念主提供个东说念主信息、集会与医疗处事无关的个东说念主信息等。

“与其他类型App比较，医疗类App露出个东说念主信息可能会导致更严重的法律问题。要是个东说念主健康信息被露出，罪人分子可能哄骗这些信息实施精确糊弄，比如哄骗‘病急乱投医’的情态向患者罪人售卖或抓行药品。”前述刘大夫说。

完善斟酌法律框架

切实保险患者职权

受访各人指出，为了有用应答“AI+医疗”在推行应用中潜在的法律风险，需要从法律和策略两个层面进行系统化完善。独一确立健全法律框架和监管机制，明确医疗大模子的包袱包摄和数据使用范例，智商在推动医疗东说念主工智能发展的同期，切实保险患者的正当职权。

“率先要确立完善医疗东说念主工智能法律框架。当今，《生成式东说念主工智能处事科罚暂行办法》未触及医疗范畴东说念主工智能章程，需要在其基础上迎合医疗范畴的特色制定斟酌法律法例，罕见强调医疗东说念主工智能的辅助作用。”陈川说，为了匡助医疗使命主说念主员、患者更好地使用东说念主工智能系统、了解东说念主工智能得出会诊限度的开动机制，我国不错配套制定医疗东说念主工智能使用指南，以增强医疗东说念主工智能系统过甚限度的可施展性；还需完善其他法律章程，数据安全法、《触及东说念主的生命科学和医学研究伦理审查办法》等为制定医疗东说念主工智能科罚办法提供了基础，应依据东说念主工智能发展近况出台适用医疗东说念主工智能的科罚办法。

陈川还提到，强化医疗东说念主工智能算法监管刻进击缓。一方面，为确保医疗东说念主工智能的安全性和可靠性，应成立算法审查专门机构，对医疗东说念主工智能进行严格的安全性、透明性、伦感性审查；另一方面，基于数据的动态性和东说念主工智能工夫的握住迭代升级，应条目研发者提前研判算法应用过程中产生的安全风险并淡薄针对性应答门径，在算法生命周期内依期开展算法风险监测使命，针对算法的数据使用、应用场景、影响遵守等进行自我安全评估。此外，可开启公众监督举报、监管部门寻查等多种门径。

北京中医药大学法律系辅助邓勇也以为，跟着医疗大模子的发展，这一产业合规运营与监管显得越发紧要，需要细目本身的居品定位并赢得对应的天赋，幸免无天赋开展相应行径。“合规方面，首要应当细目本身的居品定位，如属于互联网诊疗居品的，需要斟酌或确立对应的实体医疗机构并肯求竖立相应的互联网病院，并在医师资源、病历科罚、药品配送、处方开具上舒服相应条目，如仅作健康科罚，不触及诊疗行径的，必须明确本身居品不具有‘医疗方针’，仅‘预期用于健康科罚、筹算东说念主群为健康东说念主群、记载统计健康信息’用。”

他淡薄，还应当采取数据清洗等时势确保去除公开数据中的坐法和不良信息及个东说念主信息，保证侦查数据正当合规。医疗大模子集会用户数据的条目，需要免除正当、梗直、必要的原则，不集会与所提供处事无关的个东说念主信息。

“医疗大模子集会用户数据的红线行径包括：未公开集会使用王法；未昭示集会使用个东说念主信息的方针、时势和范围；未经用户欢喜集会使用个东说念主信息；违背必要原则，集会与其提供的处事无关的个东说念主信息；未经欢喜向他东说念主提供个东说念主信息；未按法律章程提供删除或变嫌个东说念主信息功能或未公布投诉、举报时势等信息。”邓勇说，集会互联网公开数据时，为确保其正当合规，还需要履行奉告欢喜法式、匿名化法式、提供间隔渠说念等操作。此外，应当珍贵数据标注机制，通过标注注意生成色情暴力、厌烦性信息等坐法和不良内容，完毕内容安全。

针对线上医疗问诊暴流露的问题，陈川以为，亟须明确东说念主工智能的法律包袱，确立科学合理的包袱分拨机制，强化医务东说念主员的主体包袱，明确AI处于辅助性地位，细化各范畴参与者的包袱，弗成将医疗会诊透顶交给AI，应免除“事先注意—事中监控—过后问责”的原则。“医务东说念主员在行医过程中须履行注敬爱务，即医务东说念主员须瞩目志别和松懈AI会诊限度，不然应当承担包袱。”

宋文卓医疗陈川东说念主工智能患者发布于：湖北省声明：该文不雅点仅代表作家本东说念主，搜狐号系信息发布平台，搜狐仅提供信息存储空间处事。