中國互聯網絡信息中心于今年１１月３０日發(fā)布了《生成式人工智能應用發(fā)展報告〔２０２４〕》。數據顯示，我國生成式人工智能產業(yè)正以驚人的速度發(fā)展，截至今年６月，用戶規(guī)模已達２．３億人。人工智能不僅為生活的方方面面帶來了變革，在醫(yī)療領域的突破尤為引人注目。

例如，清華大學智能產業(yè)研究院推出的＂ＡＩ醫(yī)院＂Ａｇｅｎｔ?。龋铮螅穑椋簦幔煺趦葴y，并計劃于明年全面開放；同時，一個基于六千余本國內外醫(yī)學教材訓練的ＡＩ醫(yī)學大模型，已經在上海東方醫(yī)院的多個科室開始試點應用。

＂ＡＩ醫(yī)生＂的到來預示著醫(yī)療領域的未來。在這一前沿技術在帶來便利的同時，不少人卻對此表示擔憂，＂ＡＩ醫(yī)生安全嗎？＂＂ＡＩ醫(yī)生會泄露我的個人信息嗎？＂。如何在保障安全與公正的前提下推動技術發(fā)展，成為學界、產業(yè)界和社會共同關注的課題。

難題一：如何保護患者的隱私？

眾所周知，ＡＩ醫(yī)生的廣泛應用需要大量的患者數據，包括個人病史、遺傳信息以及生活方式等敏感內容。這些數據對ＡＩ算法的訓練和醫(yī)療決策至關重要。然而，這種大規(guī)模數據收集也帶來了前所未有的隱私泄露風險。

一起發(fā)生在國外的數據攻擊事件為ＡＩ數據安全保護敲響了警鐘。２０２４年１２月，數據丟失防護解決方案提供商Ｃｙｂｅｒｈａｖｅｎ的Ｃｈｒｏｍｅ擴展程序遭遇黑客入侵。黑客通過侵入管理員賬戶發(fā)布惡意更新，導致大量用戶的敏感數據泄露，其中包括身份驗證會話和Ｃｏｏｋｉｅ等?！荆薄?/p>

盡管該公司在發(fā)現問題后迅速修復了漏洞，并采取了補救措施，但這起事件卻暴露了當今技術環(huán)境下，敏感數據容易受到攻擊。對于醫(yī)療數據這種敏感數據而言，一旦泄露后果會更加嚴重，涉及患者的健康狀況、治療記錄等敏感信息，可能導致身份盜用、健康保險欺詐，甚至影響患者的社會安全。

為了保護患者隱私，開發(fā)人員開始在技術層面采取更為嚴格的加密措施。例如，使用聯邦學習（Ｆｅｄｅｒａｔｅｄ?。蹋澹幔颍睿椋睿纾┘夹g可以使ＡＩ在不直接訪問原始數據的情況下完成模型訓練，從而防止數據外泄。此外，差分隱私（Ｄｉｆｆｅｒｅｎｔｉａｌ?。校颍椋觯幔悖┘夹g也被廣泛應用，它通過在數據中加入隨機噪聲來保護個人隱私，同時確保統(tǒng)計分析的有效性。

在法律層面，可以制定更加全面的隱私保護法規(guī)，例如２０１８年歐盟生效的《通用數據保護條例》（ＧＤＰＲ），對ＡＩ系統(tǒng)的數據使用和存儲提出了更高的要求?！叮牵模校摇访鞔_規(guī)定了數據的使用目的必須明確，并禁止將數據用于原定目的之外的用途，特別是ＡＩ系統(tǒng)不得通過收集個人數據來進行二次推斷或分析，從而避免侵犯用戶隱私。此外，條例還對數據存儲提出了嚴格的本地化要求，要求在歐盟境內的數據應在歐盟境內存儲和處理，減少數據跨境流動的風險，從而更好地保護個人隱私。另一方面，《ＧＤＰＲ》還要求數據具有可移植性，用戶可以方便地將其在一個平臺上生成的數據遷移到其他平臺，增加了用戶對個人數據的控制權?！荆病?/p>

通過這些規(guī)定，技術與法規(guī)的協(xié)同發(fā)展，為ＡＩ醫(yī)生在數據安全方面提供了保障，有效地保護了患者的個人隱私。

難題二：如何確保ＡＩ醫(yī)生決策的透明性？?。粒舍t(yī)生依賴于深度學習等復雜算法來做出醫(yī)療決策，而這些決策過程往往是高度＂黑箱化＂的。即使ＡＩ能提供快速、精準的診斷建議，但其內部工作原理和判斷依據對患者和醫(yī)生來說，往往難以理解和追溯。這種不透明的決策過程容易引發(fā)患者對ＡＩ醫(yī)生的信任問題，尤其是在醫(yī)療決策涉及生命安全時，更是可能引發(fā)倫理和法律爭議。

這樣的擔憂并非空穴來風，今年１０月份，在一篇發(fā)表于《ＢＭＪ?。眩酰幔欤椋簦。Α。樱幔妫澹簦飞系恼撐闹?，來自德國和比利時的研究人員對微軟的Ｂｉｎｇ?。茫铮穑椋欤铮暨M行測試，評估其在解答常見醫(yī)療問題時的表現。測試結果令人震驚：在生成的５００個答案中，約２４％與現有醫(yī)學知識完全不符，甚至有３％的回答是錯誤得離譜，可能會給患者帶來嚴重傷害?！荆场?/p>

這一研究暴露了ＡＩ在處理醫(yī)療問題時的重大漏洞－－即使ＡＩ系統(tǒng)能夠快速生成答案，錯誤的決策依然可能對患者產生致命后果。更重要的是，ＡＩ的＂黑箱＂特性使得這些錯誤往往難以追溯，患者和醫(yī)生無法了解其背后的判斷依據，這無疑增加了人們對ＡＩ醫(yī)生信任的難度。

解決ＡＩ醫(yī)生決策透明性問題的核心，在于通過提升算法的透明度和可解釋性，使得本來不可控、不可見的＂黑箱＂轉變?yōu)榭煽?、可見的＂白箱＂。這一思路也得到了國際倫理框架的支持。算法的透明化不僅能夠增強患者與醫(yī)生的信任，也能為診療決策提供清晰的追溯路徑。

為此，許多倫理規(guī)范和標準都強調了算法透明性的重要性。例如，電氣與電子工程師學會（ＩＥＥＥ）在其發(fā)布的《人工智能設計的倫理準則》第二版中明確提出，增加算法的透明性是其設計目標之一?！荆础渴澜缧l(wèi)生組織（ＷＨＯ）在《衛(wèi)生健康領域人工智能倫理與治理》報告中也強調了確保算法的可解釋性和可理解性作為倫理原則之一。我國發(fā)布的《新一代人工智能倫理規(guī)范》同樣重視算法的安全性與透明度，提出了清晰的研發(fā)規(guī)范。

難題三、醫(yī)療責任歸屬該如何界定？　近期，廣東一名副主任檢驗技師在社交媒體上披露了一起震動醫(yī)療界的事故：深圳一家大三甲醫(yī)院的婦科醫(yī)生在使用機器人進行子宮內瘤體切除手術時，導致患者死亡。此事件迅速在醫(yī)療圈引起了廣泛討論，臨床醫(yī)生對手術機器人使用的安全性產生了強烈分歧。部分醫(yī)生認為，手術機器人雖然可以減輕醫(yī)生的壓力，但過度依賴機器人可能會增加潛在風險，甚至導致不可逆的醫(yī)療事故。

這一事件反映了醫(yī)療領域中的一個重要倫理挑戰(zhàn)：責任歸屬問題。近年來，手術機器人相關的醫(yī)療事故時有發(fā)生，而醫(yī)療損害糾紛的判決常常面臨責任劃分的模糊地帶。這樣的案例并非孤例。

據２０２４年５月２０日一篇發(fā)表于《中國醫(yī)院雜志》上的論文《涉及手術機器人醫(yī)療損害糾紛案例分析》統(tǒng)計，在２０１５至２０２２年間，涉及手術機器人醫(yī)療損害糾紛的案件高達６３例，涵蓋了泌尿科、胃腸科、婦產科等多個領域。由于手術過程中的高技術依賴，患者死亡或出現重大并發(fā)癥時，責任究竟應由開發(fā)機器人技術的公司、使用該技術的醫(yī)生，還是醫(yī)療機構承擔，成為法律界、醫(yī)學界亟待解決的難題。這類糾紛的頻發(fā)凸顯了ＡＩ醫(yī)療技術發(fā)展過程中，法律框架尚未完善的現實困境?！荆怠?/p>

針對ＡＩ醫(yī)生在醫(yī)療責任歸屬上的不明確問題，國家和地方政府已經開始采取措施，明確ＡＩ技術在醫(yī)療中的使用邊界與責任界定。２０２２年，國家衛(wèi)健委發(fā)布了《關于印發(fā)互聯網診療監(jiān)管細則（試行）的通知》，明確規(guī)定＂醫(yī)師接診前需進行實名認證，確保由本人接診＂，并強調＂其他人員、人工智能軟件等不得冒用、替代醫(yī)師本人接診＂。這意味著，在互聯網診療中，ＡＩ不能完全取代醫(yī)生的角色，醫(yī)師依然需要對診療結果負最終責任。

此外，湖南省醫(yī)保局也出臺了《關于規(guī)范手術機器人輔助操作系統(tǒng)使用和收費行為的通知》，要求醫(yī)療機構按照設備的注冊證適用范圍和臨床手術使用指征合理使用手術機器人輔助操作系統(tǒng)，并禁止超范圍或過度使用。

這些政策為ＡＩ醫(yī)生在醫(yī)療實踐中的合法使用提供了明確框架，確保了醫(yī)生在技術輔助下依然承擔起醫(yī)療決策的最終責任，從而減少了責任劃分模糊帶來的法律風險。通過這樣的政策和法律保障，可以為ＡＩ醫(yī)生在醫(yī)療領域的應用建立起更為清晰的責任界定，減少因技術問題導致的法律糾紛，推動ＡＩ與醫(yī)療行業(yè)的融合發(fā)展。

結語

數據安全，決策透明，乃至責任界定，這些問題會一直困擾整個ＡＩ醫(yī)生的行業(yè)。為了解決這些問題，需要各方力量的緊密合作－－技術創(chuàng)新必須與嚴格的法律法規(guī)和倫理規(guī)范相輔相成。只有在確保安全性、透明性和公正性的前提下，ＡＩ醫(yī)生才能真正為醫(yī)療行業(yè)帶來長遠的價值，成為保障公眾健康、提升醫(yī)療質量的重要力量。

參考資料：

【１】Ｃｙｂｅｒｓｅｃｕｒｉｔｙ?。危澹鳎螅。ǎ玻埃玻?，?。模澹悖澹恚猓澹颉。玻罚。茫猓澹颍瑁幔觯澹睢。茫瑁颍铮恚濉。澹簦澹睿螅椋铮睢。瑁幔悖耄澹洌。澹穑铮螅椋睿纭。螅澹睿螅椋簦椋觯濉。洌幔簦幔。茫猓澹颍螅澹悖酰颍椋簦。危澹鳎螅。遥澹簦颍椋澹觯澹洹。模澹悖澹恚猓澹颉。常?，?。玻埃玻?，?。妫颍铮怼。瑁簦簦穑螅海悖猓澹颍螅澹悖酰颍椋簦睿澹鳎螅悖铮恚悖猓澹颍瑁幔觯澹睿悖瑁颍铮恚澹澹簦澹睿螅椋铮睿瑁幔悖耄澹洌?/p>

【２】Ｅｕｒｏｐｅａｎ?。校幔颍欤椋幔恚澹睿簟。Α。茫铮酰睿悖椋臁。铮妗。簦瑁濉。牛酰颍铮穑澹幔睢。眨睿椋铮睿。ǎ玻埃保叮。遥澹纾酰欤幔簦椋铮睢。ǎ牛眨。玻埃保叮叮罚埂。铮睢。簦瑁濉。穑颍铮簦澹悖簦椋铮睢。铮妗。穑澹颍螅铮睿幔臁。洌幔簦帷。ǎ牵模校遥。希妫妫椋悖椋幔臁。剩铮酰颍睿幔臁。铮妗。簦瑁濉。牛酰颍铮穑澹幔睢。眨睿椋铮睿。粒觯幔椋欤幔猓欤濉。幔簦骸。瑁簦簦穑螅海澹酰颍欤澹澹酰颍铮穑幔澹酰欤澹纾幔欤悖铮睿簦澹睿簦牛危裕兀裕浚酰颍椋剑茫牛蹋牛兀ィ常粒常玻埃保叮遥埃叮罚?/p>

【３】Ａｎｄｒｉｋｙａｎ?。?，?。樱幔恚澹簦椋睿纾澹颉。樱?，?。耍铮螅妫澹欤洹。疲。澹簟。幔欤粒颍簦椋妫椋悖椋幔臁。椋睿簦澹欤欤椋纾澹睿悖澹穑铮鳎澹颍澹洹。悖瑁幔簦猓铮簦蟆。椋睢。螅澹幔颍悖琛。澹睿纾椋睿澹螅骸。帷。悖颍铮螅螅螅澹悖簦椋铮睿幔臁。螅簦酰洌。铮睢。簦瑁濉。瘢酰幔欤椋簦。幔睿洹。颍椋螅耄蟆。铮妗。洌颍酰纭。椋睿妫铮颍恚幔簦椋铮睢。妫铮颉。穑幔簦椋澹睿簦螅拢停省。眩酰幔欤椋簦。Α。樱幔妫澹簦。校酰猓欤椋螅瑁澹洹。希睿欤椋睿濉。疲椋颍螅簦骸。埃薄。希悖簦铮猓澹颉。玻埃玻矗。洌铮椋骸。保埃保保常叮猓恚辏瘢螅玻埃玻矗埃保罚矗罚?/p>

【４】Ｉｎｓｔｉｔｕｔｅ?。铮妗。牛欤澹悖簦颍椋悖幔臁。幔睿洹。牛欤澹悖簦颍铮睿椋悖蟆。牛睿纾椋睿澹澹颍蟆。ǎ桑牛牛牛。ǎ玻埃玻保。牛簦瑁椋悖幔欤欤。粒欤椋纾睿澹洹。模澹螅椋纾睿骸。痢。郑椋螅椋铮睢。妫铮颉。校颍椋铮颍椋簦椋椋睿纭。龋酰恚幔睢。祝澹欤欤猓澹椋睿纭。鳎椋簦琛。粒颍簦椋妫椋悖椋幔臁。桑睿簦澹欤欤椋纾澹睿悖濉。幔睿洹。粒酰簦铮睿铮恚铮酰蟆。樱螅簦澹恚蟆。ǎ玻睿洹。澹洌。桑牛牛牛?/p>

【５】朱鐘銳，馬輝．　涉及手術機器人醫(yī)療損害糾紛案例分析［Ｊ］．　中國醫(yī)院，２０２４，２８（５）：７２－７４．?。模希桑海保埃保梗叮叮埃辏椋螅螅睿保叮罚保埃担梗玻玻埃玻矗担保罚?/p>

注：文章來源于網絡，如有侵權，請聯系刪除