AI醫(yī)療應(yīng)用中要注意哪些問題?
1、數(shù)據(jù)泄露問題
醫(yī)療數(shù)據(jù)包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等,不僅涉及患者隱私,還具有特殊的敏感性和重要價(jià)值,一旦泄露,可能給患者帶來身心困擾和財(cái)產(chǎn)損失,甚至對(duì)社會(huì)穩(wěn)定和國家安全造成負(fù)面影響。然而,醫(yī)療AI的研發(fā)與應(yīng)用,必須依賴大量的醫(yī)療數(shù)據(jù)用于算法訓(xùn)練,數(shù)據(jù)量越大、越多樣,其分析和預(yù)測(cè)的結(jié)果將越精準(zhǔn)。但數(shù)據(jù)收集、分析處理、云端存儲(chǔ)和信息共享等大數(shù)據(jù)技術(shù)的應(yīng)用,加大了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
事實(shí)上,近年來醫(yī)療行業(yè)已經(jīng)成為數(shù)據(jù)泄露的重災(zāi)區(qū)。2017年全球15%的數(shù)據(jù)泄露事件來自醫(yī)療保健行業(yè),僅次于金融業(yè)。我國醫(yī)療數(shù)據(jù)泄露事件也不鮮見。據(jù)《法制日?qǐng)?bào)》2017年9月報(bào)道,某部委醫(yī)療信息系統(tǒng)遭到黑客入侵,被泄露的公民信息多達(dá)7億多條,8000多萬條公民信息被販賣。2018年多家醫(yī)療機(jī)構(gòu)計(jì)算機(jī)系統(tǒng)被勒索病毒攻擊。2020年4月,某AI醫(yī)學(xué)影像公司遭黑客入侵,其AI輔助系統(tǒng)和訓(xùn)練數(shù)據(jù)被竊取,并以4比特幣(約合18萬人民幣)的價(jià)格在暗網(wǎng)上公開出售。這也是國內(nèi)首家被曝?cái)?shù)據(jù)泄露的醫(yī)療AI公司案例。
2、醫(yī)療安全問題
盡管醫(yī)療AI被賦予了準(zhǔn)確、高效、安全等優(yōu)點(diǎn),但醫(yī)療活動(dòng)本身具有一定的風(fēng)險(xiǎn)性和不確定性,加上手術(shù)機(jī)器人等醫(yī)療AI在應(yīng)用中需要密切接觸患者身體或直接作用于人體某些器官,不可避免地面臨潛在風(fēng)險(xiǎn)。主要包括技術(shù)和人為兩方面的因素。
從技術(shù)來看,國內(nèi)醫(yī)療AI的發(fā)展在當(dāng)前還處于起步階段,產(chǎn)品性能還不穩(wěn)定,也缺乏相應(yīng)的標(biāo)準(zhǔn)和規(guī)范,安全性還有待考證,需要在實(shí)踐中不斷調(diào)試改進(jìn)。即使是較為成熟的進(jìn)口產(chǎn)品,也存在諸多問題。據(jù)美國媒體報(bào)道,使用沃森腫瘤解決方案的醫(yī)生發(fā)現(xiàn),沃森經(jīng)常會(huì)推薦不準(zhǔn)確甚至錯(cuò)誤的治療建議。如果醫(yī)生據(jù)此決策,后果難以設(shè)想。
人為因素主要是醫(yī)生操作不當(dāng)。在現(xiàn)階段,醫(yī)療AI還只是機(jī)器或程序,它不能根據(jù)實(shí)際情況調(diào)整自己的行為,必須依賴醫(yī)生對(duì)機(jī)械進(jìn)行操控或做最終決策。在應(yīng)用之初,醫(yī)生可能因經(jīng)驗(yàn)不足、操作不熟練而引發(fā)機(jī)器故障,有的甚至?xí)斐蓢?yán)重后果。如2015年2月,英國首例機(jī)器人心臟手術(shù)過程中出現(xiàn)“機(jī)器失控”,主刀醫(yī)生在慌亂中應(yīng)對(duì)失當(dāng),最終導(dǎo)致手術(shù)失敗,患者一周后死亡。這起事故的原因,除機(jī)器故障外,與主刀醫(yī)生操作經(jīng)驗(yàn)不足、未充分估計(jì)手術(shù)風(fēng)險(xiǎn)有很大關(guān)系。
3、責(zé)任界定問題
傳統(tǒng)醫(yī)療模式下,醫(yī)療機(jī)構(gòu)和醫(yī)生是醫(yī)療服務(wù)的責(zé)任主體。引入AI后,改變了傳統(tǒng)的醫(yī)患關(guān)系格局,醫(yī)生與患者之間增加了“AI醫(yī)生”及其設(shè)計(jì)制造商,這就使得醫(yī)療責(zé)任認(rèn)定問題變得復(fù)雜起來。一方面,在當(dāng)前技術(shù)條件下,無論是人類醫(yī)生,還是醫(yī)療AI,都不能達(dá)到100%的準(zhǔn)確率,出現(xiàn)誤診和漏診在所難免。如果在診治過程中,醫(yī)生依賴AI出具的報(bào)告做出錯(cuò)誤的判斷,給患者的疾病診治和身心健康帶來傷害時(shí),其責(zé)任到底該由誰來承擔(dān)?另一方面,隨著AI技術(shù)的發(fā)展,今后的AI將擁有越來越強(qiáng)大的自主能力,在醫(yī)療活動(dòng)中將扮演越來越重要的角色,甚至可能獨(dú)立做出診斷結(jié)果,醫(yī)療責(zé)任界定問題將更加突出。當(dāng)醫(yī)療AI作為直接“參與者”,在手術(shù)、康復(fù)訓(xùn)練和護(hù)理中出現(xiàn)傷害患者的異常行為,或間接性地對(duì)患者造成欺騙性、虛幻性消極影響時(shí),是否可以追究它們的倫理責(zé)任和道德義務(wù)?它們是否具有或在多大程度上具有承擔(dān)醫(yī)療責(zé)任的能力?因此,有必要加強(qiáng)醫(yī)療AI背景下的風(fēng)險(xiǎn)責(zé)任規(guī)制,以確保患者和公眾的健康權(quán)益。
4、公平受益問題
AI應(yīng)用于醫(yī)療領(lǐng)域,大大提高了診療效率和精準(zhǔn)度,無疑會(huì)給患者帶來巨大福音,但也存在不能公平受益的問題。一方面,由于醫(yī)療AI是新興的醫(yī)學(xué)高新技術(shù),在目前階段還屬于稀缺資源,加上醫(yī)療AI的研發(fā)成本高昂,因而在臨床應(yīng)用中收取費(fèi)用較高,且一般不在醫(yī)療保險(xiǎn)報(bào)銷范疇。這就使得醫(yī)療AI成為少部分人群能夠享用的技術(shù),大多數(shù)患者由于經(jīng)濟(jì)能力有限,只能望機(jī)興嘆。另一方面,基于算法和大數(shù)據(jù)的AI程序并非完全客觀公正,其中可能隱含著某些偏差或歧視。這些偏差或歧視可能來自算法設(shè)計(jì)者的價(jià)值偏好,也可能來自有偏見的訓(xùn)練數(shù)據(jù),還可能來自輸入數(shù)據(jù)的抽樣偏差。由于深度學(xué)習(xí)是一個(gè)典型的“黑箱”算法,具有不透明性和不可解釋性,從而使這些偏見難以被覺察,并在深度學(xué)習(xí)中被不斷復(fù)制和放大,最終導(dǎo)致預(yù)測(cè)結(jié)果的偏差,可能使某些人群在醫(yī)療評(píng)估中受到歧視性對(duì)待,甚至可能引發(fā)醫(yī)療安全事故。
5、醫(yī)務(wù)人員的未來定位問題
AI有著遠(yuǎn)超人類的學(xué)習(xí)能力和計(jì)算能力,其準(zhǔn)確、高效和不知疲倦等優(yōu)勢(shì),將極大提高工作效率,降低勞動(dòng)成本,并逐步取代越來越多的人工勞動(dòng)。2017年,英國一家名為“改革”的智庫發(fā)布報(bào)告稱,機(jī)器人未來將有可能取代英國公共部門近25萬個(gè)崗位。在醫(yī)療領(lǐng)域,AI正逐漸取代人類從事一些簡單的醫(yī)療后勤和技術(shù)工作,如智能導(dǎo)診、微信掛號(hào)繳費(fèi)、機(jī)器人發(fā)藥等,并在醫(yī)學(xué)影像、輔助診療等核心醫(yī)療環(huán)節(jié)發(fā)揮著越來越重要的作用,醫(yī)師的主體性地位日益受到挑戰(zhàn)。由此引發(fā)了人們對(duì)醫(yī)務(wù)人員是否能被AI取代的爭(zhēng)論。
醫(yī)療行業(yè)有其特殊性,涉及人與人之間的溝通和交流,需要醫(yī)生的個(gè)人經(jīng)驗(yàn)和情感投入,這是AI無法取代的。我國醫(yī)療資源短缺,基層醫(yī)生經(jīng)驗(yàn)不足,有了AI的輔助,醫(yī)務(wù)人員不僅可以更好地診治患者,還可把更多的精力用于與患者溝通,給予患者更多的人文關(guān)懷。從這一點(diǎn)來看,AI不僅無法取代醫(yī)務(wù)人員,還會(huì)使他們的工作更有價(jià)值,更有人情味,更能回歸醫(yī)學(xué)是人學(xué)的本質(zhì)。但是,醫(yī)療AI的應(yīng)用,必將推動(dòng)現(xiàn)有醫(yī)療模式發(fā)生變革,也必將對(duì)醫(yī)務(wù)人員提出更高的要求,如果醫(yī)務(wù)人員不能及時(shí)完善知識(shí)結(jié)構(gòu),提升溝通技巧和人文素養(yǎng),是難以勝任AI時(shí)代的醫(yī)療工作的。
6、患者信任問題
醫(yī)療技術(shù)的發(fā)展最終是為患者服務(wù)的,必須關(guān)注患者對(duì)醫(yī)療AI的信任問題。據(jù)筆者的一項(xiàng)調(diào)查顯示:雖然大多數(shù)患者對(duì)醫(yī)療AI持樂觀、期待態(tài)度,表示對(duì)擁有智能醫(yī)療設(shè)備的醫(yī)院會(huì)更加信任,但對(duì)AI應(yīng)用于臨床診斷和治療,患者的接受度和信任度并不高,且AI介入的工作越多,占據(jù)的角色越重,患者的接受度和信任度反而越低。
分析其發(fā)因,主要有兩個(gè)方面:一是當(dāng)前的醫(yī)療AI還處于初級(jí)階段,患者對(duì)其缺乏深層次了解,加上很多技術(shù)尚未成熟,患者對(duì)其安全性、易用性等心存擔(dān)憂,因而對(duì)其在醫(yī)療活動(dòng)中的深度介入持戒備心理。二是醫(yī)療AI改變了傳統(tǒng)的就醫(yī)模式和醫(yī)患關(guān)系,“醫(yī)”不再只是有情感的人,也可以是智能機(jī)器或程序,傳統(tǒng)的醫(yī)患交流可能更多地變成“人機(jī)對(duì)話”。因此,面對(duì)不會(huì)說話、冷冰冰的機(jī)器,患者對(duì)其溝通能力、理解能力以及應(yīng)變能力等存在懷疑態(tài)度,進(jìn)而影響到他們對(duì)醫(yī)療AI的信任度?梢,AI能否在醫(yī)療領(lǐng)域順利應(yīng)用,還需過患者信任這一關(guān)。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
11月19日立即報(bào)名>> 【線下論壇】華邦電子與恩智浦聯(lián)合技術(shù)論壇
-
11月29日立即預(yù)約>> 【上海線下】設(shè)計(jì),易如反掌—Creo 11發(fā)布巡展
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會(huì)
-
精彩回顧立即查看>> 2024(第五屆)全球數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)大會(huì)暨展覽會(huì)
-
精彩回顧立即查看>> 全數(shù)會(huì)2024中國人形機(jī)器人技術(shù)創(chuàng)新發(fā)展大會(huì)
-
精彩回顧立即查看>> OFweek 2024中國激光產(chǎn)業(yè)高質(zhì)量發(fā)展峰會(huì)
-
9 BD新浪潮
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市