AI技術(shù)正在改變美國(guó)器官捐贈(zèng)
過(guò)去只有三種方法可以脫離腎移植等待名單。第一是從自己的朋友和家人中找到一個(gè)健康的人,完美匹配接受者的血液和組織類(lèi)型,并且擁有他或她愿意放棄的備用腎。
第二是等待一個(gè)陌生人意外死亡,這個(gè)陌生人是一個(gè)合適的身體匹配,碰巧在他們的駕照上勾選了器官捐獻(xiàn)。
第三是死亡。
但是后來(lái)醫(yī)生們想到:擁有足夠多的腎臟病人和足夠多健康自愿的捐贈(zèng)者,他們可以形成一個(gè)足夠大的捐獻(xiàn)池來(lái)促進(jìn)比過(guò)去一對(duì)一系統(tǒng)更多的匹配。只要病人能找到捐贈(zèng)者——任何捐贈(zèng)者,即使是不匹配病人本身——他們也可以得到一個(gè)匹配的腎臟。
起初,這要求醫(yī)生花幾個(gè)小時(shí)仔細(xì)研究病人和潛在捐贈(zèng)者列表中的血型和組織變化細(xì)節(jié)。然后,計(jì)算機(jī)科學(xué)家和經(jīng)濟(jì)學(xué)家參與了進(jìn)來(lái)。他們構(gòu)建的算法比人腦更優(yōu)雅地執(zhí)行這些復(fù)雜的匹配。現(xiàn)在,多虧了人工智能,一個(gè)人勇敢邁出一步,將腎臟捐贈(zèng)給所愛(ài)之人——或者一個(gè)完全陌生的人——可以開(kāi)啟一條拯救數(shù)十條生命的鏈條。
配對(duì)腎臟捐獻(xiàn)是人工智能的偉大成功案例之一。這并不能消除工作,也不能抹去醫(yī)療保健中的人情味。它應(yīng)對(duì)一個(gè)非常復(fù)雜的問(wèn)題,解決起來(lái)比人類(lèi)更快,錯(cuò)誤也更少,結(jié)果拯救了更多的生命。自從2000年第一對(duì)腎臟交換手術(shù)開(kāi)始以來(lái),近6000人接受了通過(guò)算法識(shí)別的配對(duì)交換的腎臟移植。今天,大約八分之一從活體捐獻(xiàn)者那里接受腎臟的移植接受者,通過(guò)配對(duì)交換與該人配對(duì)。
與此同時(shí),配對(duì)腎臟交換也是人工智能局限性的一個(gè)完美例子。計(jì)算機(jī)只能做人類(lèi)能教它的事情,而我們無(wú)法教我們不懂的東西。自從醫(yī)學(xué)學(xué)會(huì)如何用捐贈(zèng)腎臟替代衰竭腎臟以來(lái)的幾十年里,我們?nèi)栽谂鉀Q如何分配珍貴的少量腎臟的問(wèn)題,這種分配方式讓每個(gè)人都感到公平和滿(mǎn)意,并且不會(huì)導(dǎo)致不希望的、意想不到的后果。人工智能可以識(shí)別出在生物學(xué)上彼此適合的潛在捐贈(zèng)者和接受者;將來(lái),它甚至可以權(quán)衡決定誰(shuí)先接受移植的道德因素。但是首先,我們?nèi)祟?lèi)必須就這些應(yīng)該是什么達(dá)成一致。
腎臟充當(dāng)身體的過(guò)濾器。對(duì)于腎功能衰竭的人來(lái)說(shuō),透析基本上是從外部復(fù)制器官的功能,將病人未經(jīng)過(guò)濾的血液排出幾個(gè)小時(shí),然后再泵回體內(nèi)。20世紀(jì)中葉透析的發(fā)明使一種曾經(jīng)是死刑的疾病變成了一種慢性但可控制的疾病。
第一個(gè)門(mén)診透析中心——西雅圖人工腎中心,于1962年1月開(kāi)業(yè)。由于每個(gè)病人每周都需要在機(jī)器上進(jìn)行兩次12小時(shí)的治療,所以該中心在頭兩年,只能接受大約2000名當(dāng)時(shí)有資格接受透析治療的美國(guó)晚期腎病患者中的10名。
為了將利潤(rùn)掌握在自己的手中,該中心組織了一個(gè)由七名公民組成的獨(dú)立委員會(huì)。第一個(gè)接受和政策委員會(huì)——或后來(lái)被媒體稱(chēng)之為“上帝委員會(huì)”——由一名律師、牧師、銀行家、家庭主婦、州政府官員、勞工領(lǐng)袖和外科醫(yī)生組成。醫(yī)生為他們做了一些決定:45歲以上的病人沒(méi)有資格,兒童也沒(méi)有資格,因?yàn)獒t(yī)生擔(dān)心這個(gè)手術(shù)可能會(huì)給他們帶來(lái)精神創(chuàng)傷。除此之外,委員會(huì)可以自行選擇大約四分之一符合條件的申請(qǐng)患者。
根據(jù)1962年《Life》雜志的一篇文章,該匿名委員會(huì)成員會(huì)考慮申請(qǐng)人的年齡和性別,以及是否已婚還是有孩子。他們會(huì)考慮申請(qǐng)者的情緒穩(wěn)定。他們會(huì)看申請(qǐng)者賺了多少錢(qián),以及他們存了多少錢(qián);他們的教育水平、工作、過(guò)去的行為和未來(lái)潛力。他們決定,既然開(kāi)發(fā)這項(xiàng)技術(shù)的研究是在華盛頓州資助的機(jī)構(gòu)進(jìn)行的,那么只有華盛頓居民會(huì)被考慮,因?yàn)橹Ц吨委熧M(fèi)用的是該州的稅收。
這篇文章稱(chēng)委員會(huì)成員作為“思想高尚、善良的公民”面臨著幾乎不可能完成的任務(wù)。他們也是人類(lèi),而作為人類(lèi),總會(huì)受到有意識(shí)和無(wú)意識(shí)偏見(jiàn)的影響。他們是根據(jù)醫(yī)生寫(xiě)的病歷做出決定的,而醫(yī)生會(huì)有意識(shí)和無(wú)意識(shí)的偏見(jiàn)。
該委員會(huì)的七名成員是美國(guó)太平洋西北地區(qū)中上層階級(jí)的一部分,他們的討論(至少是那些公開(kāi)發(fā)表的)暗示了對(duì)那些似乎分享他們的地位和價(jià)值觀的病人的好感。《Life》雜志中從來(lái)沒(méi)有提到種族,但是很難想象,在一個(gè)仍然嚴(yán)重隔離的社會(huì)里(僅舉一個(gè)例子,當(dāng)時(shí)98%的華盛頓州員工是白人),有色人種并不在這些代表的考慮之中。
他們的討論預(yù)示了一個(gè)問(wèn)題,在原始的腎臟治療機(jī)被更先進(jìn)的技術(shù)超越之前,這個(gè)問(wèn)題將會(huì)持續(xù)很久。即使一群人一致承諾盡可能做最好的事情,但對(duì)于大多數(shù)人來(lái)說(shuō),到底什么才算是最好的東西?
當(dāng)上帝委員會(huì)發(fā)布痛苦的決定時(shí),其他地方也在進(jìn)行治療腎病患者的類(lèi)似工作。
醫(yī)生于1954年在波士頓的Birgham and Women's Hospital進(jìn)行了第一次成功的腎移植手術(shù),通過(guò)外科手術(shù)從一名23歲的男子身上取出一個(gè)器官,移植到了他的雙胞胎兄弟身上,這位接受者又存活了八年。
到了20世紀(jì)60年代初,血液和組織分型的發(fā)展使得醫(yī)生更容易識(shí)別捐贈(zèng)者和接受者之間的成功匹配,免疫抑制劑藥物的改進(jìn)大大降低了移植排斥率。今天,一個(gè)已故捐贈(zèng)者的腎臟在接受者體內(nèi)會(huì)持續(xù)工作8到12年,而來(lái)自活體捐獻(xiàn)者的腎臟平均壽命為12到20年。
1972年,美國(guó)總統(tǒng)理查德·尼克松簽署了立法,擴(kuò)大醫(yī)療保險(xiǎn)范圍,將所有腎衰竭患者的透析包括在內(nèi)。透析并沒(méi)有治愈他們,但是它讓更多的人在等待和希望腎移植的時(shí)候存活了更長(zhǎng)時(shí)間。從那以后,美國(guó)需要腎臟移植的人數(shù)增長(zhǎng)速度遠(yuǎn)遠(yuǎn)快于可用的供腎數(shù)量。
根據(jù)器官共享聯(lián)合網(wǎng)絡(luò)的信息,截至撰寫(xiě)本文時(shí),美國(guó)有114554人在等待器官移植。其中94980人——83%——正在等待腎臟移植。
1968年的《統(tǒng)一解剖捐贈(zèng)法》在美國(guó)建立了一個(gè)標(biāo)準(zhǔn)程序,通過(guò)這個(gè)程序,人們或他們的近親可以授權(quán)死后捐贈(zèng)他們的器官。但是,即使美國(guó)每個(gè)人都是注冊(cè)器官捐獻(xiàn)者(目前的比例是54%),也沒(méi)有足夠的腎臟來(lái)滿(mǎn)足需求。只有不到2%的人的死亡方式能夠使他們成為合適的器官捐獻(xiàn)者。一個(gè)人死后器官仍然可以移植,氧合血液必須持續(xù)泵送通過(guò)它們,直到依靠外科手術(shù)從體內(nèi)取出。在采摘手術(shù)前,已故捐贈(zèng)者通常被宣布腦死亡,并被連接在呼吸機(jī)上。
幸運(yùn)的是,由于大多數(shù)人生來(lái)就有兩個(gè)功能正常的腎臟,且只需要一個(gè)就能存活下來(lái),所以活著的人可以捐獻(xiàn)腎臟。由于活體捐獻(xiàn)者的腎臟壽命往往比已故的更長(zhǎng),所以對(duì)于需要移植的人來(lái)說(shuō),找到活體捐贈(zèng)者通常是理想的結(jié)果。
雖然所有手術(shù)都有并發(fā)癥或死亡的風(fēng)險(xiǎn),但絕大多數(shù)腎臟捐獻(xiàn)者在腹腔鏡手術(shù)后僅僅需要在醫(yī)院呆兩三天,隨后是另外四到六周的恢復(fù)時(shí)間。剩下的腎臟會(huì)發(fā)育以補(bǔ)償捐獻(xiàn)的腎臟,捐贈(zèng)者通常會(huì)繼續(xù)過(guò)著正常的生活。
當(dāng)然,向你的兄弟姐妹申請(qǐng)器官不是一件小事。但是找到一個(gè)愿意捐贈(zèng)的人通常是這個(gè)過(guò)程中最簡(jiǎn)單的部分,因?yàn)樵S多病人和他們的家人都會(huì)發(fā)現(xiàn)無(wú)法匹配器官。
佛羅里達(dá)商人Neil Emmott在2001年被診斷患有多囊腎疾病,一種可能導(dǎo)致腎衰竭的遺傳疾病。他的妻子Lisa Emmott說(shuō),這個(gè)消息是“意想不到的和毀滅性的”。在被診斷出時(shí),Neil38歲,Lisa27歲,這對(duì)夫婦結(jié)婚還不到一年。到2016年,他們有了兩個(gè)年幼的女兒,Neil的病情惡化到了約翰霍普金斯大學(xué)的醫(yī)生建議他考慮移植選擇的地步。
Lisa自愿立即捐贈(zèng)。她很健康,和他擁有相同的血型,所以她認(rèn)為自己是一個(gè)可行的候選人。但是器官捐獻(xiàn)不僅僅需要血液和組織匹配。對(duì)捐贈(zèng)者需要進(jìn)行徹底的篩選,心理或社會(huì)經(jīng)濟(jì)問(wèn)題可能會(huì)使他們的捐贈(zèng)復(fù)雜化。Lisa得知,她的腎動(dòng)脈形狀的一個(gè)良性異!I動(dòng)脈是運(yùn)送血液進(jìn)出腎臟的靜脈——使她喪失了資格。Neil的弟弟作為替補(bǔ)出場(chǎng),但由于一些小的醫(yī)療問(wèn)題也被排除在外。這家人感到很傷心。
“需要器官是一個(gè)可怕的事情,”Emmott說(shuō)。這時(shí),這個(gè)家庭決定尋求市場(chǎng)。
人體器官“市場(chǎng)”的想法令人毛骨悚然。它們不是商品:美國(guó)法律明確禁止出售人體器官。但是從經(jīng)濟(jì)角度來(lái)看,市場(chǎng)就是任何想要東西的人找到可以給他們東西的人的地方。這個(gè)不僅僅依靠?jī)r(jià)格來(lái)分配資源的市場(chǎng)被稱(chēng)為匹配市場(chǎng)。約會(huì)池是匹配市場(chǎng)的一種類(lèi)型(假設(shè)沒(méi)有錢(qián)被用來(lái)交換友誼);想要腎臟的人和愿意捐獻(xiàn)腎臟的人也是如此。
當(dāng)市場(chǎng)很“厚”或有很多參與者時(shí),市場(chǎng)工作得最好。在腎移植的最初幾十年里,生病的人和他們的潛在捐獻(xiàn)者被限制在他們自己非常薄弱的市場(chǎng)中。失敗的匹配往往被證明是對(duì)重病患者的死刑判決。
但是如果市場(chǎng)可以變得更厚呢?
這個(gè)想法最初是在1986年德裔美國(guó)外科醫(yī)生Felix Rapaport的一篇論文中提出,他提出了一個(gè)理論,即可以跨越兩個(gè)自愿的供受體對(duì)移植腎臟:患者A從供體B接受腎臟,作為交換,供體A給患者B一個(gè)腎臟。
1991年,韓國(guó)首爾的醫(yī)生們?cè)谀I病專(zhuān)家Kiil Park的指導(dǎo)下,在兩個(gè)供體-患者對(duì)之間進(jìn)行了第一對(duì)腎臟移植。四年后,世界上第一個(gè)配對(duì)腎臟捐贈(zèng)項(xiàng)目在首爾延世大學(xué)醫(yī)學(xué)院開(kāi)啟。潛在的捐贈(zèng)者和接受者被輸入數(shù)據(jù)庫(kù),然后由醫(yī)生通過(guò)數(shù)小時(shí)的艱苦分析手動(dòng)配對(duì)。1999年,瑞士成為下一個(gè)建立配對(duì)腎臟交換的國(guó)家,匹配了兩對(duì)已婚夫婦,每對(duì)夫婦都有一個(gè)患有終末期腎病的配偶和一個(gè)愿意捐獻(xiàn)腎臟的配偶。
2000年的一個(gè)晚上,在厭倦了向病人和他們的親人傳遞令人心碎的消息之后,一位名叫Michael Rees的美國(guó)腎臟學(xué)家拖著幾箱文件回家,花了幾個(gè)小時(shí)仔細(xì)檢查血液、抗體和組織數(shù)據(jù),并比較患者列表。這項(xiàng)工作在精神上很累人。最終,他意識(shí)到自己沒(méi)有可行的匹配——但是,如果捐獻(xiàn)池更大,可以做成配對(duì)。與他的父親Alan Rees一起合作(Alan是一名計(jì)算機(jī)科學(xué)家),Michael Rees創(chuàng)建了一個(gè)簡(jiǎn)單的計(jì)算機(jī)程序,將捐贈(zèng)者和接受者配對(duì),將人工智能引入匹配過(guò)程。
大約在同一時(shí)間,哈佛大學(xué)經(jīng)濟(jì)學(xué)教授Alvin Roth,也在修補(bǔ)腎臟匹配的解決方案。Roth專(zhuān)注于市場(chǎng)設(shè)計(jì),專(zhuān)注于如何調(diào)整市場(chǎng)以修復(fù)供需失衡。他以前設(shè)計(jì)過(guò)算法來(lái)匹配新醫(yī)生和住院醫(yī)師項(xiàng)目,以及紐約市小學(xué)學(xué)生和高中學(xué)!,F(xiàn)在他把注意力轉(zhuǎn)向腎臟。
Roth和他的同事Utku Unver、Tayfun Sonmez設(shè)計(jì)了一種算法,用于審查和分析潛在捐贈(zèng)者和接受者的數(shù)據(jù)資料。它確定了捐助者-接受者配對(duì)的“循環(huán)”和“鏈”,其中一個(gè)人選擇無(wú)私地將腎臟捐獻(xiàn)給任何需要腎臟的人,從而在醫(yī)院或腎臟交換項(xiàng)目登記的潛在捐獻(xiàn)者和接受者中啟動(dòng)了一系列捐獻(xiàn)。例如:患者B從利他捐贈(zèng)者A那里得到一個(gè)腎臟,之后,捐贈(zèng)者B感激地將腎臟捐贈(zèng)給病人C。如果病人C有一個(gè)愿意捐贈(zèng)的人,那么這條鏈可以繼續(xù)延長(zhǎng),且沒(méi)有真正的限制。不同于循環(huán),鏈可以無(wú)限期地向前移動(dòng),而不必回去,通過(guò)為原始捐贈(zèng)者的伙伴接受者找到腎臟來(lái)結(jié)束這個(gè)循環(huán)。
Roth、Unver和Sonmez覺(jué)得他們?cè)谧鲆患笫隆?003年,他們?cè)诰W(wǎng)上發(fā)布了一篇概述他們工作的論文,并發(fā)給了美國(guó)各地的腎臟學(xué)家。根據(jù)哈佛外科醫(yī)生Frank Delmonico的反饋,該團(tuán)隊(duì)調(diào)整了他們的算法,并發(fā)表了一篇新論文,其概念幫助建立了新英格蘭腎臟交換項(xiàng)目。該交換項(xiàng)目匹配了該地區(qū)14個(gè)腎移植中心的捐贈(zèng)者和接受者。
起初,外科醫(yī)生堅(jiān)持在給定的循環(huán)或鏈中同時(shí)進(jìn)行所有手術(shù),這樣任何捐贈(zèng)者都不會(huì)在最后一刻退縮。這限制了循環(huán)或鏈中的患者數(shù)量,因?yàn)獒t(yī)院一次只能騰出這么多床位和這么多外科醫(yī)生。經(jīng)濟(jì)學(xué)家和其他幾位醫(yī)生認(rèn)為,這是不必要的限制。這不存在生物障礙:與心臟或肺不同,心臟或肺必須在離開(kāi)捐獻(xiàn)者身體后4到6小時(shí)內(nèi)移植,而在找到新宿主之前,腎臟可以安全保存24到36小時(shí)。至于捐助鏈中薄弱環(huán)節(jié)的可能性,經(jīng)濟(jì)學(xué)家認(rèn)為,在一個(gè)以愿意將腎臟給任何人的捐贈(zèng)者開(kāi)始的鏈中,如果捐贈(zèng)者退縮了,任何接受者都不會(huì)束手無(wú)策,因?yàn)獒t(yī)生可以從注冊(cè)捐贈(zèng)者庫(kù)中找到替代品。
建立第一個(gè)匹配算法的腎臟學(xué)家Rees,證明這是可以做到的。在一名28歲的捐贈(zèng)者向一個(gè)需要幫助的陌生人提供了一個(gè)腎臟后,Rees組織了一系列腎臟捐贈(zèng),在八個(gè)月的時(shí)間里拯救了五個(gè)州10名患者的生命。
今天,美國(guó)多家醫(yī)院都有自己的配對(duì)腎臟捐贈(zèng)項(xiàng)目。此外還有三個(gè)更大的美國(guó)跨院腎臟交換項(xiàng)目:器官共享聯(lián)合網(wǎng)絡(luò)、國(guó)家腎臟登記處和配對(duì)腎臟捐贈(zèng)聯(lián)盟。英國(guó)、加拿大和荷蘭設(shè)有國(guó)家交換項(xiàng)目,從印度到南非的醫(yī)院都有配對(duì)捐贈(zèng)發(fā)生。研究人員還推斷,肺和部分肝移植也可能進(jìn)行類(lèi)似的交換,盡管還沒(méi)有這種互換的系統(tǒng)。
2012年,Roth因其在市場(chǎng)設(shè)計(jì)方面的工作獲得諾貝爾獎(jiǎng)。他帶Rees一起去參加了儀式。到那時(shí),美國(guó)有2000人接受了移植,這是他們幫助創(chuàng)建的系統(tǒng)結(jié)果。此后又有成千上萬(wàn)的人得到了幫助。
Neil Emmott最終成為2017年腎鏈中的八個(gè)人之一,該腎鏈?zhǔn)加趦晌患胰伺笥亚皝?lái)為他捐贈(zèng)。2018年8月13日,阿拉巴馬州的一名婦女成為從2013年開(kāi)始在全國(guó)范圍捐贈(zèng)鏈中接受腎臟移植的第100人。
今天,當(dāng)醫(yī)生正在尋找匹配腎臟捐贈(zèng)者和接受者時(shí),人工智能研究人員構(gòu)建的算法搜索注冊(cè)腎臟病人及其合作捐贈(zèng)者的數(shù)據(jù)庫(kù),并根據(jù)器官采購(gòu)和移植網(wǎng)絡(luò)委員會(huì)和器官共享聯(lián)合網(wǎng)絡(luò)制定的加權(quán)標(biāo)準(zhǔn)列表來(lái)識(shí)別匹配。
這些算法同時(shí)評(píng)估所有可能在患者-供體庫(kù)中進(jìn)行的移植。匹配主要基于生物適應(yīng)性,最難匹配的病人得到了優(yōu)先考慮。這項(xiàng)技術(shù)衡量標(biāo)準(zhǔn)包括接受者在等待名單上的時(shí)間,他或她的年齡(兒童優(yōu)先),以及需要腎臟的人過(guò)去是否曾經(jīng)是活體器官捐獻(xiàn)者。
這些算法幫助了成千上萬(wàn)拯救生命的手術(shù)。將來(lái),人工智能不僅可以使用人類(lèi)決定的標(biāo)準(zhǔn)進(jìn)行匹配,還可以積極參與這個(gè)判斷過(guò)程——理解人類(lèi)的決策和價(jià)值體系,這樣它就可以做出自己的判斷,決定哪些腎臟應(yīng)該去哪里(這個(gè)決策將由人類(lèi)醫(yī)生審查)。在這一點(diǎn)上,限制因素與其說(shuō)是技術(shù),不如說(shuō)是使用技術(shù)的人。
第一個(gè)問(wèn)題是人類(lèi)對(duì)人工智能在器官分配中的作用的焦慮。醫(yī)院和器官交換機(jī)構(gòu)甚至不愿意在匹配過(guò)程中使用“人工智能”一詞。部分原因是研究人員稱(chēng)之為“人工智能效應(yīng)”的趨勢(shì)。正如牛津大學(xué)未來(lái)人類(lèi)研究所所長(zhǎng)Nick Bostrom所說(shuō),“一旦某些東西變得足夠有用且足夠普遍,它就不再被貼上‘人工智能’的標(biāo)簽。”
鑒于缺乏關(guān)于“人工智能”實(shí)際含義的公共教育,醫(yī)院和交換機(jī)構(gòu)對(duì)病人誤解算法在識(shí)別潛在匹配方面的作用持謹(jǐn)慎態(tài)度,也許是害怕變戲法似的機(jī)器人冷冷地發(fā)布生死指令。
目前,機(jī)器不能決定哪些腎臟去哪里。人類(lèi)可以這樣做。今天的算法比人類(lèi)更可靠,也更大規(guī)模地進(jìn)行數(shù)學(xué)運(yùn)算,執(zhí)行人類(lèi)已經(jīng)做出的判斷,但是它們并不了解為什么首先要進(jìn)行計(jì)算。
“AI沒(méi)有像我們一樣對(duì)世界有一個(gè)全面的了解。它們不明白自己正在處理的數(shù)據(jù)是關(guān)于什么的,”杜克大學(xué)計(jì)算機(jī)科學(xué)、倫理學(xué)和哲學(xué)教授Vincent Conitzer表示!八鼈儧](méi)有這個(gè)人正在受苦的概念。它們并不真正了解一個(gè)人是什么。人類(lèi)必須在某個(gè)時(shí)候介入進(jìn)來(lái)。”
研究人員現(xiàn)在正在教機(jī)器從人類(lèi)的角度來(lái)理解這些道德困境。今年,Conitzer和杜克大學(xué)的同事Jana Schaich Borg、Walter Sinnott-Armstrong、Rachel Freedman以及馬里蘭大學(xué)的John Dickerson,一起發(fā)表了一篇論文,其中他們向研究對(duì)象展示了數(shù)百對(duì)假設(shè)的患者概況,并詢(xún)問(wèn)每對(duì)中哪一個(gè)應(yīng)該得到一個(gè)可用的腎臟。這些假設(shè)的患者檔案并沒(méi)有列出算法處理的血液和組織數(shù)據(jù),而是列出了一些事情,比如患者飲酒的頻率,以及他們過(guò)去是否患過(guò)癌癥。研究人員隨后將受試者的選擇反饋給一種算法,并學(xué)習(xí)如何根據(jù)這些模式選擇“正確的”腎臟接受者。就像人類(lèi)受試者一樣,人工智能偏愛(ài)更年輕、更健康的病人——這是一個(gè)機(jī)器根據(jù)對(duì)人類(lèi)價(jià)值觀的了解做出決策的例子。
雖然可以教機(jī)器按照我們的價(jià)值體系進(jìn)行匹配,但是我們并不總是明白自己的價(jià)值觀是什么,或者很難將其作為一個(gè)整體達(dá)成一致。人們并不總是知道他們想要優(yōu)化什么,即使當(dāng)他們認(rèn)為這樣做了,他們也常常不明白如何以不會(huì)導(dǎo)致意想不到的后果的方式去做。
例如,麻省理工學(xué)院的道德機(jī)器允許實(shí)驗(yàn)室網(wǎng)站的訪(fǎng)問(wèn)者玩他們必須選擇的游戲,在一個(gè)又一個(gè)假設(shè)的情況下,無(wú)人駕駛汽車(chē)在面臨兩個(gè)可怕的選擇時(shí)應(yīng)該選擇殺死哪一組汽車(chē)乘客或行人。在經(jīng)歷了一系列令人反胃的場(chǎng)景之后——是的,我寧愿汽車(chē)碾過(guò)一個(gè)孕婦,而不是五個(gè)無(wú)家可歸的成年人;不,如果這意味著殺死五名成年乘客,我不會(huì)為了躲避兩個(gè)孩子而突然轉(zhuǎn)向——這一游戲揭示了它在你的選擇中確定的模式,以及你的反應(yīng)如何與其他玩家的反應(yīng)相比較。
這些信息可以揭示出人意料的后果和令人不快的未被承認(rèn)的偏見(jiàn)。例如,你可能會(huì)了解到,你的決定不成比例地導(dǎo)致了比女性更多的男性死亡,或者你傾向于比游戲中的一般玩家更看重遵守交通規(guī)則。
在腎臟問(wèn)題上,就是采取表面上公平的原則,即腎臟應(yīng)該給予那些在接受腎臟后可能會(huì)有最多壽命的人。在計(jì)算機(jī)能夠計(jì)算潛在接受者的壽命之前,科學(xué)家必須為算法提供各種人群的預(yù)期壽命數(shù)據(jù)。但是這導(dǎo)致了一些問(wèn)題。男人往往比女人早死。美國(guó)黑人比任何其他種族的美國(guó)人死得更早。2015年,一位65歲的美國(guó)白人婦女可能會(huì)再活20.5歲,比同齡的黑人長(zhǎng)4年。雖然是從良好的意圖開(kāi)始,但最終卻導(dǎo)致了系統(tǒng)的種族和性別歧視。
“在經(jīng)濟(jì)學(xué)中,我們談?wù)摬豢赡苄远ɡ。有些東西你可能想得到卻無(wú)法得到,”Roth說(shuō)。“當(dāng)你分配稀缺資源時(shí),你不能把腎給一個(gè)人而不把它給另一個(gè)人。計(jì)算機(jī)不會(huì)從各個(gè)方面減輕人類(lèi)的負(fù)擔(dān)。”
人工智能沒(méi)有造成這些道德困境。人類(lèi)委員會(huì)為分配腎臟的最公平方式而不斷苦惱;人類(lèi)司機(jī)仍然不得不在方向盤(pán)后面做出可怕的緊急決定。機(jī)器可以在幾小時(shí)甚至幾分鐘內(nèi)模擬出人類(lèi)判斷的結(jié)果,這些結(jié)果原本可能需要數(shù)年才能發(fā)現(xiàn)。從長(zhǎng)遠(yuǎn)來(lái)看,這可能會(huì)有所幫助:如果一個(gè)計(jì)算機(jī)模型能夠證明特定的腎臟分配政策會(huì)對(duì)某些群體造成不相稱(chēng)的不利影響,那么醫(yī)生可以在任何人實(shí)際受到傷害之前取消這項(xiàng)計(jì)劃。但并不是每個(gè)人都樂(lè)于讓機(jī)器參與生死抉擇。
道德機(jī)器教給玩家一些西雅圖上帝委員會(huì)很久以前學(xué)到的東西:必須選擇拯救哪一條生命,知道這個(gè)決定會(huì)導(dǎo)致別人的死亡或痛苦,感覺(jué)很可怕。這部分是人工智能所無(wú)法幫助的。人們可以找到組裝椅子的理想方法,然后將這個(gè)過(guò)程傳授給一臺(tái)能夠完美組裝成千上萬(wàn)把椅子的機(jī)器。但卻沒(méi)有完美的方法來(lái)決定誰(shuí)生誰(shuí)死。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-
金百澤科技亮相中國(guó)國(guó)際醫(yī)療器械博覽會(huì) | 盡顯醫(yī)療領(lǐng)域硬實(shí)力
-
進(jìn)階的新冠疫苗 又一個(gè)中國(guó)造
-
“AI醫(yī)療第一股”鷹瞳科技上市首日即破發(fā)
-
圓心科技登陸港股,“賣(mài)藥的生意”還好不好做?
-
十圖解讀2021年中國(guó)康復(fù)醫(yī)療行業(yè)現(xiàn)狀
-
醫(yī)藥流通數(shù)字化運(yùn)營(yíng)實(shí)現(xiàn)精細(xì)化飼養(yǎng)
-
科學(xué)家發(fā)現(xiàn)人體新器官:將有助于癌癥治療
-
李飛飛入選美國(guó)國(guó)家醫(yī)學(xué)院
最新活動(dòng)更多
-
11月19日立即報(bào)名>> 【線(xiàn)下論壇】華邦電子與恩智浦聯(lián)合技術(shù)論壇
-
11月29日立即預(yù)約>> 【上海線(xiàn)下】設(shè)計(jì),易如反掌—Creo 11發(fā)布巡展
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線(xiàn)峰會(huì)
-
精彩回顧立即查看>> 2024(第五屆)全球數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)大會(huì)暨展覽會(huì)
-
精彩回顧立即查看>> 全數(shù)會(huì)2024中國(guó)人形機(jī)器人技術(shù)創(chuàng)新發(fā)展大會(huì)
-
精彩回顧立即查看>> OFweek 2024中國(guó)激光產(chǎn)業(yè)高質(zhì)量發(fā)展峰會(huì)
-
10 BD新浪潮
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市