AI可解釋性的研究

正如前文所示，該系統通過掃描器網絡、診斷器網絡、聚合器網絡，對AI輔助診斷的可解釋性進行了探索，最終會產生說明文字同ROI同步輸出。

可解釋性圖示

如上圖，a、b顯示的為全片腫瘤檢測結果，c、d、e則為生成的“特征感知注意圖”，對診斷細節(jié)進行描述。我們可以看到，針對每一張切片，系統在判讀后，除了常規(guī)地將ROI區(qū)域框選出來，還針對不同區(qū)域生成了解釋性文字。

其中，不同特征的文字被使用不同顏色加以區(qū)分，而該描述所對應的ROI，都被加以相同顏色的框表示，便于病理醫(yī)生查看時一一對應。

該系統描述了觀察到的一定數量的細胞特征以及特征感知注意圖，注意圖對網絡觀察到的視覺信息的類型給出了強有力的解釋（圖c－e）。實際上，注意圖包含了框選區(qū)域中每一個像素的權重，用以確定不同像素對于給定的特征觀察的重要程度，但輸出的內容卻并不是令人費解的數值，而是類似于病理醫(yī)生的判讀依據。

這樣專業(yè)化的文字表述加強了AI分析病理切片的可信度，當人類醫(yī)生與機器診斷結果不符時，醫(yī)生們也能夠更容易地對比自己與機器的診斷意見到底在何處有所區(qū)別，了解產生區(qū)別的原因，在很大程度上能夠提高診斷準確度。

系統網絡組件的評估

在算法結構方面，算法的各部分性能在完成后均被予以驗證。

首先，研究人員評估腫瘤和非腫瘤圖像的s－net的腫瘤檢測召回率（非腫瘤圖像表示內部沒有突出腫瘤的裁剪的滑動組織區(qū)域）。s－net達到94％的高真陽性（檢測到的腫瘤像素數／總注釋腫瘤像素）并同時維持95．3％的陰性召回率。

其次，研究人員使用了兩個評估指標驗證了生成的診斷描述的質量：雙語評估Understudy（BLEU）和基于共識的圖像描述評估（CIDEr）。而這些驗證結果顯示，該算法已經具備了一定的優(yōu)越性。

此項實驗突破了AI病理三類證審批的關鍵難點

囿于其決策流程的不可解釋性，“深度學習”一直被遵循循證醫(yī)學指南的臨床醫(yī)生拒之門外，成為了制約醫(yī)學影像人工智能發(fā)展，特別是獲得三類證審批的關鍵。

而本次實驗則為人工智能的審批提供新的思路：雖然現階段的人工智能仍不具備推理能力，但我們能將醫(yī)生的推理步驟模塊化，從而模擬推理的過程。此外，本次實驗中的文字匹配過程是按照WHO標準并具有嚴格依據的，這與許多基于多樣本深度學習生成的勾畫不同，實驗的每一個步驟都可由AI提供決策依據，并非單純概率云下的黑箱運算。

楊林教授現任職于迪英加CEO，這是迪英加科技在三類證申報過程中的一步堅實工作，用于解決CFDA三類證申報中廣泛要求的可解釋行提供了關鍵的核心技術解決方案。

在采訪過程之中，楊林教授也對本次實驗的不足之處進行了總結。首先，由于時間的原因，樣本的選擇檢測本身具有一定的封閉性，隨著持續(xù)數據收集的廣度和深度的提升，論文中的工作也一定會有改進之處。

其次，推理流程的劃分是否足夠細致，以及推理過程是否存在偶然性可以進一步論證。

最后，這項研究沒有控制參與病理醫(yī)師的疲勞程度，這可能是影響AUC的獨立因素，需要進一步研究這一系統對不同疲勞水平醫(yī)生的有效性。

總的來說，無論是人工智能技術，還是本次實驗的病理本身，我們都能看到很多突破的可能。目前的人工智能影像產品仍聚集于放射科，當他們嘗試進一步進入臨床相關科室時，這項技術同樣需要新的標準對其進行驗證。

此外，AI于病理的運用也遠不局限于切片識別，機體組織樣本中內部特征的量化分析與臨床評價；細胞和動物組織樣本的量化分析與藥效關系；細胞識別與分選；特殊染色結果的量化分析和臨床治療與預后也均有AI介入研究。病理于AI是一片看不見的深海。

文 ｜ 趙泓維

網站、公眾號等轉載請聯系授權