首頁 › 主題 › 醫療 AI 與可解釋性

發現不稀奇，驗證才算數

醫療 AI 與可解釋性

發現不稀奇，驗證才算數。醫療 AI 的可解釋也一樣：要讓醫師能追問一句「你憑什麼」，並拿到可查證的答案。路有兩條：攤開規則，或替每個預測附上文獻證據。

為什麼醫療場景特別在意「講得出理由」

臨床上最要緊的，是能對病人和同事交代。一個判斷若說不出理由，出了事，沒人追得回是哪一步錯了。黑箱模型的毛病就在這。它說「這個病人適合換這個藥」，醫師當然要問憑什麼；問不出來，臨床上就很難真信它。

這件事連監管機關都寫進了要求。WHO 在 2024 年 1 月發布針對大型多模態模型（LMM）的治理指引，提出逾 40 項建議。WHO 在發布時講得很白：「生成式 AI 有改善醫療照護的潛力，但前提是開發、監管與使用這些技術的人，必須辨識並充分考量相關風險」（WHO）。同一份指引也點名 LLM 會產出「錯誤、不準確、有偏誤或不完整的陳述」，用在健康決策上會傷人。

可解釋不等於事後貼一張熱力圖

一項技術被發現，不代表它就能用。難的是證明它真能用。醫療 AI 眼下有個常見誤會，以為給模型加個「解釋模組」畫出重點區域，就叫可解釋。學界對此反對得很兇。

2021 年《Lancet Digital Health》刊出的論文〈The false hope of current approaches to explainable artificial intelligence in health care〉直指目前多數事後解釋方法達不到「建立信任、提供透明、減少偏誤」的目標；更麻煩的是，有解釋的 AI 會被醫師覺得更可信，即使它其實更不準（Lancet Digital Health, 2021）。作者群主張，與其硬塞事後解釋，不如把力氣放在嚴謹的內外部驗證。

這話務實。可解釋得從設計就開始，不是最後補一層。

把規則攤開，讓專業逐條檢視

第一條可靠的路，是讓 AI 的判斷依據本身就是人看得懂的規則。中醫辨證這種本來就有明確理論框架的場景，特別合適。

以規則加語言模型的混合辨證為例：把八綱與臟腑的判斷規則寫成結構化條目，中醫師能一條一條打開檢視，語言模型只在有限範圍內補充。每個結論都留下完整推理路徑與檢索到的證據，要複查隨時能回溯。透明不靠猜，它寫在系統裡。

證型還能對接國際標準碼。WHO 的 ICD-11 在 2022 年 1 月正式納入第 26 章「傳統醫學病證（Module 1）」，收錄數百個傳統醫學病證類目，是傳統醫學首次進入 ICD 分類體系。WHO 也把立場講清楚：納入傳統醫學不代表 WHO 為其療效或安全性背書，而是提供一個可做研究與統計評估的全球平台（WHO：ICD-11 2022 年正式生效）。輸出對齊 ICD-11 TM 與 FHIR，每個判斷就有了可查的座標。

每個預測都附上文獻證據包

第二條路，是讓 AI 的每個建議都能連回真實研究。老藥新用（drug repurposing）就是好例子。它把「碰運氣撞見某個舊藥能治新病」這種偶然，改成系統化地做，而系統化的關鍵正是每一步都攤得開、查得到。

哈佛醫學院團隊開發的 TxGNN 是這條路的代表。這個圖神經網路基礎模型在涵蓋 17,080 種疾病、7,957 種治療候選的醫學知識圖譜上訓練，能對「沒有現成藥可用」的疾病做零樣本（zero-shot）推論，適應症預測準確度比最接近的 AI 競爭者高出達 49.2%、禁忌症高出 35.1%（TxGNN 專案頁（Nature Medicine 2024））。

更要緊的是它怎麼驗證。研究團隊指出，TxGNN 的新預測與大型醫療系統中臨床醫師實際的仿單外（off-label）處方決策一致。當每個預測都附帶 PubMed 文獻與臨床試驗證據，醫師拿到的就不只是一個分數，還有一組能自己去讀的佐證。

可解釋也是合規與落地的門票

能解釋的模型，比較容易通過監管，也比較容易真的被醫院用起來。全球監管趨勢已經把透明度當成硬指標。截至 2024 年 12 月，FDA 已授權上市的 AI／機器學習醫療器材達 1,016 項，其中逾半數是 2021 年 GMLP（良好機器學習實務）原則發布後核准的（npj Digital Medicine, 2025）。歐盟《AI 法案》更把醫療用途 AI 直接列為高風險，要求提供可理解的系統運作邏輯說明。

從醫院端看也一樣。一個能對接既有資訊系統、輸出標準格式、每步都可追溯的系統，才進得了臨床工作流。在這裡，可解釋是入場券。少了它，連臨床的門都進不去。道理很平常：發現只是開始，驗證才算數。

近期動態

共 42 則．持續更新．連結為原始報導

用 RSS 訂閱主題動態

yao.care 怎麼回應

AI 華佗

想把中醫辨證的判斷攤開來逐條檢視，可到 huatuo.ai.yao.care 體驗。128 條八綱與臟腑規則寫在 syndromes.json、中醫師能逐條檢視，採規則 ×0.6 + LLM ×0.4 的混合辨證，每個結論都記錄推理路徑與 RAG 證據，證型對應 ICD-11 TM 章節、輸出 FHIR R4 Bundle，並提供 /clinician 中醫師工作站作為 CDSS。

TxGNN 老藥新用

想把「每個預測都附文獻證據」的老藥新用能力接進你的系統，歡迎 LINE 私訊討論技術合作。TxGNN 平台覆蓋 30+ 國 FDA 藥品、產出 16,700+ 藥物頁面與 FHIR 資源，每個預測都附帶 PubMed 文獻與 ClinicalTrials 證據包，已上架 SMART on FHIR App Gallery、相容 Epic 與 Cerner，並以 OAuth + PKCE 認證接入 EHR。

FAQ

常見問題

醫療 AI 一定要能解釋才能用嗎？

高風險場景，幾乎是必要條件。歐盟《AI 法案》把醫療用途 AI 列為高風險，要求提供可理解的邏輯說明與人類監督；WHO 與 FDA 也都把透明度寫進治理原則。涉及診斷或治療建議時，能被醫師追問並查證，才有機會通過監管與臨床採用。不能追問的東西，不該放進病房。

事後解釋工具（像熱力圖）算真正的可解釋嗎？

信不過。2021 年《Lancet Digital Health》的論文指出，目前多數事後解釋方法達不到建立信任與減少偏誤的目標，還可能讓醫師對不夠準的模型過度信任。比較可靠的作法是從設計就攤開規則，或替預測附上可查的文獻證據，並做嚴謹驗證。

規則式和深度學習式，哪一種比較可解釋？

各有各的場合。規則式（例如把辨證規則寫成可逐條檢視的條目）透明度高、易被專業複查，適合有明確理論框架的領域；深度學習式覆蓋面廣，可靠性靠「每個預測附文獻證據」與外部驗證來補。混合權重是常見的折衷。

TxGNN 的預測可信嗎？根據是什麼？

它的可信來自驗證方式，不是單一分數。TxGNN 在涵蓋 17,080 種疾病的知識圖譜上訓練，哈佛研究團隊發現其新預測與大型醫療系統中醫師實際的仿單外處方一致，且每個預測都附 PubMed 與臨床試驗證據包供查核。最終用藥決策仍須醫師判斷。

中醫這種難標準化的領域，AI 怎麼做到可解釋？

靠把辨證規則結構化，並對接國際標準碼。八綱臟腑規則寫成可逐條檢視的條目，每個結論留推理路徑與證據；證型對應 WHO ICD-11 第 26 章傳統醫學病證（2022 年生效）並輸出 FHIR，讓判斷有可查的座標。要留意 WHO 明言，納入 ICD 不代表為療效背書。

引用來源

深入閱讀

AI 看中醫、線上中醫問診的辨證結果可信嗎？罕見疾病或現有藥物無效，有沒有「現成的藥」可以試？FHIR 聯測是什麼？系統要參加前要先準備什麼？ SMART on FHIR老藥新用（Drug Repurposing）臨床決策支援系統 CDSS

相關服務

AI 華佗 TxGNN 老藥新用
看更多主題