IEEE J-BHI預訓練大模型用于醫(yī)療健康領域最新綜述

本文對近期醫(yī)療健康領域中的大型人工智能模型進行了全面回顧，涵蓋了大模型的背景和它們在健康信息學各個領域的應用和機遇。文章還著重討論了在醫(yī)療健康環(huán)境中開發(fā)和部署大型人工智能模型所面臨的挑戰(zhàn)，并提供了建立可信大模型的開發(fā)建議。

近年來, 人工智能大模型快速發(fā)展, 它們的參數(shù)量和所用于預訓練的數(shù)據(jù)量已達到幾百上千億級別。經(jīng)預訓練后, 這些大模型在各種下游任務中展現(xiàn)出強大的通才和泛化能力。ChatGPT就是一個典型例子, 它所展現(xiàn)出來的能力令人對大模型可以為醫(yī)療健康領域所帶來的轉(zhuǎn)變和機遇充滿憧憬。在深度學習時代, 生物醫(yī)學和健康領域的研究者們已經(jīng)意識到數(shù)據(jù)的重要性，在過去10年，多模態(tài)醫(yī)療健康數(shù)據(jù)規(guī)模持續(xù)擴大, 這為大模型在健康相關領域中的開發(fā)，驗證，和新的突破奠定了基礎。

本文首先回顧了大型人工智能模型的背景。根據(jù)預訓練數(shù)據(jù)的模態(tài)類別，文章將大模型歸納為三類：1）大語言模型Large Language Model (LLM)；2）大視覺模型Large Vision Model (LVM)；3）大多模態(tài)模型Large Multi-modal Model (LMM)。并總結(jié)了大模型的四個主要特征。

圖1 大型人工智能模型的關鍵特征: 1) 參數(shù)量規(guī)模龐大，例如對于大語言模型 (LLM)，它們的參數(shù)量通常可達幾百上千億甚至更多) ; 2) 訓練數(shù)據(jù)規(guī)模龐大，例如對于大視覺模型 (LVM)，它們使用的訓練數(shù)據(jù)量可能包含數(shù)十億的圖像 ; 3) 能夠處理多模態(tài)信息; 4) 可以適應到不同下游任務，在各任務中展現(xiàn)優(yōu)異泛化能力，比如在zero-shot, one-shot, few-shot任務中。

文章隨后梳理討論了大模型可能帶去重大影響的7個醫(yī)療健康細分領域, 包括1) 生物信息學; 2) 醫(yī)療診斷; 3) 醫(yī)學成像和視覺; 4) 醫(yī)療信息學; 5) 醫(yī)學教育; 6) 公共衛(wèi)生 和7) 醫(yī)療機器人。同時整理了上述7個領域內(nèi)典型的大模型和以往專才模型在模型大小和特定任務上的性能比較。

圖2 大模型和以往專才模型在參數(shù)量和在不同任務上的性能比較。

文章也詳細列出了生物醫(yī)學和健康信息學中的大規(guī)模數(shù)據(jù)集，總結(jié)了現(xiàn)有主流數(shù)據(jù)集的規(guī)模，模態(tài)，對應任務和是否開源等關鍵信息。

圖3. 生物醫(yī)學和健康信息學中的大規(guī)模數(shù)據(jù)集

從目前來看，雖然大型人工智能模型呈現(xiàn)出了非?？捎^的應用前景，它們的發(fā)展和在生物醫(yī)學，臨床，醫(yī)療等領域的運用還存在著諸多挑戰(zhàn)和潛在風險。文章也從數(shù)據(jù)，算法，可信度，隱私性，公平性，透明度，可解釋性，可持續(xù)性，規(guī)范等方面展開了討論。

圖4. 人工智能大模型在健康信息學中的未來發(fā)展方向

對于大模型在醫(yī)療健康領域中的未來方向，文章的討論主要集中在性能和責任兩方面。從性能方面來看，文章建議，第一應該為健康信息學發(fā)展更好性能的人工智能大模型，比如，可以擴大模型和數(shù)據(jù)集的規(guī)模，進行多模態(tài)，多任務的預訓練；第二，可以挖掘已有大型人工智能模型的潛力，比如通過prompt engineering, fine-tuning, linear probing等， 來進一步探索它們尚未被人們知悉的能力，這些能力如果已經(jīng)被大模型掌握，僅僅是人們暫時未知，那挖掘它們可以為健康領域提供一種幾乎cost-free的解決方案。

除此之外，負責任的人工智能大模型對社會至關重要。文章提出開發(fā)和部署互補策略，以應對大模型在可靠性、公平性、透明度等方面的挑戰(zhàn)。開發(fā)策略側(cè)重于學習負責任的大模型，而部署策略則強調(diào)負責任地使用大模型。

最后文章指出, 人工智能社區(qū)正在發(fā)生范式轉(zhuǎn)變, 這種范式也正逐步影響生物醫(yī)學和健康領域中人工智能模型的發(fā)展。新范式的目標是在大規(guī)模的（多模態(tài)）數(shù)據(jù)集上學習一個通用的基礎模型, 涵蓋各種數(shù)據(jù)分布和學習任務。不同任務之間乃至不同數(shù)據(jù)模態(tài)之間的界限正在被打破。隨著通用智能和更多未知能力被挖掘和實現(xiàn), 相信大型人工智能模型將在未來更好協(xié)助而不是取代醫(yī)療專業(yè)人員和從業(yè)者。人機協(xié)作將無處不在。大型人工智能模型的發(fā)展將需要各領域?qū)＜抑g更緊密的合作, 以及逐步建立和完善相應的大模型監(jiān)管機制。

編輯：黃飛