近期，谷歌公布新版ASPIRE訓(xùn)練架構(gòu)，該架構(gòu)主要用于改進(jìn)大型語(yǔ)言模型的選擇性預(yù)測(cè)情況。谷歌表示，盡管大語(yǔ)言模型在自然語(yǔ)言理解與生成領(lǐng)域發(fā)展迅速，應(yīng)用廣泛，然而在涉及到高風(fēng)險(xiǎn)決策時(shí)，其預(yù)測(cè)能力仍待加強(qiáng)。為此，谷歌推出ASPIRE訓(xùn)練框架，通過向模型引入“可信度”機(jī)制，提升預(yù)測(cè)準(zhǔn)確率。

該框架分為三步驟：“特定任務(wù)調(diào)整”、“答案采樣”以及“自我評(píng)估學(xué)習(xí)”。首先，“特定任務(wù)調(diào)整”階段針對(duì)基本訓(xùn)練的大型語(yǔ)言模型進(jìn)一步深化訓(xùn)練，重點(diǎn)提高預(yù)測(cè)能力。其次，“答案采樣”階段模型會(huì)根據(jù)調(diào)整的參數(shù)，生成多個(gè)答案，同時(shí)建立自我評(píng)估學(xué)習(xí)數(shù)據(jù)集，產(chǎn)生較高信度的選項(xiàng)。最后，“自我評(píng)估學(xué)習(xí)”階段則設(shè)定參數(shù)以提升機(jī)模自我評(píng)估能力，使之能檢測(cè)答案準(zhǔn)確性，以便在回答問題時(shí)附加可信度評(píng)分。

據(jù)悉該架構(gòu)取得顯著成效。在CoQA、TriviaQA和SQuAD三個(gè)問答數(shù)據(jù)集測(cè)試中，經(jīng)由ASPIRE調(diào)整的OPT-2.7B小模型表現(xiàn)全面優(yōu)于更大規(guī)模的OPT-30B模型。此成果證實(shí)，經(jīng)適配調(diào)整，小型語(yǔ)言模型亦有潛力超越大型語(yǔ)言模型。

研究人員總結(jié)指出，ASPIRE訓(xùn)練框架有效改善了大型語(yǔ)言模型的輸出精度，使小型模型經(jīng)微調(diào)后可以實(shí)現(xiàn)“恰當(dāng)且自信”的預(yù)測(cè)。