在線客服
微信客服
咨詢電話
021-80392549
當(dāng)下GPT-4模型最大的短板主要是算術(shù)能力，由于模型的邏輯推理能力尚待提升，因此即使是許多人認(rèn)為相對(duì)簡(jiǎn)單的計(jì)算問(wèn)題，GPT-4卻無(wú)法得出正確的結(jié)果。
近日，新加坡國(guó)立大學(xué)研究者推出了Goat模型，稱該模型“專門用于算術(shù)問(wèn)題”。研究人員表示“在對(duì)LLaMA模型進(jìn)行微調(diào)后，Goat在算數(shù)上實(shí)現(xiàn)了比GPT-4更高的準(zhǔn)確度與更出色的性能”。
▲圖源Arxiv
研究人員提出了一種新辦法，將任務(wù)根據(jù)算數(shù)的可學(xué)習(xí)型進(jìn)行分類，然后利用基本算術(shù)原理將不可學(xué)習(xí)的任務(wù)分解為一系列可以學(xué)習(xí)的任務(wù)（IT之家注：把復(fù)雜的計(jì)算過(guò)程分點(diǎn)拆解成簡(jiǎn)單的步驟）后導(dǎo)入AI模型。
這種新方法可以令模型學(xué)習(xí)答題模式，并將過(guò)程泛化為看不見的數(shù)據(jù)，而非僅僅依靠純粹的“權(quán)重記憶計(jì)算”，因此能夠有效地提高算數(shù)性能，可以在零樣本學(xué)習(xí)中以“近乎完美的精度”為大數(shù)加法和減法生成答案。
研究人員在具備24 GB顯存的GPU上進(jìn)行訓(xùn)練，并將最終得到的模型使用BIG-bench算數(shù)子任務(wù)進(jìn)行測(cè)試，準(zhǔn)確率結(jié)果較為出眾，領(lǐng)先于業(yè)內(nèi)的Bloom、GPT-NeoX、OPT等模型。其中零樣本的Goat-7B的準(zhǔn)確率甚至一度超過(guò)了少樣本學(xué)習(xí)后的PaLM-540模型，在大數(shù)計(jì)算方面遠(yuǎn)超GPT-4。
