1月29日，由前搜狗公司CEO王小川創(chuàng)立的“百川智能”發(fā)布了超千億參數(shù)的大語(yǔ)言模型Baichuan 3。百川智能方面表示，Baichuan 3在多個(gè)權(quán)威醫(yī)療評(píng)測(cè)上的中文效果超過(guò)了GPT-4，是中文醫(yī)療任務(wù)表現(xiàn)最佳的大模型。
據(jù)介紹，百川智能在模型預(yù)訓(xùn)練階段構(gòu)建了超過(guò)千億Token的醫(yī)療數(shù)據(jù)集，包括醫(yī)學(xué)研究文獻(xiàn)、真實(shí)的電子病歷資料、醫(yī)學(xué)領(lǐng)域的專業(yè)書籍和知識(shí)庫(kù)資源、針對(duì)醫(yī)療問(wèn)題的問(wèn)答資料等。該數(shù)據(jù)集涵蓋了從理論到實(shí)際操作，從基礎(chǔ)理論到臨床應(yīng)用等各個(gè)方面的醫(yī)學(xué)知識(shí)，確保了模型在醫(yī)療領(lǐng)域的專業(yè)度和知識(shí)深度。針對(duì)醫(yī)療知識(shí)激發(fā)的問(wèn)題，百川智能在推理階段針對(duì)Prompt做了系統(tǒng)性的研究和調(diào)優(yōu)，通過(guò)準(zhǔn)確的描述任務(wù)、恰當(dāng)?shù)氖纠龢颖具x擇，讓模型輸出更加準(zhǔn)確以及符合邏輯的推理步驟，最終不僅提升了Baichuan 3在多項(xiàng)醫(yī)療考試上的成績(jī)，并且在真實(shí)的醫(yī)療問(wèn)答場(chǎng)景下也能給用戶提供更精準(zhǔn)、細(xì)致的反饋。百川智能表示，Baichuan 3在數(shù)學(xué)和代碼等多個(gè)權(quán)威評(píng)測(cè)上接近GPT-4，證明了其強(qiáng)大的基礎(chǔ)邏輯推理能力?；谪S富高質(zhì)量的專業(yè)醫(yī)療知識(shí)，通過(guò)調(diào)優(yōu)后的Prompt可對(duì)這些知識(shí)進(jìn)行充分激發(fā)，再結(jié)合超千億參數(shù)的推理能力，Baichuan 3在醫(yī)療領(lǐng)域的任務(wù)效果提升顯著，在各類中英文醫(yī)療測(cè)試中的成績(jī)提升了2到14個(gè)百分點(diǎn)。不僅MCMLE、MedExam、CMExam等中文醫(yī)療任務(wù)的評(píng)測(cè)成績(jī)超過(guò)GPT-4，USMLE、MedMCQA等英文醫(yī)療任務(wù)的評(píng)測(cè)成績(jī)也逼近了GPT-4的水準(zhǔn)。未來(lái)，百川智能將基于Baichuan 3打造“超級(jí)應(yīng)用”，把大模型技術(shù)落地到諸多復(fù)雜應(yīng)用場(chǎng)景。
