1月29日，由前搜狗公司CEO王小川創(chuàng)立的“百川智能”發(fā)布了超千億參數(shù)的大語言模型Baichuan 3。百川智能方面表示，Baichuan 3在多個權(quán)威醫(yī)療評測上的中文效果超過了GPT-4，是中文醫(yī)療任務(wù)表現(xiàn)最佳的大模型。
據(jù)介紹，百川智能在模型預(yù)訓(xùn)練階段構(gòu)建了超過千億Token的醫(yī)療數(shù)據(jù)集，包括醫(yī)學(xué)研究文獻(xiàn)、真實(shí)的電子病歷資料、醫(yī)學(xué)領(lǐng)域的專業(yè)書籍和知識庫資源、針對醫(yī)療問題的問答資料等。該數(shù)據(jù)集涵蓋了從理論到實(shí)際操作，從基礎(chǔ)理論到臨床應(yīng)用等各個方面的醫(yī)學(xué)知識，確保了模型在醫(yī)療領(lǐng)域的專業(yè)度和知識深度。針對醫(yī)療知識激發(fā)的問題，百川智能在推理階段針對Prompt做了系統(tǒng)性的研究和調(diào)優(yōu)，通過準(zhǔn)確的描述任務(wù)、恰當(dāng)?shù)氖纠龢颖具x擇，讓模型輸出更加準(zhǔn)確以及符合邏輯的推理步驟，最終不僅提升了Baichuan 3在多項醫(yī)療考試上的成績，并且在真實(shí)的醫(yī)療問答場景下也能給用戶提供更精準(zhǔn)、細(xì)致的反饋。百川智能表示，Baichuan 3在數(shù)學(xué)和代碼等多個權(quán)威評測上接近GPT-4，證明了其強(qiáng)大的基礎(chǔ)邏輯推理能力?；谪S富高質(zhì)量的專業(yè)醫(yī)療知識，通過調(diào)優(yōu)后的Prompt可對這些知識進(jìn)行充分激發(fā)，再結(jié)合超千億參數(shù)的推理能力，Baichuan 3在醫(yī)療領(lǐng)域的任務(wù)效果提升顯著，在各類中英文醫(yī)療測試中的成績提升了2到14個百分點(diǎn)。不僅MCMLE、MedExam、CMExam等中文醫(yī)療任務(wù)的評測成績超過GPT-4，USMLE、MedMCQA等英文醫(yī)療任務(wù)的評測成績也逼近了GPT-4的水準(zhǔn)。未來，百川智能將基于Baichuan 3打造“超級應(yīng)用”，把大模型技術(shù)落地到諸多復(fù)雜應(yīng)用場景。
