2023-11-09 14:40
資源分享丨號稱目前最強(qiáng)的中文開源大模型：百川智能Baichuan 2-7B版本離線整合包
哈嘍呀小伙伴們，今天分享一個號稱業(yè)內(nèi)截止目前“最強(qiáng)的中文開源模型”——Baichuan 2的離線整合包。
百川大模型Baichuan是由前搜狗CEO王小川離職創(chuàng)業(yè)，投身AI領(lǐng)域后，開發(fā)出的國產(chǎn)AI大模型。Baichuan 2是他們公司新一代的大模型產(chǎn)品。
Baichuan 2是百川智能推出的新一代開源大語言模型，采用2.6萬億參數(shù)的高質(zhì)量語料訓(xùn)練。Baichuan 2在多個權(quán)威的中文、中文和多語言的通用、領(lǐng)域基準(zhǔn)上取得了同尺寸的最佳效果。
本次對外開源發(fā)布的大模型，包含有7B、13B的Base和Chat版本，并提供了Chat版本的4bits量化。
所有版本對學(xué)術(shù)研究完全開放。同時(shí)，開發(fā)者通過郵件申請并獲得官方許可后，即可免費(fèi)獲得。
部署百川大模型Baichuan 2比較麻煩，這里我也已經(jīng)幫大家整理好了Baichuan 2的離線整合包了，解壓即用。
今天制作的是7B模型的整合包，它對機(jī)器性能要求相對較低，方便大家快速上手。
①下載整合包：解壓到本地后，雙擊“一鍵啟動-7B量化.exe”這個文件。
②加載大模型：雙擊一鍵啟動程序后，會打開一個命令提示窗口，項(xiàng)目會自動運(yùn)行。加載成功后，可以看到以下地址“ http://127.0.0.1:7860”。
在瀏覽器輸入該地址，即可看到項(xiàng)目主界面，直接問他一個比較有智慧的問題：
Q：雞和兔在一個籠子里，共有26個頭，68只腳，那么雞有多少只，兔有多少只？
假設(shè)雞的數(shù)量為x，兔子的數(shù)量為y。
根據(jù)題目給出的信息，我們可以得到以下兩個方程：① x + y = 26 (頭的總數(shù))；② 2x + 4y = 68 (腳的總數(shù))現(xiàn)在我們需要解這個二元一次方程組。
首先從第一個方程中解出x：x = 26 - y，然后將x的表達(dá)式代入第二個方程：2(26 - y) + 4y = 6852 - 2y + 4y = 682y = 16。
接下來我們求解y的值：y = 16 / 2y = 8現(xiàn)在我們得到了兔子的數(shù)量是8只。將y的值代入x的表達(dá)式求得雞的數(shù)量：x = 26 - 8x = 18所以雞有18只，兔子有8只。
Baichuan-2-7B大模型的回答非常快（實(shí)測10~20秒出答案），而且答案很正確。
恭喜你，已經(jīng)可以在本地?fù)碛幸粋€超強(qiáng)的AI大模型了，以后輔導(dǎo)孩子寫作業(yè)，再也不慌了！
注意事項(xiàng)：
①該項(xiàng)目需要N卡，顯存8G以上，建議2060以上級別顯卡，過低顯存可能無法使用
②請確保安裝路徑不包含中文，不然可能會引起奇怪的適配問題
歡迎大家點(diǎn)擊我的頭像，掃碼關(guān)注我的公眾號，回復(fù)【Baichuan-2-7B】，免費(fèi)獲得本文提到的資源。
相關(guān)文章
近期文章
更多
雷小軍
