當(dāng)DeepSeek遇見鯤鵬：SK90 DeepSeek智算一體機(jī)超融合AI部署實(shí)戰(zhàn)全解析
發(fā)表時(shí)間：2025-02-27
返回列表伴隨DeepSeek的開源和爆火，恒揚(yáng)數(shù)據(jù)快速推出SK90 DeepSeek智算一體機(jī)。對于想要深入探索SK90 DeepSeek智算一體機(jī)強(qiáng)大功能的伙伴們來說，了解其部署環(huán)境與步驟是開啟高效AI之旅的關(guān)鍵。恒揚(yáng)數(shù)據(jù)SK90 DeepSeek智算一體機(jī)搭載鯤鵬920模組和昇騰310智算芯片，擁有 64 核強(qiáng)勁算力，運(yùn)行openEuler 22.03 (LTS-SP3)系統(tǒng)，可為企業(yè)數(shù)字化轉(zhuǎn)型和加速開發(fā)者 AI 應(yīng)用落地賦能助力。今天，就為大家詳細(xì)拆解在SK90 DeepSeek智算一體機(jī)上進(jìn)行超融合 AI 部署的全過程，從環(huán)境搭建到模型部署，步步為營，助你輕松掌握，快跟上腳步，一同開啟這場智算探索之旅！
部署環(huán)境
SK90 DeepSeek智算一體機(jī)包含2個(gè)鯤鵬920模組，單模組配置64核，實(shí)際配置如下：
部署步驟
步驟一：下載安裝Ollama
Ollama是一個(gè)開源的本地模型運(yùn)行工具，可以方便地下載和運(yùn)行各種開源模型，如 Llama、Qwen、DeepSeek等。Ollama提供高效、靈活的大模型部署和管理解決方案，可以簡化模型的部署流程。支持macOS、Linux、Windows操作系統(tǒng)。
下載Ollama安裝命令：
| curl -fsSL https://ollama.com/install.sh | sh |
手動下載鏈接：
| https://ollama.com/download/OllamaSetup.exe |
直接解壓安裝：
| tar -C /usr -xzf ollama-linux-arm64.tgz |
步驟二：啟動運(yùn)行Ollama
啟動運(yùn)行Ollama
| ollama -v # 查看版本信息 ollama serve # 啟動ollama |
| https://ollama.com/search |
1.5b 的命令為： "ollama run deepseek-r1:1.5b" 7b 的命令為： "ollama run deepseek-r1:7b" 8b 的命令為： "ollama run deepseek-r1:8b" 14b 的命令為： "ollama run deepseek-r1:14b" |
步驟三：啟動運(yùn)行Ollama
推薦大家先下載較小的1.5b模型，把安裝程序跑通，再根據(jù)自己的硬件配置和需求安裝適當(dāng)?shù)陌姹尽?/p>
| ollama run deepseek-r1:1.5b |
| ollama run deepseek-r1:8b |
運(yùn)行和簡單提問輸出效果
以此類推，可以運(yùn)行32B模型：ollama run deepseek-r1:32b
輸入 “/?”，可以獲得幫助。
至此，SK90 DeepSeek智算一體機(jī)的超融合AI部署實(shí)戰(zhàn)全解析就結(jié)束了。從前期的部署環(huán)境準(zhǔn)備，到一步步完成Ollama的安裝、啟動以及DeepSeek模型的下載運(yùn)行，每一個(gè)環(huán)節(jié)都緊密相連。通過這些操作，大家已經(jīng)能夠在這臺智算一體機(jī)上初步體驗(yàn)到AI的魅力。在實(shí)際運(yùn)用中，大家可以根據(jù)自身需求，靈活調(diào)整模型版本和使用方式。要是在部署過程中遇到難題，別擔(dān)心，多嘗試文中的方法，也歡迎與我們聯(lián)系交流探討。
