創(chuàng )澤機器人 |
CHUANGZE ROBOT |
1. 講座為DeepSeek原理和應用系列研討的講座之一,讓大家可以決策是否需要自己部署DeepSeek系列模型,并了 解自己本地化部署DeepSeek的基本方法,同時(shí)了解更專(zhuān)業(yè)的企業(yè)級部署方法,有助于選擇DeepSeek一體機型號,并 能理解DeepSeek云服務(wù)的工作機制和原理,用好DeepSeek云服務(wù)的API調用方法。
2. 本講座的內容分為四個(gè)主要部分:
① 首先,除了DeepSeek滿(mǎn)血版之外,還有各種各樣的蒸餾版和量化版,以及DeepSeek的不同專(zhuān)業(yè)模型。我們將介紹人工智能大模 型的基本概念,以及DeepSeek各個(gè)模型的特點(diǎn)與適用場(chǎng)景,對比不同規模模型的性能表現,幫助大家選擇適合自己需求的版本。
② 其次,對于普通用戶(hù)在自己的電腦上部署和體驗DeepSeek(蒸餾版)的情況,我們會(huì )評估和建議硬件要求,演示如何通過(guò)Ollama 命令行G效部署DeepSeek模型,解決下載過(guò)程中可能遇到的常見(jiàn)問(wèn)題。為了提升在自己的電腦上安裝DeepSeek模型后,大家與 DeepSeek模型的交互體驗,我們還將介紹Open WebUI和Chatbox等前端展示工具的配置與使用方法。
③ 然后,對于專(zhuān)業(yè)級的企業(yè)部署DeepSeek,或把DeepSeek(蒸餾版和滿(mǎn)血版)部署在專(zhuān)業(yè)的昂貴的推理機上,本講座將探討基于 Transformers快速驗證和vLLM的G性能部署方案,并提供真實(shí)企業(yè)基于vLLM的部署DeepSeek-70b的相關(guān)數據和經(jīng)驗。
④ 后,作為補充內容,針對計算資源受限的場(chǎng)景,我們專(zhuān)門(mén)設計了"低成本部署"環(huán)節,詳細講解Unsloth R1動(dòng)態(tài)量化部署的三種實(shí) 現路徑:基于llama.cpp、KTransformers以及Ollama框架動(dòng)態(tài)量化部署。
3. 在技術(shù)學(xué)習的道路上,出色學(xué)習資源至關(guān)重要。推薦大家參考《人工智能通識教程(微課版)》這本系統多面的入門(mén)教 材,結合B站“思睿觀(guān)通”欄目的配套視頻進(jìn)行學(xué)習。此外,歡迎加入ai.kgc.cn社區,以及“AI肖睿團隊”的視頻號和 微信號,與志同道合的AI愛(ài)好者交流經(jīng)驗、分享心得。
![]() |
機器人底盤(pán) Disinfection Robot 消毒機器人 講解機器人 迎賓機器人 移動(dòng)機器人底盤(pán) 商用機器人 智能垃圾站 智能服務(wù)機器人 大屏機器人 霧化消毒機器人 紫外線(xiàn)消毒機器人 消毒機器人價(jià)格 展廳機器人 服務(wù)機器人底盤(pán) 核酸采樣機器人 智能配送機器人 導覽機器人 |