AI--大模型本地部署(Ollama篇)
AI–大模型本地部署(Ollama篇)
1.部署方式
总的来说,大模型的部署主要分为三种方式,各自有自己的优缺点,具体如下:
2.本地部署-Ollama本地部署
Ollama下载地址:
这里我们根据需求选择需要用的模型,点解复制终端质量,其中的b代表了参数量级,1.5b代表了包含15亿的参数内容
1 | |
这样子我们就部署好了,是不是很简单捏
3.官方开放API记录
目前主流的大模型(如:DeepSeek、Kimi等)官方都提供了开放API,无需部署,就可以直接调用访问,这里提供几个可以申请api的模型,可以进行尝试
智谱:https://bigmodel.cn/usercenter/proj-mgmt/apikeys
deepseek:https://platform.deepseek.com/api_keys
Gemini:https://aistudio.google.com/api-keys
AI--大模型本地部署(Ollama篇)
https://one-null-pointer.github.io/2026/01/02/AI --大模型本地部署(Ollama篇)/