在 AI 学习和开发中很多人会面临这些困扰云厂商 API 计费贵、注册实名门槛高、敏感代码不敢上传、没网就不能用。其实本地部署早已不再复杂。目前 GitHub 上 16.6 万 Star 的开源项目Ollama已经把门槛降到了极致。它能自动处理环境和硬件加速让你在 3 分钟内拥有一套完全私有、零成本的大模型服务。下面以 Windows 为例macOS/Linux 流程基本一致带你一步步上手 Ollama。1、下载安装访问 Ollama 官网https://ollama.com/download点击Download for Windows会自动下载OllamaSetup.exe安装文件。2、自定义安装路径可选Ollama 默认会安装到 C 盘下载的模型也存储在 C 盘。如果你的 C 盘空间充足可以跳过这一步直接完成安装即可。但如果你的 C 盘空间紧张建议自定义安装路径和模型存储路径。首先打开 CMD 窗口进入到安装包所在目录执行以下命令OllamaSetup.exe /DIRD:/Ollama这样会将软件安装到D:/Ollama路径下你可以根据需要修改路径。在弹出的安装界面点击Install等待安装完成。安装完成后会弹出 Ollama 的对话界面。先别急着开始对话我们先调整一下模型存储路径。点击界面左侧按钮选择Settings然后点击Browse选择模型要存放的路径即可。3、下载模型在 Ollama 中模型名字后的数字如3B,7B,32B代表参数量单位是十亿Billion。参数量越大模型越聪明但对电脑配置要求越高Ollama 会自动优化配置策略有 GPU 时优先使用 GPU 加速没有 GPU 时自动切换到CPU运行。为了帮你快速选择合适的模型这里有一个简单的参考对照表参数量模型大小内存/显存要求推荐场景2B-3B1.5-2.2GB4GB基础对话、简单问答7B-8B3.8-4.7GB8GB日常对话、代码辅助13B-14B7.4-8.8GB16GB复杂推理、长文本30B-32B18-20GB32GB专业领域、深度分析70B39-40GB64GB高级推理、接近GPT-3.5120B70GB80GB接近GPT-4级别Ollama 客户端界面提供了一些热门模型你可以直接和它对话系统会自动下载所需的模型。不过客户端上展示的模型不全如果想要下载更多模型可以去官网 https://ollama.com/search 查找支持按照流行度/发布时间排序还可以通过标签筛选是否支持深度思考是否支持 Function Calling 功能等能力。如果找到了想要的模型可以通过 CMD 命令行下载示例如下# 下载通义千问 ollama pull qwen3.5:4b # 查看已下载的模型 ollama list # 输出 # NAME ID SIZE MODIFIED # gemma3:4b a2af6cc3eb7f 3.3 GB 37 seconds ago # qwen3.5:4b 2a654d98e6fb 3.4 GB 55 seconds ago4、代码调用模型Ollama 的一大优势是兼容 OpenAI API 格式这意味着你可以直接使用 OpenAI SDK 调用本地模型只需改一行 URL就能从云端无缝切换到本地。from openai import OpenAI client OpenAI( base_urlhttp://localhost:11434/v1/, # 指向本地 Ollama 默认端口 11434 api_keyollama-local, # 可随意填写Ollama 不做强制校验 ) response client.chat.completions.create( modelgemma3:4b, # 确保调用的model名称已下载 messages[ {role: user, content: 你是谁} ] ) print(response.choices[0].message.content)就是这么简单——你不需要学习新的 API所有熟悉的OpenAI调用方式都能直接复用。5、总结Ollama 为我们提供了一条零成本、无限制、数据私有的本地大模型部署路径。无论是日常学习、代码辅助还是处理敏感数据它都能成为你可靠的工作伙伴。从今天开始告别 Token 焦虑拥抱 AI 自由吧这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容