Ollama入门使用指南

ollama官网:https://ollama.com/ 一、基础命令操作 ollama serve:启动 Ollama 服务,是后续操作的基础。 ollama create:从模型文件创建模型,适用于自定义模型或本地已有模型文件的情况。 ollama show:显示模型信息,可查看模型架构、参数等详细信息,辅助模型分析。 ollama run:运行模型,如ollama run qwen2,若本地无该模型会自动下载并运行,可用于快速测试模型。 ollama pull:从注册表中拉取模型,如ollama pull llama3,方便获取官方或其他来源的模型。 ollama push:将模型推送到注册表,便于共享模型。 ollama list:列出本地已有的模型,方便管理和选择。 ollama cp:复制模型,可用于备份或创建模型副本。 ollama rm:删除模型,释放存储空间。 ollama help:获取任何命令的帮助信息,方便用户快速查询命令用法。 运行模型 • 默认启动:直接输入模型名称启动最新版本 ollama run deepseek-r1 # 默认运行7B参数版本 • 指定版本:通过冒号后缀选择参数规模 ollama run deepseek-r1:32b # 运行320亿参数版本 对话交互 输入问题:直接回车发送问题 >>> 请用Python实现快速排序算法 退出对话:输入 /bye 或按 Ctrl+D 模型管理 查看已安装模型 ollama list # 显示所有本地模型 删除模型 ollama rm deepseek-r1:32b # 删除指定模型 更新模型 ollama pull deepseek-r1 # 拉取最新版本 二、高级功能配置 1. 自定义模型参数 通过 Modelfile 调整模型行为(如温度值、系统提示): ...

2025-02-25 · FLY的狐狸

Ollama安装及本地部署DeepSeekR1教程

ollama官网:https://ollama.com/ 一、Ollama安装教程(以Windows系统为例) 1. 准备工作 • 硬件要求:需配备NVIDIA显卡(显存≥8GB),建议预留20GB磁盘空间。 • 网络环境:确保可访问Ollama官网。 2. 安装步骤 步骤1:下载安装包 访问 Ollama官网,点击「Download」→选择Windows版本。 步骤2:安装程序 双击安装包,保持默认选项→点击「Install」,直至显示「Installation complete」即安装成功。 步骤3:验证安装 • 按 Win+R 打开运行窗口,输入 cmd 进入命令行。 • 输入以下命令验证版本: 查看ollama命令是否安装成功 $ ollama --version ollama version is 0.3.6 显示类似 ollama version 0.3.6 即成功。 步骤4(可选):修改默认模型存储路径 若需避免C盘空间占用,可在D盘创建文件夹并配置环境变量: 创建文件夹:D:\OllamaAI。 添加系统变量: • 变量名:OLLAMA_MODELS • 变量值:D:\OllamaAI。 二、DeepSeek模型部署与使用 1. 模型选择与下载 在官网 https://ollama.com/search 下,可以搜索自己需要的大模型。 此次以DeepSeek为例:https://ollama.com/library/deepseek-r1 • 版本说明: • 蒸馏版(推荐):如1.5B、7B参数,适合普通显卡(如2G显存可运行1.5B)。 • 满血版:671B参数需专业服务器(如双H100显卡+1T内存)。 • 下载命令: 通过ollama run命令下载DeepSeek并运行(以1.5b为例): $ ollama run deepseek-r1:1.5b pulling manifest pulling aabd4debf0c8... 100% ▕████████████████████████████████████████████████████████▏ 1.1 GB pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏ 387 B pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏ 148 B pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████████████████████▏ 487 B verifying sha256 digest writing manifest success >>> Send a message (/? for help) 下载进度条显示完成后提示「success」即成功。 ...

2025-02-24 · FLY的狐狸