【Ollama】学习笔记 - P1私有化大模型1. 为什么要私有化大模型1.1 企业数据隐私与安全的问题1.2 便于内部员工工作提效1.3 大模型开发的投入2. 私有化大模型方案3. Ollama安装与使用3.1 什么是Ollama3.2 Linux系统安装Ollama3.3 Ollama对话指令3.3.1 /bye指令3.3.2 /show指令3.3.3 /? shortcuts 指令3.3.4 /set 指令3.3.5 /clear 指令3.3.6 /load 指令3.3.7 /save 指令3.3.8 指令3.4 Ollama客户端指令3.4.1 run3.4.2 pull3.4.3 show3.4.4 listls3.4.5 ps3.4.6 rm私有化大模型1. 为什么要私有化大模型1.1 企业数据隐私与安全的问题使用公共大模型可能涉及敏感数据的泄露风险因为公共模型在训练过程中可能接触到了来自不同来源的敏感数据。因此就有了私有大模型的市场需求私有大模型允许企业或机构在自己的数据上训练模型而且训练的结果只供内部或合作伙伴使用从而确保了数据隐私和安全。1.2 便于内部员工工作提效1.3 大模型开发的投入2. 私有化大模型方案3. Ollama安装与使用3.1 什么是OllamaOllama羊驼是一款旨在简化大型语言模型本地部署和运行过程的开源软件。它提供了一个轻量级、易于扩展的框架让开发者能够在本地机器上轻松构建和管理LLMs大型语言模型。网址https://ollama.com/3.2 Linux系统安装OllamaWindow及Mac系统可直接从官网下载安装包进行安装不做介绍主要介绍Linux系统通过压缩包解压方式进行安装的过程执行tar -xzvf ollama-linux-amd64.tgz -C /usr将软件压缩包解压至usr目录下此时可执行ollama -v查看是否已安装。添加开启自启服务创建服务文件vim /etc/systemd/system/ollama.service并写入文件内容[Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve Userroot Grouproot Restartalways RestartSec3 [Install] WantedBydefault.target生效服务sudo systemctl daemon-reload sudo systemctl enable ollama启动服务sudo systemctl start ollama前往Ollama官网下载需要使用的大模型例如ollama run qwen2:0.5b开通远程访问Ollama增加环境变量可选1、在/etc/profile中增加环境变量 export OLLAMA_HOST0.0.0.0:11434 export OLLAMA_ORIGINS* 2、在/etc/systemd/system/ollama.service服务文件中增加服务变量 EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_ORIGINS* 3、添加完成后生效修改后的配置 source /etc/profile systemctl daemon-reload systemctl restart ollama关闭防火墙基于第四步需要操作systemctl stop firewalld systemctl disable firewalld调整Ollama模型下载地址需要修改系统环境变量OLLAMA_MODELS对应地址3.3 Ollama对话指令3.3.1 /bye指令退出当前控制台对话3.3.2 /show指令用于查看当前模型详细信息[rootbogon ~]# ollama run qwen2:0.5b /show Available Commands: /show info 查看模型的基本信息 /show license 查看模型的许可信息 /show modelfile 查看模型的制作源文件Modelfile /show parameters 查看模型的内置参数信息 /show system 查看模型的内置Sytem信息 /show template 查看模型的提示词模版3.3.3 /? shortcuts 指令查看在控制台中可用的快捷键3.3.4 /set 指令set指令主要用来设置当前对话模型的系列参数3.3.5 /clear 指令在命令行终端中对话是自带上下文记忆功能如果要清除上下文功能则使用/clear指令清除上下文内容3.3.6 /load 指令load可以在对话过程中随时切换大模型例如Loading model deepseek-coder3.3.7 /save 指令可以把当前对话模型存储成一个新的模型3.3.8 “” 指令“” 用于输入内容有换行时使用如何多行输入结束也使用 “”3.4 Ollama客户端指令3.4.1 run下载未下载过并运行指定大模型语法为ollama run MODEL[:Version] [PROMPT] [flags][:Version] 可以理解成版本而版本信息常常以大模型规模来命名可以不写不写则模式成latest例如ollama run qwen2:1.5b3.4.2 pull仅下载不自动运行大模型例如ollama pull qwen2:0.5b3.4.3 show不用运行大模型查看模型的信息与对话指令中的/show功能类似。3.4.4 listls查看ollama当前的大模型列表NAME名称ID大模型唯一IDSIZE大模型大小MODIFIED本地存活时间3.4.5 ps查看当前运行的大模型列表PS命令没其它参数3.4.6 rm删除本地大模型RM命令没其它参数
【Ollama】学习笔记 - P1
发布时间：2026/5/19 15:49:50
【Ollama】学习笔记 - P1私有化大模型1. 为什么要私有化大模型1.1 企业数据隐私与安全的问题1.2 便于内部员工工作提效1.3 大模型开发的投入2. 私有化大模型方案3. Ollama安装与使用3.1 什么是Ollama3.2 Linux系统安装Ollama3.3 Ollama对话指令3.3.1 /bye指令3.3.2 /show指令3.3.3 /? shortcuts 指令3.3.4 /set 指令3.3.5 /clear 指令3.3.6 /load 指令3.3.7 /save 指令3.3.8 指令3.4 Ollama客户端指令3.4.1 run3.4.2 pull3.4.3 show3.4.4 listls3.4.5 ps3.4.6 rm私有化大模型1. 为什么要私有化大模型1.1 企业数据隐私与安全的问题使用公共大模型可能涉及敏感数据的泄露风险因为公共模型在训练过程中可能接触到了来自不同来源的敏感数据。因此就有了私有大模型的市场需求私有大模型允许企业或机构在自己的数据上训练模型而且训练的结果只供内部或合作伙伴使用从而确保了数据隐私和安全。1.2 便于内部员工工作提效1.3 大模型开发的投入2. 私有化大模型方案3. Ollama安装与使用3.1 什么是OllamaOllama羊驼是一款旨在简化大型语言模型本地部署和运行过程的开源软件。它提供了一个轻量级、易于扩展的框架让开发者能够在本地机器上轻松构建和管理LLMs大型语言模型。网址https://ollama.com/3.2 Linux系统安装OllamaWindow及Mac系统可直接从官网下载安装包进行安装不做介绍主要介绍Linux系统通过压缩包解压方式进行安装的过程执行tar -xzvf ollama-linux-amd64.tgz -C /usr将软件压缩包解压至usr目录下此时可执行ollama -v查看是否已安装。添加开启自启服务创建服务文件vim /etc/systemd/system/ollama.service并写入文件内容[Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve Userroot Grouproot Restartalways RestartSec3 [Install] WantedBydefault.target生效服务sudo systemctl daemon-reload sudo systemctl enable ollama启动服务sudo systemctl start ollama前往Ollama官网下载需要使用的大模型例如ollama run qwen2:0.5b开通远程访问Ollama增加环境变量可选1、在/etc/profile中增加环境变量 export OLLAMA_HOST0.0.0.0:11434 export OLLAMA_ORIGINS* 2、在/etc/systemd/system/ollama.service服务文件中增加服务变量 EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_ORIGINS* 3、添加完成后生效修改后的配置 source /etc/profile systemctl daemon-reload systemctl restart ollama关闭防火墙基于第四步需要操作systemctl stop firewalld systemctl disable firewalld调整Ollama模型下载地址需要修改系统环境变量OLLAMA_MODELS对应地址3.3 Ollama对话指令3.3.1 /bye指令退出当前控制台对话3.3.2 /show指令用于查看当前模型详细信息[rootbogon ~]# ollama run qwen2:0.5b /show Available Commands: /show info 查看模型的基本信息 /show license 查看模型的许可信息 /show modelfile 查看模型的制作源文件Modelfile /show parameters 查看模型的内置参数信息 /show system 查看模型的内置Sytem信息 /show template 查看模型的提示词模版3.3.3 /? shortcuts 指令查看在控制台中可用的快捷键3.3.4 /set 指令set指令主要用来设置当前对话模型的系列参数3.3.5 /clear 指令在命令行终端中对话是自带上下文记忆功能如果要清除上下文功能则使用/clear指令清除上下文内容3.3.6 /load 指令load可以在对话过程中随时切换大模型例如Loading model deepseek-coder3.3.7 /save 指令可以把当前对话模型存储成一个新的模型3.3.8 “” 指令“” 用于输入内容有换行时使用如何多行输入结束也使用 “”3.4 Ollama客户端指令3.4.1 run下载未下载过并运行指定大模型语法为ollama run MODEL[:Version] [PROMPT] [flags][:Version] 可以理解成版本而版本信息常常以大模型规模来命名可以不写不写则模式成latest例如ollama run qwen2:1.5b3.4.2 pull仅下载不自动运行大模型例如ollama pull qwen2:0.5b3.4.3 show不用运行大模型查看模型的信息与对话指令中的/show功能类似。3.4.4 listls查看ollama当前的大模型列表NAME名称ID大模型唯一IDSIZE大模型大小MODIFIED本地存活时间3.4.5 ps查看当前运行的大模型列表PS命令没其它参数3.4.6 rm删除本地大模型RM命令没其它参数
 7.7.0 坐标系统实战：从世界坐标到交互转换（C#/C++ CLI）)
