湖南建设网站网页设计公司概念

湖南建设网站,网页设计公司概念,购物型网站怎么建立,wordpress 淘宝1. 下载并将Ollama离线安装到系统路径 [2025年12月11日] 我已经下载的安装包#xff0c;通过百度网盘分享给大家#xff08;版本v0.13.2#xff09;#xff1a; ollama-linux-amd64.tgz#xff0c;提取码: jtidollama-windows-amd64.zip#xff0c;提取码: 7pnwollama-…1. 下载并将Ollama离线安装到系统路径[2025年12月11日] 我已经下载的安装包通过百度网盘分享给大家版本v0.13.2ollama-linux-amd64.tgz提取码: jtidollama-windows-amd64.zip提取码: 7pnwollama-linux-arm64.tgz提取码: hgj2Ollama的官方下载地址是Releases · ollama/ollama该文件实际大小可能在1~3GB之间下载操作中可能极其慢下载前期可能会快一点后期速度就会越来越慢最终降低到10-20kb/s预计用时可能4小时至10多个小时以上。尝试过多种下载加速等方法都没有成功。最终找到的一种可能的方案是官网上复制所需相应架构和版本的Ollama下载地址使用迅雷会员下载我试过这种操作下载一个版本时间大约18分钟。我们以Linux系统ubuntu为例假设已经下载Ollama安装包ollama-linux-amd64.tgz,采用离线的方式进行安装。建议优先将Ollama安装到系统可执行路径以方便所有用户使用离线(手动)安装Ollama的方式具体操作如下//解压到目录即安装完成sudotar-C /usr -xzvf ollama-linux-amd64.tgz //运行测试 ollama serve //ollama应该作为服务启动sudo tar -C /usr -xzvf ollama-linux-amd64.tgz这个命令使用tar工具将ollama-linux-amd64.tgz档案文件解压到/usr目录下-C /usr指定了目标目录。Ollama的Linux AMD64版本手动安装包ollama-linux-amd64.tgz解压后会创建或覆盖以下结构基于Ollama的标准打包方式主要可执行文件/usr/bin/ollamaOllama的核心二进制文件用于运行服务器或命令行工具。库文件和依赖/usr/lib/ollama/目录下的一些共享库.so 文件和GPU相关组件如CUDA或ROCm支持的动态链接库如果适用。这些用于支持Ollama的运行时环境特别是硬件加速。解压不会创建额外的顶级目录如/usr/ollama/而是直接将档案内的bin/和lib/内容合并到/usr的对应子目录中。这是一种常见的Linux手动安装方式确保Ollama可以从系统路径中直接调用。即可安装后/usr/bin/和/usr/lib/下面都会多出一个名为ollama的文件(夹)。如果/usr/bin/或/usr/lib/已存在同名文件可能会被覆盖。请备份重要文件。解压后可能还需要设置systemd服务来自动运行Ollama或者手动运行/usr/bin/ollama serve后面步骤我们配置ollama服务自动运行。要验证安装运行which ollama应输出/usr/bin/ollama或ollama --version检查版本。注意:如果通过其它方式安装比如复制请注意确保/usr/bin/下的ollama文件可执行权限。sudochmodx /usr/bin/ollama其它安装方法包括使用官方安装脚本安装Ollama或者手动下载二进制文件# 使用官方安装脚本安装Ollamacurl-fsSL https://ollama.com/install.sh|sh# 或者手动下载二进制文件推荐使用官方脚本# sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama# sudo chmod x /usr/bin/ollama官方安装脚本会自动将Ollama安装到/usr/bin/ollama并生成默认的systemd服务文件。安装时需要确保路径正确并赋予可执行权限。2. 创建专用系统用户和组(ollama:ollama)创建用户需要注意避免以root权限运行Ollama提高安全性。创建一个非登录用户ollama用于运行Ollama服务。确保该用户拥有访问GPU的权限如果系统支持。最好是让Ollama以非root用户运行以提高安全性注意检查创建的前提当前暂不存在ollama用户具体的操作命令如下# 创建系统用户ollama不允许登录sudouseradd-r -s /bin/false -m -d /var/lib/ollama ollama# 创建系统组ollama(可选但建议)sudogroupaddollama# 将ollama用户加入ollama组sudousermod-aG ollama ollama# 如果有GPU支持将ollama加入video和render组(根据系统不同)sudousermod-aG video,render ollama关于命令的解释说明-r: 表示这是一个系统账户不会被用来登录。-s /bin/false: 禁止该用户登录系统。-m -d /var/lib/ollama: 自动创建主目录并指定为/var/lib/ollama这是系统标准数据存储路径。video,render组某些Linux发行版如Ubuntu中GPU访问需要加入这些组。3. 设置正确的模型存储目录权限ollama安装后要确保ollama用户可以读写模型数据具体操作命令如下# 创建模型目录sudomkdir-p /var/lib/ollama/.ollama/models# 设置权限sudochown-R ollama:ollama /var/lib/ollamasudochmod-R755/var/lib/ollamachown -R: 递归更改目录所有权。chmod -R 755: 设置权限为“用户可读写其他人可读”。如果你之前用过Ollama可能需要将.ollama目录迁移到/var/lib/ollama。4. 配置systemd服务文件并启动(关键)创建一个系统级的服务让Ollama在后台运行并且对所有用户可用具体操作命令如下# 创建或编辑systemd服务文件sudovim/etc/systemd/system/ollama.serviceollama.service中的内容粘贴如下[Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve # Userollama: 以非特权账户运行 Userollama Groupollama Restartalways RestartSec3 # EnvironmentOLLAMA_HOST0.0.0.0: 允许远程访问根据需要可改为127.0.0.1 EnvironmentOLLAMA_HOST0.0.0.0 # EnvironmentHOME/var/lib/ollama: 指定模型存储路径为系统目录 EnvironmentHOME/var/lib/ollama EnvironmentPATH/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin [Install] WantedBymulti-user.target注意:Userollama和Groupollama: 以普通用户身份运行避免安全风险。EnvironmentOLLAMA_HOST0.0.0.0: 允许网络访问若只允许本地访问改为127.0.0.1。EnvironmentHOME/var/lib/ollama: 设置模型存储路径为系统目录便于共享管理。WantedBymulti-user.target: 更通用的启动目标适用于大多数系统。启用并启动Ollama服务(ollama.service)重新加载systemd配置启动服务并设置开机自启操作命令如下# 重新加载systemd配置sudosystemctl daemon-reload# 启动Ollama服务sudosystemctl start ollama# 设置开机自启sudosystemctlenableollama# 查看服务状态sudosystemctl status ollama注意:如果服务没有启动请检查日志journalctl -u ollama.service5. 测试以普通用户身份运行Ollama验证(确保)所有用户都可以通过ollama run或API访问服务命令如下注意以普通用户身份运行# 列出已下载的模型ollama list# 运行一个模型ollama run llama3说明所有用户都可通过ollama命令连接到同一个Ollama实例。不需要每个用户单独运行服务。6.其它建议可选操作为了提高服务的安全性防止未授权访问可考虑以下操作6.1. 防火墙限制端口防火墙默认端口是11434注意解除限制sudoufw allow11434/tcpsudoufwenable6.2. 添加认证需第三方工具使用第三方工具可以添加认证例如可以使用Nginx反向代理加上Basic Auth来实现访问控制。Ollama 本身没有内置认证机制但可以通过 Nginx 反向代理加上 Basic Auth 来实现。示例配置Nginxlocation / { proxy_pass http://localhost:11434; auth_basic Restricted Access; auth_basic_user_file /etc/nginx/.htpasswd; }生成.htpasswd文件sudoaptinstallapache2-utilssudohtpasswd -c /etc/nginx/.htpasswd admin6.3. 非必要不使用0.0.0.0如果仅允许本地访问修改OLLAMA_HOST127.0.0.1。7. 从系统中删除Ollama彻底删除Ollama需要停止并关闭(卸载)ollama服务sudosystemctl stop ollamasudosystemctl disable ollama删除ollama安装时涉及的文件夹主要是服务文件/etc/systemd/system/ollama.service、可执行文件(/usr/bin/ollama)和各种库文件和依赖/usr/lib/ollama/sudorm/etc/systemd/system/ollama.service# sudo rm /usr/bin/ollamasudorm$(whichollama)sudorm-rf /usr/lib/ollama注意有些安装将ollama安装到了/usr/share/ollama或者/usr/local/bin/ollama相应地调整可执行文件或者库文件和依赖文件夹的位置。删除ollama用户和组sudouserdelollamasudogroupdelollama最后验证是否还有ollama进程sudopsaux|grepollama