首页
小角落
开源分享
关于我
版权声明
隐私政策
瞬间
链接
1
Openwrt软件包全量解释
2
Windows 11 WiFi配置信息的导出与导入:轻松共享网络连接
3
使用yt-dlp与FFmpeg高效下载并合并Bilibili视频
4
天翼云盘自动签到:轻松获取云存储空间与抽奖机会
5
绕过强制打开Edge,直接开启Windows系统Internet Explorer浏览器的VBS脚本小技巧
哦吼
一切顺其自然
累计创建
3
个分类
累计创建
94
个标签
累计撰写
58
篇文章
导航
首页
小角落
开源分享
关于我
版权声明
隐私政策
瞬间
链接
目录
标签
AI
Ollama 使用指南:从安装到高级配置
2025-03-20 17:06
253
0
1
51.3℃
小角落
Ollama 是一个强大的本地大语言模型(LLM)运行工具,支持 macOS、Windows 和 Linux。本文将详细介绍如何升级 Ollama、查看日志、配置 GPU 加速、调整上下文窗口大小、管理模型存储位置,以及优化并发请求处理。此外,我们还会探讨如何在代理服务器后使用 Ollama、如何预加载模型以提升响应速度,以及如何启用 Flash Attention 和量化 K/V 缓存来优化性能。
弹