1. 详细步骤 1.1 安装 1.2 启动 1.2.1 直接启动 简洁命令 多参数命令 设置模型缓存路径和模型来源(Hugging Face/Modelscope) 1.2....
1. 详细步骤 1.1 安装 1.2 启动 1.2.1 直接启动 简洁命令 多参数命令 设置模型缓存路径和模型来源(Hugging Face/Modelscope) 1.2....
1. 详细步骤 1.1 安装 cuda 等 nvidia 依赖(非CUDA环境运行可跳过) 1.2 安装 llama.cpp (C/C++环境) 1.3 安装 llama-c...
1. 详细步骤 1.1 拉取源码 1.2 模型转换/量化 1.2.1 安装所需 Python 依赖 torch 其他依赖 1.2.1 模型转换/量化 f16 q8_0 q4_...
Open WebUI (Formerly Ollama WebUI) 也可以通过 docker 来安装使用 1. 详细步骤 1.1 安装 Open WebUI 1.2 启动 ...
1. 详细步骤 以qwen2.5:0.5b-instruct-fp16为例 1.1 迁移 manifests 文件 1.2 迁移 blobs 文件 1.3 验证
1. 操作步骤 1.1 安装 1.2 验证(可跳过) 1.3 启动服务端 1.4 跑通第一个模型 2. 参考资料 2.1 Ollama GitHub https://gith...
目前通过 runfile(local) 方式安装,最终 nvcc -V 看到的版本有偏差(安装12.4,显示12.0),但不影响使用 llama-factory,llama....
1. 详细步骤 1.1 安装 Tmux apt brew 1.2 终端新建/激活 Tmux 1.2.1 新开一个窗口 1.2.2 激活指定窗口 1.3 Tmux 内使用 1....
1. 实用命令 1.1 系统相关 1.1.1 查看系统、用户信息等 查看当前系统硬件架构 注:mac 上也能用 查看当前系统的操作系统及版本 查看当前系统单个cpu的可用核心...
1. 详细步骤 以 Ubuntu 上,组建 4 盘 RAID-10 为例 挂载的位置以 /Volumes/RAID10 为例, 可替换为其他任意自定义路径 1.1 初始化磁盘...
1. 详细步骤 1.1 安装启动 postgresql 服务 1.2 安装启动 redis 服务 1.3 安装启动 gitlab 服务 1.4 使用 浏览器访问 http:/...
1. 详细步骤 1.1 安装 1.2 验证(可跳过) 1.3 使用 1.3.1 拉取镜像 1.3.2 运行镜像 1.3.3 查看容器日志 1.3.4 停止容器 1.3.5 删...
支持绝大部分系统软件服务的安装,如 ollama, ffmpeg, mysql 等 在非 root 用户下安装使用,mac 和 linux(ubuntu) 上都可以使用 1....
1. 详细步骤 1.1 终止所有 WSL 实例(官方建议) 1.2 通过 diskpart 拓展磁盘空间 1.3 启动 WSL Linux 1.4 拓展磁盘空间 在 WSL-...
1. 操作步骤 1.1 确认要导出的Linux系统是否存在(可跳过) 1.2 导出Linux系统为tar包 1.3 删除原Linux系统 1.4 在非系统盘创建Linux系统...
1. 安装 1.1 WSL安装确认(可跳过) 1.1.1 检查是否安装(可跳过) 注:Windows11已默认安装(所提WSL,默认指WSL2) 1.1.2 手动安装(可跳过...
1. 安装 安装 anaconda(包含 python 和 pip 等,支持创建及管理多个 python 虚拟环境) 注:miniconda 可能也可以,但是没用过,优先 a...
1. 详细步骤 1.1 查看源文件位置(可跳过) 1.2 备份源文件 1.3 配置镜像源 1.4 验证 2. 参考资料 2.1 清华大学开源软件镜像站 ubuntu http...
1. 详细步骤 1.1 常用镜像源列表 1.2 临时使用 1.3 长期设置 1.4 配置多个镜像源 2. 参考资料 2.1 清华大学开源软件镜像站 2.1.1 PyPI 软件...