发简信
IP属地：青海
-
Rocky Linux安装FFMPEG
1.添加RPM Fusion存储库默认情况下，Rocky Linux 9/AlmaLinux 9 存储库中不提供 FFmpeg。我们需要添加额外...
-
基于VLLM部署QwQ-32B-AWQ多机多卡
VLLM安装 参考：https://www.jianshu.com/p/fd0297790806[https://www.jianshu.com...
-
Dify安装
访问地址 http://10.3.6.38/ 先注册账号 admin@xxx/xxx2870
-
基于VLLM部署deepseek多机多卡分布式推理背景 机器：4节点，每节点2张A40操作系统：RockyLinux9.5Ollama只能在单机运行deepseek，无法利用多机进行分布式推理。...
-
基于Vanna实现智能BI交互(Text2Sql)环境 操作系统：RockyLinux容器：Docker大语言模型：Deepseek-r1-70b 安装向量数据库 chromadb (可省略） ...
-
大模型API接口压测 - evalscope
环境 操作系统：RockyLinux安装anaconda环境，可参考：https://www.jianshu.com/p/9939df72356...
-
安装 anaconda环境
环境 操作系统：RockyLinux 安装 anaconda 下载安装脚本并执行 配置环境变量 如果修改了自定义路径，请把$HOME/anaco...
-
Ollama运行嵌入式模型（Embedding Model）
安装Ollama 省略，参考：https://www.jianshu.com/p/ca6af4c96581[https://www.jiansh...
-
Ollama本地运行DeepSeek - Docker方式
安装Docker 参考：https://www.jianshu.com/p/62bac0a1060a[https://www.jianshu.c...