@啊啊啊11 量化后的模型文件为何要再转回去咧？GGUF的量化结构Safetensors应该不支持……如果有解决方案记得分享下哈
模型文件(gguf,safetensors)转换笔记1. gguf 转 safetensors 以ollama下运行的模型为例a.) 查看模型路径ollama show 模型名称 --modelfile返回的 FROM xx...
发简信
IP属地：广东
-
-
dify本地源码启动实操&填坑0. dify本地源码启动参考地址： https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/loc...
-
模型文件(gguf,safetensors)转换笔记
1. gguf 转 safetensors 以ollama下运行的模型为例a.) 查看模型路径ollama show 模型名称 --modelfile返回的 FROM xx...
-
open-webui安装步骤笔记概述 目前大模型爆火，蹭着这个热度，根据网上教程个人也部署一份个人知识库；整个应用包含大模型应用，WEB端应用；其中大模型应用一般都是部署一个推理框架(如ollama)，WE...
-
JAVA 工具命令集
JAVA 工具命令集 jstat jstat - [-t] [-h ] <vmid> [ [<count>]]参数解释：Options — 选项，我们一般使用 -gcut...
-
-
-
【菜鸡学习日记】大语言模型.初涉LLMs
序章 一直以来总想把个人的学习内容记录下来，在这过程中总会有各种理由导致该计划没有实现；借这次外界环境的变更，再次开始记录日记，希望能持续坚持下来；记录的内容只是属于个人在记...
-
【笔记】Bloom Filter
参考链接 https://blog.csdn.net/jiaomeng/article/details/1495500[https://blog.csdn.net/jiaom...
-
面试官问我:Object o = new Object() 占用了多少个字节？小小面试一下 前言蜜语 最近马师傅火的不要不要的，虽然没有抢到耗子尾汁的商标注册权，但是必须得蹭一波马师傅的热度,下面就是闪电五连鞭的教学环节，你准备好了吗! 在正式内容开始...
-
-
记JAVA线程池的一次扫盲
前言 某日同一同事探讨线程池的几个关键参数：corePoolSize，maximumPoolSize，queueCapacity；进而围绕这几个参数引出几个点： a) 应用初...
-
Pulsar REST API使用笔记
参考链接：http://pulsar.apache.org/admin-rest-api/#restapis 环境说明Broker的WebServer： JWT认证头信息： ...
