大佬，int4量化的gguf文件应该怎么转换为safetensors？我试了下，转换得到的是bf16😂
模型文件(gguf,safetensors)转换笔记1. gguf 转 safetensors 以ollama下运行的模型为例a.) 查看模型路径ollama show 模型名称 --modelfile返回的 FROM xx...
发简信
IP属地：广东
大佬，int4量化的gguf文件应该怎么转换为safetensors？我试了下，转换得到的是bf16😂
模型文件(gguf,safetensors)转换笔记1. gguf 转 safetensors 以ollama下运行的模型为例a.) 查看模型路径ollama show 模型名称 --modelfile返回的 FROM xx...