1Panel Version
v2.2.5
Please describe your needs or suggestions for improvements
问题描述
目前 1Panel 的 AI → 模型 → 本地模型 → 下载器 功能支持从 HuggingFace 和 ModelScope 下载模型仓库,但只能一次性下载整个仓库的所有文件。
在实际使用场景中,很多时候我们只需要仓库中的部分文件。例如:
某些仓库同时包含 model.safetensors、model.pt、model.gguf 等多种格式的权重文件,体积差异巨大,用户通常只需要其中一种格式。
某些仓库包含多个不同量化版本(如 Q4_K_M、Q8_0 等),用户只想下载特定的量化版本。
仓库中的 README.md、LICENSE、或者其他精度的模型权重 等文件对模型运行并非必需,但会被一并下载,浪费带宽和存储空间。
以截图中的 Qwen/Qwen2.5-0.5B-Instruct 为例,仓库包含 config.json、model.safetensors(942.3 MB)、tokenizer.json(6.7 MB)、vocab.json(2.6 MB)等文件,总大小 953.3 MB。如果用户只需要 model.safetensors 和相关配置文件,目前仍需要下载全部文件。
建议方案
建议在下载器中增加文件选择功能,具体可以是:
文件列表勾选:点击仓库后,先展示仓库文件列表(类似目前右侧的详情面板),用户勾选需要下载的文件后再执行下载。
通配符/正则过滤:支持通过文件名模式(如 *.safetensors、Q4)过滤需要下载的文件。
默认智能选择:自动识别并勾选模型运行所需的最小文件集(如 config.json + 主权重文件 + tokenizer 相关文件),用户可在此基础上增删。
使用场景
大模型仓库通常包含多种格式/量化版本的权重,单个仓库可能达到数十 GB,选择性下载可以大幅节省下载时间和磁盘空间。
在带宽有限或磁盘空间紧张的服务器环境中,该功能尤为实用。
环境信息
1Panel 版本:v2.2.5
Please describe the solution you suggest
No response
Additional Information
No response
1Panel Version
v2.2.5
Please describe your needs or suggestions for improvements
问题描述
目前 1Panel 的 AI → 模型 → 本地模型 → 下载器 功能支持从 HuggingFace 和 ModelScope 下载模型仓库,但只能一次性下载整个仓库的所有文件。
在实际使用场景中,很多时候我们只需要仓库中的部分文件。例如:
某些仓库同时包含 model.safetensors、model.pt、model.gguf 等多种格式的权重文件,体积差异巨大,用户通常只需要其中一种格式。
某些仓库包含多个不同量化版本(如 Q4_K_M、Q8_0 等),用户只想下载特定的量化版本。
仓库中的 README.md、LICENSE、或者其他精度的模型权重 等文件对模型运行并非必需,但会被一并下载,浪费带宽和存储空间。
以截图中的 Qwen/Qwen2.5-0.5B-Instruct 为例,仓库包含 config.json、model.safetensors(942.3 MB)、tokenizer.json(6.7 MB)、vocab.json(2.6 MB)等文件,总大小 953.3 MB。如果用户只需要 model.safetensors 和相关配置文件,目前仍需要下载全部文件。
建议方案
建议在下载器中增加文件选择功能,具体可以是:
文件列表勾选:点击仓库后,先展示仓库文件列表(类似目前右侧的详情面板),用户勾选需要下载的文件后再执行下载。
通配符/正则过滤:支持通过文件名模式(如 *.safetensors、Q4)过滤需要下载的文件。
默认智能选择:自动识别并勾选模型运行所需的最小文件集(如 config.json + 主权重文件 + tokenizer 相关文件),用户可在此基础上增删。
使用场景
大模型仓库通常包含多种格式/量化版本的权重,单个仓库可能达到数十 GB,选择性下载可以大幅节省下载时间和磁盘空间。
在带宽有限或磁盘空间紧张的服务器环境中,该功能尤为实用。
环境信息
1Panel 版本:v2.2.5
Please describe the solution you suggest
No response
Additional Information
No response