跳转至

huggingface国内镜像站

由于国家政策限制，huggingface.co该域名已被禁止访问。现介绍使用国内镜像访问huggingface.co资源。

使用国内镜像站

hf-mirror.com，用于镜像 huggingface.co 域名。

  • 使用huggingface 官方提供的huggingface-cli命令行工具。

    (1) 安装依赖
    pip install -U huggingface_hub
    (2) 基本命令示例：
    export HF_ENDPOINT=https://hf-mirror.comCopy
    huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom- 560mCopy
    (3) 下载需要登录的模型（Gated Model）请添加--token hf_参数，其中hf_是 access token，请在huggingface官网这里获取。 示例：
    uggingface-cli download --token hf_*** --resume-download --local-dir-use-symlinks False meta-llama/Llama-2-7b-hf --local-dir Llama-2-7b-hfCopy

  • 使用url直接下载时，将 huggingface.co 直接替换为本站域名hf-mirror.com。使用浏览器或者wget -c、curl -L、aria2c等命令行方式即可。 下载需登录的模型需命令行添加 --header hf_***参数，token 获取具体参见上文。

  • (非侵入式，能解决大部分情况)huggingface 提供的包会获取系统变量，所以可以使用通过设置变量来解决。 HF_ENDPOINT=https://hf-mirror.com python your_script.pyCopy

不过有些数据集有内置的下载脚本，那就需要手动改一下脚本内的地址来实现了