OliveSensorAPI/scripts/README_Model_Uploading.md
2024-03-23 23:53:17 +09:00

6.6 KiB
Raw Blame History

模型上传指南

OpenXLab浦源平台

平台介绍

 
 

OpenXLab浦源 内容平台 是面向 AI 研究员和开发者提供 AI 领域的一站式服务平台,包含数据集中心、模型中心和应用中心。内容平台为 AI 研究员和开发者提供了所需的模型训练物料,同时也为他们提供了模型推理应用的托管服务。此外,内容平台致力于打造一个 AI 数据集、模型与应用的交流社区,为 AI 研究者提供一个分享和交流的平台。通过内容平台AI 研究者可以更好地展示自己的模型能力,并激发创造力,助力 AI 生态的可持续发展。

更多介绍请查看OpenXLab浦源平台介绍

模型创建流程

要点强调

  • 浦源-模型中心提供目前支持通过Git命令进行文件上传
  • 使用该方法进行文件上传前请您确认已安装Git
  • 由于上传需要进行权限校验这里我们推荐使用VSCode远程ssh连接InternLM AI Studio, 获取XLab秘钥

具体步骤

  • 步骤1点击“创建模型”按钮
  • 步骤2填写仓库相关信息
  • 步骤3上传模型相关文件

更多详情和操作步骤请查看, 请参考**模型创建流程 **(步骤1和2)上传模型(步骤3), 这里我们将给出所用到的基本步骤和需要注意的操作要点.

上传模型

具体步骤

  • 步骤1安装git lfs
  • 步骤2配置git和lfs
  • 步骤3配置OpenXLab秘钥
  • 步骤4在本地的文件夹内调整文件
  • 步骤5上传本地文件夹中的模型文件到OpenXLab
  • 步骤6上传后查看和添加README.md

这里展示最顺利的截图, 不包含下面的安装git lfs

 
 

1. 安装git lfs

curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh
apt install git-lfs

2. 配置git和lfs

git config --global user.name "your username"

git lfs install # 这个很关键
git clone https://code.openxlab.org.cn//chg0901/EmoLLM-InternLM7B-base.git  # 要上传的模型链接, 由步骤1和2创建

3. 配置OpenXLab秘钥

  • 详情请参考密钥管理, 获取您的 Git Access Token
  • 点击 “添加令牌” 按钮
  • 由于后续需要进行文件上传所以请您在新建token时选择 “可写” 权限

4. 在本地的文件夹内调整文件(文件夹名同仓库同名)

将merge后的模型文件复制到git clone后的文件夹中

cd ./merge
cp ./* /root/EmoLLM-InternLM7B-base/

5. 上传本地文件夹中的模型文件到OpenXLab

git add -A
git commit -m "commit EmoLLM-InternLM7B-base"
git push

push的时候, 需要填写username和password三次,

 
 

6. 上传后查看和添加README.md

上传完模型, 还可以复制之前上传的README.md文件到自己的仓库中.

处理完之后, 就可以看到自己的模型Repo了.

 
 
 
 

可能遇到的问题

可以查看下面的截图, 查看bug和解决方法以及所用的bash命令.

出现这个问题的原因是因为上传不成功或者上传被打断.

 
 
 
 
 
 

bash命令如下:

git add -A
git commit -m "commit EmoLLM-InternLM7B-base"
git push  # 出现error

# solution1
git gc --prune=now
git remote prune origin
git push

# solution2 (可能solution1无效)
git update-ref -d refs/heads/main
git fetch
git merge origin/main

# error 解决, 重新上传
git push
git commit -m "commit EmoLLM-InternLM7B-base"
git push