ChatGLM

文章目录

  • 摘要
  • 下载chatglm-6b
  • 下载模型文件
  • 推理
    • 代码调用
    • 网页版的Demo
    • 网页版的Demo2
    • 命令行 Demo
  • 部署
    • API部署
    • 低成本部署
      • 模型量化
      • CPU 部署
      • Mac 部署
      • 多卡部署
  • 训练与微调
    • 软件依赖
    • 下载数据集
    • 训练
      • P-Tuning v2
      • 评估P-Tuning v2训练的模型
      • 部署P-Tuning v2训练的模型
      • 量化