General
PromptBeginner5 minmarkdownQuality: 49
低成本部署
默认情况下,模型以 FP16 精度加载,运行上述代码需要大概 13GB 显存。如果你的 GPU 显存有限,可以尝试以量化方式加载模型,使用方法如下:
0
Explore
139,042 skills indexed with the new KISS metadata standard.
默认情况下,模型以 FP16 精度加载,运行上述代码需要大概 13GB 显存。如果你的 GPU 显存有限,可以尝试以量化方式加载模型,使用方法如下:
finetune_demo/output
Mac直接加载量化后的模型出现提示 `clang: error: unsupported option '-fopenmp'
[2023/05/17] 发布 VisualGLM-6B,一个支持图像理解的多模态对话语言模型。
对 ChatGLM 进行加速或者重新实现的开源项目:
Mac直接加载量化后的模型出现提示 `clang: error: unsupported option '-fopenmp'
pycache/
siteurl: https://github.com/binary-husky/gptacademic
*.cpp linguist-detectable=false
pycache/
.github
「方法1: 适用于Linux,很方便,可惜windows不支持」与宿主的网络融合为一体,这个是默认配置
- repo: https://github.com/pre-commit/pre-commit-hooks
Transform: AWS::Serverless-2016-10-31
!Frame 292
PeterCat
lui/
docker/volumes/db/data