当前模型文件太大,加载消耗的内存/显存好高啊……
量化的版本在路上了~您也可以看看这里:https://huggingface.co/01-ai/Yi-34B/discussions/1#6546d48e8db75bfe5d6004bd感谢关注~
· Sign up or log in to comment