2025-04-22 16:56:39
LLaVA基于transformers部署 | ZhiJiao
LLaVA基于transformers部署
2024-12-12 15:51:58
配置需求

主要记录这些踩过的坑:

1
2
3
4
5
pip install transformers accelerate bitsandbytes pillow sentencepiece protobuf # 基准packages 

pip install protobuf==3.20
pip install accelerate==0.26.0 # 模型量化指定版本
pip install transformers --upgrade # transformers更新到最新版本,一定要大于4.39.0、
Prev
2024-12-12 15:51:58
Next
2025-04-22 16:56:39