Hugging Face Transformers v5.22.0 支持 Mistral Large 4 万亿参数多模态模型

Hugging Face Transformers 发布 v5.22.0，新增对 Mistral Large 4（Le Chonk）的支持。该模型总参数约 1T、每 token 激活约 52B，采用 128 个路由专家、每 token 激活 4 个加 1 个共享专家的稀疏 MoE 结构，支持 1M 上下文和文本加图像输入，推理强度分 low、medium、high 三档。