Hugging Face Transformers v5.22.0 支持 Mistral Large 4 万亿参数多模态模型

Hugging Face Transformers 发布 v5.22.0,新增对 Mistral Large 4(Le Chonk)的支持。该模型总参数约 1T、每 token 激活约 52B,采用 128 个路由专家、每 token 激活 4 个加 1 个共享专家的稀疏 MoE 结构,支持 1M 上下文和文本加图像输入,推理强度分 low、medium、high 三档。

来源:Transformers 正式版本发布 · 阅读原文 · 前沿热点

MIT 与东北大学团队受自然网络启发设计出更强韧的“尺度丰富”超材料

MIT 与东北大学团队在 Nature 发表开放获取研究,提出“尺度丰富超材料”:不再复制单一单元胞,而用算法生成尺寸各异的微梁网络,灵感来自叶片脉络、蜻蜓翅脉和社交网络。3D 打印的信用卡大小样品在压缩和落锤冲击测试中比常规点阵与蜂窝超材料更耐损伤,并能缓冲保护嵌入其中的易碎物体。团队称仅调节起始梁厚与逐级变细速度两个参数,就能大范围调控刚度,该设计框架可用于头盔、装甲和声学透镜。

Red lines appear and form the MIT logo.

来源:MIT 研究新闻 · 阅读原文 · 前沿热点