Gemma 4 12B 如何兼顾前沿智能与效率

Google DeepMind 发布了 Gemma 4 12B 模型，该模型移除了音频和视觉编码器但仍保留多模态能力。Gemma 4 12B 采用与 31B 模型相似的解码器结构，通过局部与全局注意力机制的交错实现高效推理。此模型在不依赖编码器的情况下处理多模态输入，降低了推理延迟并简化了微调流程。