7月8日，英伟达宣布推出一款名为Audex的统一音频-文本大语言模型，该模型总参数量达到30B，激活参数3B。Audex在保持文本智能的同时，能够理解和生成音频及语音。其核心是基于文本模型Nemotron-Cascade-2-30B-A3B，采用52层混合Mamba-Transformer结构，并包含128个可路由专家，每次激活6个专家。该模型的设计旨在避免在多模态扩展后导致文本能力下降的问题。

Audex通过将音频输入编码后映射到文本嵌入空间，并统一处理量化后的音频输出标记与文本标记。在音频处理方面，Audex使用AF-Whisper音频编码器处理16kHz输入，并配合两层MLP适配器映射特征，将词表从原始的131072个Token扩展至205312个Tokens。语音输出则采用X-Codec2语音编解码器，速率为每秒50个标记，使用单层有限标量量化，码本大小为65536。非语音音频则使用X-Codec音频编解码器，速率为每秒200个标记，使用4层展平残差向量量化。

在文本评测方面，Audex在MMLU-Redux上的得分为86.4，略高于其骨干模型的86.3；在IMOAnswerBench上的得分为81.1，高于骨干模型的79.3。然而，在MMLU-Pro与GPQA-Diamond上，Audex的表现出现了小幅下降。