蚂蚁开源混合线性架构的万亿参数思考模型Ring-2.5-1T
蚂蚁发布并开源首个混合线性架构的万亿参数思考模型Ring-2.5-1T。据介绍,相比此前发布的Ring-1T,Ring-2.5-1T在生成效率、思考深度、长程执行上均有大幅提升,在超过32K生成长度下,访存规模降低10倍以上,生成吞吐提升3倍以上。
🗒 标签: #蚂蚁 #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
蚂蚁发布并开源首个混合线性架构的万亿参数思考模型Ring-2.5-1T。据介绍,相比此前发布的Ring-1T,Ring-2.5-1T在生成效率、思考深度、长程执行上均有大幅提升,在超过32K生成长度下,访存规模降低10倍以上,生成吞吐提升3倍以上。