arXiv ID:
2607.01394
arXiv 提交日期: 2026-07-01
高效小型语言模型的Wiola架构 / The Wiola Architecture for Efficient Small Language Models
1️⃣ 一句话总结
本文提出了一种名为Wiola的全新小型语言模型架构,通过引入五种原创设计(如三维螺旋位置编码和动态令牌合并),在保持与现有生态系统兼容的同时,实现了比GPT-2等模型更高的效率和性能。