基本信息

---

下载

文档摘要

---

大语言模型的涌现能力是一个有趣的现象，也是研究的一大挑战。复杂性科学领域的学者早在大语言模型诞生之前就一直致力于破解涌现谜题，衍生出了自组织、分形等重要概念，所以研究大语言模型的涌现也是复杂性科学与当下最前沿技术的一次对话。我们要如何量化和解释大语言模型的涌现现象？作为一个复杂系统，它的内部结构究竟发生了什么样的演化？来自田纳西大学的助理教授肖熊烨老师的团队在这方面有一个最新的进展，通过多重分形分析的方法来回答我们关于大语言模型涌现的困惑。

引言

如今，大语言模型（LLM）的技术仍在飞速发展，人们还在训练更大规模的LLM。除了神经标度律给予我们信心，让我们相信更大规模的LLM会