基本信息

---

下载

文档摘要

---

大语言模型：世界知识的神经网络化表示

?大语言模型代表认知智能的飞跃，语言理解和知识处理是实现认知智能的两个核心任务。

?ChatGPT将自然语言形式的世界知识神经网络化，实现在参数空间对符号知识进行表示和处理。

语言理解预训练

语言理解

预训练

推理涌现

推理涌现

提示学习

提示学习

模态生成

模态生成

指令微调

指令微调

知识抽取

自动编程人机对齐

自动编程

人机对齐

……..思维链

……..

思维链

WorldKnowledge

通用智能与常识知识

?常识知识是指那些人类共有共知的日常知识，这类知识通常是开放的。具有足够覆盖度的常识知识是实现通用AI的重要基础。