跳转到内容

基础模型的进展

作为阅读资源,请查看以下阅读主题及相关材料列表。在每个主题下,我们包括了一系列相关阅读材料,包括讲座笔记、博客文章、论文和其他资源。

我们将阅读主题广泛地组织在三个领域:

(1) 基础知识 (2) 现有基础模型(Foundation Models)及其应用的调查 (3) 社会考量与影响



基础模型为什么有趣

段落标题 基础模型为什么有趣

数据如何影响基础模型以及其下游效应是什么?

段落标题 数据如何影响基础模型以及其下游效应是什么?

基础模型的模型架构和训练目标

段落标题 基础模型的模型架构和训练目标

将基础模型适应新任务和数据领域

段落标题 将基础模型适应新任务和数据领域

训练方法和基础设施

段落标题 训练方法和基础设施

现有基础模型及其应用的调查

段落标题 现有基础模型及其应用的调查

文本和(掩蔽)语言建模基础模型

段落标题 文本和(掩蔽)语言建模基础模型

图像-文本和多模态基础模型

段落标题 图像-文本和多模态基础模型