课程主题
作为阅读资源,请查看以下课程主题及相关材料列表。在每个主题下,我们包括了一系列相关阅读材料,包括讲座笔记、博客文章、论文和其他资源。
我们将课程主题广泛地组织在三个领域:
(1) 基础知识 (2) 现有基础模型(FMs)及其应用的调查 (3) 社会考量与影响。
目录
基础知识
什么是基础模型(FMs)?为什么它们有趣?
- 背景知识:神经网络(Andrej Karpathy的课程系列):
- 课程笔记:
- 博客文章:
- 论文:
数据如何影响FMs及其下游效应?
- 课程笔记:
- 博客文章:
- 论文:
FMs的模型架构和训练目标
涌现行为和能力
- 课程笔记:
- 博客文章:
- 论文:
将FMs适应于新任务和数据领域
- 课程笔记:
- 博客文章:
- 论文:
训练方法和基础设施
- 课程笔记:
- 博客文章:
- 论文:
现有基础模型及其应用的调查
文本及(掩码)语言建模FMs
- 课程笔记:
- 博客文章:
- 论文:
图像-文本和多模态FMs
- 课程笔记:
- 博客文章:
- 论文:
- 从自然语言监督中学习可转移的视觉模型
- 零样本文本到图像生成
- 去噪扩散概率模型
- 使用潜在扩散模型的高分辨率图像合成
- 具有深度语言理解能力的真实文本到图像扩散模型
- Imagen Video:使用扩散模型的高清视频生成
- Make-A-Video:无需文本-视频数据的文本到视频生成
- DreamFusion:使用2D扩散的文本到3D
- Point-E:一个用于从复杂提示生成3D点云的系统
- Flamingo:一个用于少量样本学习的视觉语言模型
- CM3:互联网的因果掩码多模态模型
- A Generalist Agent
- Video PreTraining (VPT):通过观看未标记在线视频学习行动
- MineDojo:构建具有互联网规模知识的开放性身体化代理
社会考量与影响
安全与隐私
环境影响
法律考量
- 课程笔记:
- 博客文章:
- 论文 / 文章:
结论
本课程旨在提供关于基础模型(FMs)的基础知识和深入探讨,以及它们在社会、法律、伦理和环境影响方面的考量。我们通过一系列的主题和阅读材料,探讨这些模型的工作原理、它们的局限性以及它们对社会的影响。通过这些学习,我们希望你能够更好地理解这些模型,并能够评估它们在现实世界中的应用。