作业概述
- 目的:熟悉使用 Google Colab 笔记本和大型语言模型(LLMs)如 BLOOM 和 BLOOMZ(BigScience)。
- 核心活动:
- 任务选择:选择一个任务和评估数据集。
- 提示开发:探索如何为 LLMs 开发有效的提示。
- 模型比较:比较不同 LLMs 的性能。
作业细节
- 语言模型提示:将输入文本提供给模型,模型生成响应。
- 示例:输入 “The sky is”,模型可能响应 “blue”。
- 任务类型:
- 总结:例如,”总结以下段落:<在这里写出段落> 摘要:"在这里写出段落>
- 提取:例如,”从用户简介中提取电话号码:<在这里写出简介>。"在这里写出简介>
作业要求
- 任务选择:确定你将在作业中使用的特定任务和数据集。
- 提示开发:开发有效的提示,这可能需要时间、努力和创造力。
- 优势:正确的提示可以解决复杂任务。
- 挑战:提示可能脆弱,需要精心设计。
- 模型比较:
- 模型大小:比较不同大小的模型性能。
- 训练技术:比较不同训练技术,如自回归与指令调整。
提交说明
- 截止日期:2023 年 1 月 24 日晚上 11:59。
- 提交方式:下载并提交 Colab 笔记本(.ipynb 文件)到 Canvas。
- Colab 笔记本链接: 斯坦福原版:https://colab.research.google.com/drive/13gyUcsX7KtkwSJ1PfW8MrlXQePVD_jFP
🌿扩展:https://colab.research.google.com/drive/1A0Kt5S6PtLQ2NIJwirccSoezgsjn6XGu