注意力就是一切原始变换器架构位置编码多头注意力构建变换器的其余部分构建英语-西班牙语转换器用于自然语言理解的仅编码器变换器BERT 的架构BERT 预训练BERT 微调其他仅编码器模型仅限解码器的变换器GPT-1 架构和生成式预训练GPT-2 和零点学习GPT-3、上下文学习、单次学习和少次学习使用 GPT-2 生成文本使用 GPT-2 进行问题解答下载并运行更大的模型:Mistral-7B将大型语言模型转化为聊天机器人使用 SFT 和 RLHF 微调聊天和遵循指令的模型直接偏好优化 (DPO)使用 TRL 库微调模型从聊天机器人模型到完整聊天机器人系统模型上下文协议库和工具编码器-解码器模型练习