用 PyTorch 从零逐步实现类 ChatGPT 大语言模型的开源项目,基于 Jupyter Notebook,涵盖分词器、注意力机制、预训练、微调与指令微调等主题,解决从零理解并实现 LLM 的学习需求,适合开发者和学生,已有 105645 stars。
Implement a ChatGPT-like LLM in PyTorch from scratch, step by step
| 热度动量 | 25% | 10.0 | |
| 开发活跃 | 25% | 10.0 | |
| 社区响应 | 15% | 10.0 | |
| 文档质量 | 15% | 9.6 | |
| 发布节奏 | 10% | 0.6 | |
| 风险控制 | 10% | 2.0 |
评分由 公开的焚评公式 程序计算,数据来自 GitHub API,最近重算于 2 小时前。