Commit Graph

191 Commits

Author SHA1 Message Date
xile42
906c9cc332 fix: typo 2025-07-15 17:41:44 +08:00
KMnO4-zx
cbe7245d6d feat: 添加 Extra-Chapter 贡献者信息及 Transformer 模块设计解读链接 2025-07-14 10:42:31 +08:00
不要葱姜蒜
73f9d2a8b5 Merge pull request #82 from ditingdapeng/feat/transformer-architecture
feat: add extra-chapter transformer-architecture
2025-07-14 10:35:24 +08:00
dapeng
887ffc1c11 feat: add extra-chapter transformer-architecture
feat: update picture to center
2025-07-14 10:30:38 +08:00
不要葱姜蒜
87cd11bb0f Merge pull request #80 from 0-yy-0/fix
修正部分内容
2025-07-14 10:00:41 +08:00
gaoliye
2f73221275 修正部分内容 2025-07-13 21:39:50 +08:00
KMnO4-zx
3e2df600ab fix: 修正文档中错误的<BoS>标签为<BOS> 2025-07-13 20:50:03 +08:00
KMnO4-zx
932d5c15e6 docs(chapter7): 调整RAG文档结构,将文档加载和切分步骤移到向量化之前 2025-07-12 11:47:16 +08:00
KMnO4-zx
441cfb6f07 docs: 更新README中Extra Chapter的路径和标题
将第八章大模型Blog的路径和标题更新为Extra Chapter LLM Blog,保持命名一致性
2025-07-12 00:46:10 +08:00
KMnO4-zx
418ac68375 docs(README): 更新README中的Extra Chapter说明和PR规范
更新README.md中的Extra Chapter部分,添加了日期标记并格式化说明文本。同时新增Extra-Chapter/Readme.md文件,详细说明Extra Chapter的目的、内容类型和PR贡献规范。

新增Extra-Chapter/Readme.md文件,包含:
- Extra Chapter的设立目的和内容类型
- PR贡献规范(目录结构、文件命名、内容质量要求)
- PR commit message模板
2025-07-11 22:31:49 +08:00
KMnO4-zx
47046ee0ea update notebook 2025-07-11 22:12:59 +08:00
KMnO4-zx
e7c8f8c5c7 refactor: 清理Jupyter notebook中的输出结果以减小文件大小 2025-07-11 22:11:27 +08:00
KMnO4-zx
3faa3bba3c docs(notebook): 更新Jupyter notebook内核和语言信息
更新notebook的kernelspec显示名称为'nlp'并添加语言信息,同时补充Python版本号
2025-07-11 22:06:10 +08:00
KMnO4-zx
79ce117769 docs: 添加第八章大模型Blog及微调小模型案例
在README.md中添加第八章大模型Blog章节,并新增Extra-Chapter目录包含微调小模型的实践案例,展示小模型在特定任务中的价值
2025-07-11 22:04:23 +08:00
KMnO4-zx
6a57e65fc3 update readme 2025-07-10 14:52:46 +08:00
KMnO4-zx
ed8879e80c docs(chapter2): 修复Transformer文档中的格式和空格问题 2025-07-10 10:23:13 +08:00
KMnO4-zx
4a8feba16b docs: 更新README中的star-history图片并添加trendshift徽章
- 替换README文件中的star-history图片
- 删除旧的star-history图片文件
- 在docs/README中添加trendshift徽章
2025-07-06 09:41:25 +08:00
KMnO4-zx
fdba985389 docs: 调整章节标题层级结构 2025-07-06 09:38:24 +08:00
KMnO4-zx
c017cc4eaf docs: 在README.md中添加Trendshift徽章 2025-07-06 09:36:45 +08:00
KMnO4-zx
c0373e2f22 docs: 在README.md中添加Trendshift徽章链接 2025-07-06 09:36:01 +08:00
KMnO4-zx
505b22b834 docs(chapter5): 修正LLaMA2模型文档中的表述错误 2025-07-04 09:13:55 +08:00
KMnO4-zx
d5e84523ef docs(chapter5): 修正章节5.3.2标题中的拼写错误 2025-07-04 09:10:21 +08:00
KMnO4-zx
f50df92095 refactor(RAG): 改进文本分块逻辑以正确处理长行和空格
重构文本分块算法,保留空格并优化长行处理
使用token级别分割避免跨单词分割问题
添加覆盖内容逻辑以保持上下文连贯性
2025-07-04 09:07:52 +08:00
KMnO4-zx
5c474e4730 docs(chapter5): 修正章节编号错误并保持一致性 2025-07-04 09:01:45 +08:00
不要葱姜蒜
4112cf0f01 Merge pull request #66 from Zeyi-Lin/main
update: chapter 6 use swanlab
2025-07-03 19:43:24 +08:00
ZeYi Lin
daac10cb67 add requirements 2025-07-03 19:42:02 +08:00
ZeYi Lin
c342402a9b fix name 2025-07-03 18:23:12 +08:00
ZeYi Lin
08a0fa8c3e update code 2025-07-03 18:21:26 +08:00
ZeYi Lin
db3a162cd8 chapter 6 use swanlab 2025-07-03 18:18:44 +08:00
KMnO4-zx
0d2471d3ee docs(chapter7): update content 2025-06-28 10:43:44 +08:00
不要葱姜蒜
a5e7622e1f Merge pull request #55 from gift-is-coding/patch-1
Update 前言.md
2025-06-27 12:28:24 +08:00
Tiff Wu
ebc0f077d3 Update 前言.md
Typo of Language
2025-06-27 11:24:30 +07:00
KMnO4-zx
643226e252 docs(chapter5): 更新tokenizer训练数据加载说明
使用出门问问序列猴子开源数据集替代wikitext数据集,并添加JSONL文件读取方法
2025-06-26 11:02:10 +08:00
KMnO4-zx
d8150c8e7b docs: 更新项目star历史图表并移除多余的语言切换链接
- 用新的star历史图表(2025624)替换旧的(2025612)
- 从docs/README.md中移除中英文切换链接
2025-06-24 16:21:03 +08:00
Logan Zou
edb73c7aeb Update 第二章 Transformer架构.md 2025-06-24 10:54:02 +08:00
Logan Zou
71f8d48290 Update 第二章 Transformer架构.md 2025-06-23 11:09:04 +08:00
Logan Zou
98a122e323 Update 第二章 Transformer架构.md
add pre-norm
2025-06-23 11:02:23 +08:00
Logan Zou
5f2ccc44bf Update 第二章 Transformer架构.md
fix arg bug
2025-06-23 10:53:45 +08:00
Logan Zou
3950b06a5f Update transformer.py
fix arg bug
2025-06-23 10:53:25 +08:00
Logan Zou
185a212acd Update 第二章 Transformer架构.md 2025-06-23 10:50:16 +08:00
Logan Zou
bd3fb6cf48 Update transformer.py
fix dim bug
2025-06-23 10:48:56 +08:00
KMnO4-zx
3b24a9fd1e docs: 更新README和文档内容,添加模型下载链接
- 在README中新增模型下载章节,包含ModelScope链接
- 更新模型示例代码中的默认检查点路径
- 优化训练脚本的注释和参数说明
- 添加中文文档的模型下载和体验地址
- 修复文档中的训练时长和设备信息
2025-06-22 10:05:36 +08:00
KMnO4-zx
b421894dcc docs(chapter3): 修正T5模型中RMSNorm公式的描述和参数说明 2025-06-21 13:36:42 +08:00
KMnO4-zx
fc19776feb docs(chapter4): 修正章节编号错误 2025-06-21 13:35:09 +08:00
KMnO4-zx
30f3f01619 refactor(dataset): 使用tokenizer动态生成a_sequence并替换硬编码值
fix(ddp_sft_full): 修正参数默认值和优化器类型
docs(ddp_pretrain): 添加详细注释和优化参数描述
2025-06-21 11:39:40 +08:00
KMnO4-zx
21bc50882a docs: 更新README文件中的徽章样式和链接
- 将徽章样式从for-the-badge改为flat
- 添加GitHub Project和SwanLab项目链接
- 更新第六章状态为进行中
2025-06-21 11:37:30 +08:00
KMnO4-zx
4fcb1924dd docs: 更新第六章状态为进行中 2025-06-20 23:02:40 +08:00
KMnO4-zx
fe07d0ede1 feat(RAG): 更新RAG模块代码和文档
refactor: 简化Embeddings和LLM类实现,移除不必要依赖
docs: 更新文档内容,添加硅基流动API使用说明
chore: 更新requirements.txt依赖版本
2025-06-20 22:53:23 +08:00
KMnO4-zx
0eea57b11f docs: 修复章节2中Embedding层的拼写错误 2025-06-20 15:04:23 +08:00
KMnO4-zx
dcdf98df22 docs(chapter7): 修正图7.10的标题描述 2025-06-20 12:17:39 +08:00