https://shiyilee11.github.io/Tufted-Blog-Template Shiyi Li 的个人网站，整理技术学习、论文阅读、项目实践与个人简介。 zh Mon, 14 Sep 2026 01:34:34 +0000 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/9-13/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/9-13/ Sun, 13 Sep 2026 00:00:00 +0000 Blog 记录 CSV/TSV 标注工具 Tagger 的完整开发过程：从需求与竞品调研、标签系统与四种标注范围的产品设计、Tauri 与纯浏览器版的技术选型，到 CSV 解析、标签持久化、快捷键的实现细节，以及“故意做小”的产品定位反思。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-26/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-26/ Wed, 26 Aug 2026 00:00:00 +0000 Blog 记录一次从零手写 Transformer Encoder 的完整练习：按数据流依次实现文本编码、Embedding、位置编码、Mask、Scaled Dot-Product Attention、Multi-Head Attention、FFN、残差、LayerNorm 与 Adam 优化器，并把踩过的坑按共性归类，总结成 PyTorch 形状操作与语法的速查参考。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-19-marp/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-19-marp/ Wed, 19 Aug 2026 00:00:00 +0000 Blog 介绍 Marp 的核心概念，整理 VS Code、Obsidian 与 CLI 的安装使用方法，并讲解分页、指令、图片、主题和导出等基础语法。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-14/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-14/ Fri, 14 Aug 2026 00:00:00 +0000 Blog 结合智能体设计模式，解读资产、身份、行为防护与 Agentic SOC 等工业安全实践。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-12/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-12/ Wed, 12 Aug 2026 00:00:00 +0000 Blog 从反射、工具使用、评估、规划和多智能体协作梳理 Agentic AI 的完整框架。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-6/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-6/ Thu, 06 Aug 2026 00:00:00 +0000 Blog 整理聚类、异常检测、推荐系统与强化学习的核心概念和常见方法。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-5/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-5/ Wed, 05 Aug 2026 00:00:00 +0000 Blog 梳理模型评估、偏差与方差、学习曲线、错误分析及机器学习项目生命周期。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-4/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/8-4/ Tue, 04 Aug 2026 00:00:00 +0000 Blog 整理神经网络前向传播、激活函数、优化方法、决策树与集成学习的基础概念。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-29/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-29/ Wed, 29 Jul 2026 00:00:00 +0000 Blog 整理 Flow Matching 的基本原理、训练目标及其与扩散模型的联系。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-27/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-27/ Mon, 27 Jul 2026 00:00:00 +0000 Blog 整理机器学习课程中的监督学习、损失函数、梯度下降与模型训练基础。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-20/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-20/ Mon, 20 Jul 2026 00:00:00 +0000 Blog 从阅读目标、分层阅读、问题意识与 Idea 提炼等角度整理科研论文阅读方法。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-12/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-12/ Sun, 12 Jul 2026 00:00:00 +0000 Blog 解读 MRGen 的数据设计、扩散生成架构、Mask 控制器、实验结果与跨模态医学图像生成思路。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-12-1/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-12-1/ Sun, 12 Jul 2026 00:00:00 +0000 Blog 完整推导 DDPM 的前向加噪、反向去噪与 DDIM 采样过程。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-10/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/7-10/ Fri, 10 Jul 2026 00:00:00 +0000 Blog 从卷积基础出发，整理 U-Net 的编码器、解码器、跳跃连接及其图像任务应用。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-18/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-18/ Thu, 18 Jun 2026 00:00:00 +0000 Blog 以路线图方式梳理传统机器学习、神经网络、CNN、Transformer 与生成模型的发展脉络。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-14/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-14/ Sun, 14 Jun 2026 00:00:00 +0000 Blog 从 RoPE 出发，梳理旋转位置编码与长上下文扩展方法的原理和取舍。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-13/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-13/ Sat, 13 Jun 2026 00:00:00 +0000 Blog 从加噪与去噪出发，梳理 DDPM、DDIM、Latent Diffusion、DiT 与扩散语言模型的发展。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-12/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-12/ Fri, 12 Jun 2026 00:00:00 +0000 Blog 梳理相对位置编码的核心思想、常见形式及其相对绝对位置编码的优势。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-10/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-10/ Wed, 10 Jun 2026 00:00:00 +0000 Blog 从序列顺序问题出发，理解绝对位置编码的必要性、实现与局限。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-9/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-9/ Tue, 09 Jun 2026 00:00:00 +0000 Blog 讨论高效词表、跨语言词表适配与 Tokenizer-free 模型的设计取舍。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-8/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-8/ Mon, 08 Jun 2026 00:00:00 +0000 Blog 围绕 Unigram LM，推导 Subword 概率更新与收敛过程，并联系 Tokenization 实践。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-7/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-7/ Sun, 07 Jun 2026 00:00:00 +0000 Blog 梳理 Input Embedding、LM Head 与 Tied Embedding 的结构、训练方式和约束。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-4-tr/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-4-tr/ Thu, 04 Jun 2026 00:00:00 +0000 Blog 介绍 Tokenizer、Vocabulary Size 及词表设计对模型训练和推理的影响。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-3/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-3/ Wed, 03 Jun 2026 00:00:00 +0000 Blog 记录 CS336 Assignment 1 中 Transformer 组件实现、测试与训练实验。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-2/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/6-2/ Tue, 02 Jun 2026 00:00:00 +0000 Blog 从原始 Transformer 出发，梳理词表、位置编码、注意力与现代大模型架构的演进主线。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-29/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-29/ Fri, 29 May 2026 00:00:00 +0000 Blog 结合论文与源码，解析 ukbFound 的深度表型建模、掩码策略、训练流程与下游任务。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-25-tr/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-25-tr/ Mon, 25 May 2026 00:00:00 +0000 Blog 解释 Attention 中 √dₖ 缩放因子的来源，以及它与方差控制和参数初始化的关系。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-22-tr/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-22-tr/ Fri, 22 May 2026 00:00:00 +0000 Blog 从梯度传播角度比较残差连接、Pre-Norm 与 Post-Norm 的结构差异。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-21-tr/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-21-tr/ Thu, 21 May 2026 00:00:00 +0000 Blog 从矩阵计算路径出发，联合推导 Self-Attention 的反向传播与 token 间梯度耦合。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-20-skill/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-20-skill/ Wed, 20 May 2026 00:00:00 +0000 Blog 参考 PaSaMaster，设计带意图拆解、检查清单、证据验证与迭代检索的文献检索 Skill。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-20-tr/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-20-tr/ Wed, 20 May 2026 00:00:00 +0000 Blog 以 SwiGLU 为例拆解 Transformer 前馈网络的结构与完整反向传播路径。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-19/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-19/ Tue, 19 May 2026 00:00:00 +0000 Blog 推导 Softmax 与 RMSNorm 的反向传播，并解释归一化运算中的梯度耦合。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-18/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/5-18/ Mon, 18 May 2026 00:00:00 +0000 Blog 从交叉熵与输出层出发，推导 Linear 层的权重梯度和误差传播公式。 https://shiyilee11.github.io/Tufted-Blog-Template/Blog/2026-05-13-strassen-matrix-blocking/ https://shiyilee11.github.io/Tufted-Blog-Template/Blog/2026-05-13-strassen-matrix-blocking/ Wed, 13 May 2026 00:00:00 +0000 Blog 从传统矩阵乘法出发，理解分块矩阵、Strassen 七次乘法公式、复杂度下降的原因，以及快速矩阵乘法的后续发展。