yldeveloper

摘要： 本文记录了一个从零搭建轻量多模态大模型的完整实践过程。项目从手写 BPE Tokenizer、Transformer 基础模块、预训练循环开始，训练了一个 GPT-2 Medium 规模的文本基座模型；随后通过多轮 SFT、HiRA 微调、数据分布调整和任务诊断，使模型具备基础对话与短指令能力。在多模态阶段，项目接入 CLIP ViT-B/16 作为视觉编码器，冻结视觉编码器与语言模型，仅训练视觉 projector，并先后尝试 color-shape 合成数据、Flickr30k、VQAv2 和 COCO Captions。实验表明，复杂 VQA 对当前小模型和弱基座收益有限，而以图像描述、颜色和形状识别为目标的数据分布更适合该架构。最终模型 Shengoovlei-Vision-458M 能够稳定完成简单图像描述与基础视觉属性识别，并在小参数多模态模型对比评估中取得可接受结果。整个过程展示了从矩阵乘法、Transformer 原理、预训练、监督微调到视觉接入和模型发布的完整训练路线，也总结了数据分布、任务难度和模型能力边界对训练成败的关键影响。 阅读全文

摘要： Triton 算子开发的开端。 阅读全文

摘要： 要解决模型泛化能力与训练稳定性两大难题，关键在于理解偏差-方差权衡、梯度传播和参数初始化三者间的深层联系。 阅读全文

摘要： 课余时间，手动翻译了 AlexNet 的原文，感觉这篇文章比较适合小白学习，顺便完成了导论作业 但是没有专门去插入引用部分（ 经过llm检查，改正了少许翻译错误 阅读全文

摘要： 本文浅谈了填充、步幅、下采样，并对其进行拓展。 阅读全文

摘要： 本文浅谈了卷积 阅读全文

摘要： 本文浅谈了层与块、简单参数管理、延迟初始化 阅读全文

摘要： 本文浅谈了协变量偏移、标签偏移及其简单解决原理，并以具体例子说明 阅读全文

摘要： 本文浅谈了几个梯度问题、Xavier初始化、He Kaiming初始化 阅读全文