2025年7月7日
ollama如何运行(3): llama.cpp是通用神经网络推理还是transformer解码器专用结构？
摘要： 我们来从源码设计和模型抽象两个层面详细拆解： 🎯 llama.cpp 是针对 Transformer 的专用推理引擎，而非通用神经网络框架 ✅ 它不是 PyTorch 或 TensorFlow： 不支持任意 DAG（计算图）结构； 不支持自定义层（如 RNN、CNN、Capsule Net）； 不 阅读全文
posted @ 2025-07-07 22:31 ffl 阅读(246) 评论(0) 推荐(0)
ollama如何运行(2):模型中立的运行时（内核是llama.cpp)
摘要： Ollama 能让你“一键启动”不同的大语言模型（LLaMA、Mistral、Command-R、Gemma…），听起来像魔法，其实背后靠的是一套标准化的模型封装与调度机制。 🧠 为什么这可行？核心机制解析 Ollama 能统一管理不同 LLM，关键靠以下三点： 1. 通用权重格式（.gguf） 阅读全文
posted @ 2025-07-07 22:24 ffl 阅读(253) 评论(0) 推荐(0)
ollama如何运行(1): gguf+.modelfile+tokenizer.json+vocab.txt
摘要： 除了 .gguf 和 .modelfile，一个完整的 Ollama 模型构建环境可能还会涉及以下几种文件类型或资源结构： 📁 常见文件 / 资源类型一览 1. 模型权重类 .gguf：主权重文件（包含量化后的模型张量与结构信息） .bin（旧格式，如 ggml）：老版本的权重文件，不推荐新项目使 阅读全文
posted @ 2025-07-07 22:19 ffl 阅读(291) 评论(0) 推荐(0)
物理深度学习（2）通过`生成建模`解决监督学习平均化问题
摘要： 上一篇：https://chuna2.787528.xyz/math/p/18971656/physics-deep-learning-01 原文：http://physicsbaseddeeplearning.org/intro-teaser.html 以下是《A Teaser Example — P 阅读全文
posted @ 2025-07-07 21:48 ffl 阅读(65) 评论(0) 推荐(0)
物理深度学习（1）监督学习平均化问题
摘要： 一步步推导为什么监督学习在多值输出问题中会出现“平均化”现象，以平方根反解问题为例： 🧪 问题设定（平方根反解） 我们要学一个函数 \(f : [0,1] \rightarrow \mathbb{R}\)，满足： \[P(f(x)) = f(x)^2 = x \]这意味着每个 \(x \in [0 阅读全文
posted @ 2025-07-07 21:39 ffl 阅读(42) 评论(0) 推荐(0)