摘要: OpenVINO™ C# API 3.3 全新发布!正式接入 OpenVINO GenAI,C# 本地大模型开发全面启航! OpenVINO™ C# API 3.3 全新发布!这次升级的重点,是把 OpenVINO GenAI 正式带进 C#/.NET 生态。开发者可以在 C# 项目中直接调用本地 LLM 文本生成、Whisper 语音识别、VLM 图文问答等能力,不再必须绕 Python 服务或外部脚本。 3.3 继续保持传统 OpenVINO 推理能力稳定,老项目可以平滑升级;需要 GenAI 时,再按平台引入 JYPPX.OpenVINO.GenAI.runtime.*。同时新增 samples/GenAI 示例体系和系列教程,覆盖文本生成、语音识别、多模态问答、runtime 包选择与迁移实践。C# 本地 AI 开发,正在变得更完整、更工程化。 阅读全文
posted @ 2026-06-11 09:41 椒颜皮皮虾 阅读(337) 评论(0) 推荐(2)
摘要: DeploySharp:面向C#开发者的跨平台模型部署框架 DeploySharp是一款专为C#开发者设计的深度学习模型部署框架,支持OpenVINO和ONNX Runtime推理引擎,兼容YOLOv5-v12全系列模型以及Anomalib等主流模型。该框架采用模块化设计,通过核心命名空间DeploySharp集成模型加载、推理执行等功能,支持图像分类/检测/分割等任务。 阅读全文
posted @ 2025-10-02 22:53 椒颜皮皮虾 阅读(1688) 评论(4) 推荐(18)
摘要: 在 Intel Ultra AI PC 设备上使用 OpenVINO™ C# API本地部署YOLOv11与YOLOv12 最新的英特尔® 酷睿™ Ultra 处理器(第二代)让我们能够在台式机、移动设备和边缘中实现大多数 AI 体验,将 AI 加速提升到新水平,在 AI 时代为边缘计算提供动力。英特尔® 酷睿™ Ultra 处理器提供了一套全面的专为 AI 定制的集成计算引擎,包括 CPU、GPU 和 NPU,提供高达 99 总平台 TOPS。近期,YOLO系列模型发布了YOLOv12, 对 YOLO 框架进行了全面增强,特别注重集成注意力机制,同时又不牺牲 YOLO 模型所期望的实时处理能力,是 YOLO 系列的一次进化,突破了人工视觉的极限。本文中,我们将使用英特尔® 酷睿™ Ultra 处理器AI PC设备,结合OpenVINO™ C# API 使用最新发布的OpenVINO™ 2025.0 部署YOLOv11 和 YOLOv12 目标检测模型,并在AIPC设备上,进行速度测试。 阅读全文
posted @ 2025-03-02 16:57 椒颜皮皮虾 阅读(1625) 评论(3) 推荐(3)
摘要: OpenVINO™ C# API 3.2 全新发布,基于 AI 大模型的全栈重构,全面进化! 重磅发布!OpenVINO™ C# API 3.2 来了! 这是一次由 AI 大模型驱动的全面进化——基于老版本代码库,通过 Kimi、GPT-4 等 AI 工具深度重构,带来更清晰的架构、更强劲的性能、更完善的测试体系。 ✨ 核心亮点: 🚀 AI 大模型优化重构,代码质量全面提升 🎯 支持 .NET 4.6 到 10.0,全框架无缝兼容 ⚡ Span 阅读全文
posted @ 2026-02-24 14:54 椒颜皮皮虾 阅读(586) 评论(0) 推荐(3)
摘要: 使用 JYPPX.DeploySharp 高效部署 PaddleOCR,解锁多种高性能 OCR 文字识别方案 本文介绍了基于DeploySharp框架在.NET环境下部署PaddleOCR模型的解决方案。该框架通过统一接口封装了OpenVINO、TensorRT、ONNX Runtime等多种推理引擎,支持百毫秒级文字识别。文章详细解析了PaddleOCR三阶段工作流程(检测-分类-识别)及性能优化策略,阐述了DeploySharp"统一接口、灵活部署"的架构优势。演示程序支持多种推理后端,涵盖CPU/GPU不同硬件场景,提供模型加载、图片推理、性能测试等功能。通过该方案,开发者可根据实际硬件环 阅读全文
posted @ 2026-01-28 22:40 椒颜皮皮虾 阅读(1150) 评论(8) 推荐(13)
摘要: DeploySharp 全面支持 YOLO26 系列,助力开发者快速部署落地应用 DeploySharp是一个专为C#开发者设计的跨平台模型部署框架,全面支持YOLOv26系列模型,包括目标检测、实例分割、姿态估计和旋转框检测。该框架提供多引擎支持(OpenVINO/ONNX Runtime/TensorRT)、两种图像处理库选择(ImageSharp/OpenCvSharp)以及跨平台运行时兼容性。通过模块化架构和NuGet包生态,开发者可以快速部署YOLOv26模型,实现从模型加载到推理执行的端到端解决方案。项目开源且支持多种硬件设备,为计算机视觉应用落地提供高效工具。 阅读全文
posted @ 2026-01-19 22:47 椒颜皮皮虾 阅读(1263) 评论(1) 推荐(6)
摘要: TensorRtSharp:在 C# 世界中释放 GPU 推理的极致性能 TensorRtSharp 3.0 是一个为 C# 开发者打造的 TensorRT 封装库,通过 NuGet 一键安装,提供完整的 GPU 推理加速功能。该库基于 TensorRT 10.x 开发,支持 CUDA 11/12,具备类型安全、自动资源管理等特性,显著提升 .NET 环境下的深度学习推理性能(速度提升 2-10 倍,显存降低 50%+)。安装简单,只需添加两个 NuGet 包,并通过环境变量配置原生库路径即可使用。推荐配置为 CUDA 11.6 + TensorRT 10.13.0.35,支持 阅读全文
posted @ 2026-01-11 18:47 椒颜皮皮虾 阅读(1592) 评论(3) 推荐(16)
摘要: 本文介绍了基于DeploySharp开发的深度学习模型部署测试平台的使用方法。该平台支持YOLO系列模型(v5-v13)及多种应用场景,提供OpenVINO和ONNX Runtime两种推理引擎,支持CPU/GPU/NPU等多种设备。文章详细说明了程序下载方式、模型选择、推理引擎配置以及设备匹配关系,并展示了不同推理方式(OpenVINO原生、ONNX Runtime及其加速方案)的运行示例。最后提供了常见问题的解决方法和技术支持渠道。 阅读全文
posted @ 2025-10-07 17:51 椒颜皮皮虾 阅读(672) 评论(0) 推荐(3)
摘要: 英特尔发行版 OpenVINO™ 工具套件基于 oneAPI 而开发,可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件,适用于从边缘到云的各种英特尔平台上,帮助用户更快地将更准确的真实世界结果部署到生产系统中。YOLOv10是清华大学研究人员近期提出的一种实时目标检测方法,通过消除NMS、优化模型架构和引入创新模块等策略,在保持高精度的同时显著降低了计算开销,为实时目标检测领域带来了新的突破。 在本文中,我们将演示如何使用Intel OpenVINO™ C++ API 部署YOLOv10目标检测模型,并使用 OpenVINO™ 异步推理接口实现模型推理加速。下面看一下YOLOv10模型在OpenVINO™上的运行效果吧: 阅读全文
posted @ 2024-07-05 10:00 椒颜皮皮虾 阅读(1965) 评论(0) 推荐(0)
摘要: 使用 TensorRT C++ API 调用GPU加速部署 YOLOv10 实现 500FPS 推理速度——快到飞起!! NVIDIA ® TensorRT ™ 是一款用于高性能深度学习推理的 SDK,包含深度学习推理优化器和运行时,可为推理应用程序提供低延迟和高吞吐量。YOLOv10是清华大学研究人员近期提出的一种实时目标检测方法,通过消除NMS、优化模型架构和引入创新模块等策略,在保持高精度的同时显著降低了计算开销,为实时目标检测领域带来了新的突破。 在本文中,我们将演示如何使用NVIDIA TensorRT C++ API 部署YOLOv10目标检测模型,实现模型推理加速。 阅读全文
posted @ 2024-06-20 16:06 椒颜皮皮虾 阅读(3210) 评论(0) 推荐(2)