Alternatives and similar repositories for kuiperinfer

Users that are interested in kuiperinfer are comparing it to the libraries listed below

• SongQiPing / KuiperInfer_rs
  使用 Rust 语言重新实现 https://github.com/zjhellofss/KuiperInfer 和 https://github.com/zjhellofss/kuiperdatawhale 中的深度学习推理框架。
  ☆14Updated last year
• zjhellofss / KuiperCourse
  b站上的课程
  ☆75Updated last year
• ChambinLee / CUDA_with_PyTorch
  这个项目介绍了简单的CUDA入门，涉及到CUDA执行模型、线程层次、CUDA内存模型、核函数的编写方式以及PyTorch使用CUDA扩展的两种方式。通过该项目可以基本入门基于PyTorch的CUDA扩展的开发方式。
  ☆87Updated 3 years ago
• InfiniTensor / RefactorGraph
  分层解耦的深度学习推理引擎
  ☆73Updated 3 months ago
• mrzhuzhe / riven
  CPU Memory Compiler and Parallel programing
  ☆26Updated 6 months ago
• ischintsan / cuda_by_example
  GPU高性能编程CUDA实战随书代码
  ☆38Updated 3 years ago
• MAhaitao999 / CUDA_Programming
  《CUDA编程基础与实践》一书的代码
  ☆122Updated 3 years ago
• piDack / The-ans-for-Programming-Massively-Parallel-Processor
  大规模并行处理器编程实战 第二版答案
  ☆32Updated 3 years ago
• BurnellLiu / TinyML
  一个很精简的C++ 机器学习库
  ☆57Updated 4 years ago
• zjhellofss / KuiperLLama
  校招、秋招、春招、实习好项目，带你从零动手实现支持LLama2/3和Qwen2.5的大模型推理框架。
  ☆361Updated 2 months ago
• harleyszhang / lite_llama
  A light llama-like llm inference framework based on the triton kernel.
  ☆125Updated last week
• piood / MySysY2RV
  北大编译课程实践，独立完成的C语言子集SysY编译器，实现了从C语言编译到Koopa IR，再从Koopa IR编译到RISC-V汇编的实现
  ☆30Updated 10 months ago
• dianhsu / transformer-cpp-cpu
  用C++实现一个简单的Transformer模型。 Attention Is All You Need。
  ☆48Updated 4 years ago
• CalvinXKY / BasicCUDA
  A tutorial for CUDA&PyTorch
  ☆142Updated 4 months ago
• openmlsys / openmlsys-cuda
  Tutorials for writing high-performance GPU operators in AI frameworks.
  ☆130Updated last year
• frankwang0818 / AI_compiler_development_guide
  Free resource for the book AI Compiler Development Guide
  ☆44Updated 2 years ago
• zjhellofss / kuiperdatawhale
  ☆276Updated 7 months ago
• lygyue / SimpleDeepLearningFramework
  C++ implement a simple CNN framework to train mnist data. Done!
  ☆10Updated 3 years ago
• HuangCongQing / cuda-learning
  cuda编程学习入门
  ☆35Updated 10 months ago
• bluealert / MetaNN-book
  《C++模板元编程实战：一个深度学习框架的初步实现》
  ☆182Updated 5 years ago
• caiwanxianhust / FasterLLaMA
  使用 CUDA C++ 实现的 llama 模型推理框架
  ☆57Updated 7 months ago
• Lammmmmmm / TinySTL
  带有详细注释，配有相应博客讲解，适合用于学习STL、数据结构算法的简易STL库。
  ☆32Updated 5 years ago
• XiaoSong9905 / HPC-Notes
  Personal Notes for Learning HPC & Parallel Computation [Active Adding New Content]
  ☆67Updated 2 years ago
• Eddie-Wang1120 / Professional-CUDA-C-Programming-Code-and-Notes
  CUDA C 编程权威指南代码实现 包含了书上第二章到第八章的大部分代码实现和作者笔记，全由作者本人手动实现，难免有错误的地方，请大家谨慎参考，非常欢迎对错误的指正。 如果有帮助的话请Star一下，对作者帮助很大，谢谢！
  ☆340Updated 2 years ago
• muyuuuu / CUFX
  晚上下班不刷手机，学点什么。系列一：CUDA 计算框架 CUFX (Cuda Framework eXtended)。
  ☆15Updated 5 months ago
• HuPengsheet / EasyNN
  EasyNN是一个面向教学而开发的神经网络推理框架，旨在让大家0基础也能自主完成推理框架编写！
  ☆29Updated 9 months ago
• Shangyizhou / C-plus-plus-Object-Model
  《C++新经典：对象模型》笔记
  ☆12Updated 3 years ago
• lovemefan / ggml-learning-notes
  ggml学习笔记，ggml是一个机器学习的推理框架
  ☆15Updated last year
• zpye / SimpleInfer
  A simple neural network inference framework
  ☆25Updated last year
• LB-Yu / tinyflow
  A simple deep learning framework that supports automatic differentiation and GPU acceleration.
  ☆58Updated 2 years ago