Alternatives and similar repositories for rkllm_talking

Users that are interested in rkllm_talking are comparing it to the libraries listed below

• modelbox-ai / modelbox
  A high performance, high expansion, easy to use framework for AI application. 为AI应用的开发者提供一套统一的高性能、易用的编程框架，快速基于AI全栈服务、开发跨端边云的AI行业应用，支持GPU，…
  ☆156Updated last year
• wudingjian / rkllm_chat
  将LLM 模型部署到 Rockchip Rk3588芯片中，在开发板上使用NPU进行推理
  ☆50Updated 9 months ago
• zilliz-bootcamp / video_analysis
  Recognize faces and objects in the video based on Milvus.
  ☆22Updated 3 years ago
• 455670288 / rknn_face_landmarks_deploy
  基于rknn的官方Android项目rknn_yolov5_android_apk_demo进行修改，部署人脸检测模型retinaface和106人脸关键点检测模型，支持实时人脸检测。支持rk356x和rk3588设备npu推理。
  ☆21Updated last year
• sophgo / ChatGLM3-TPU
  run chatglm3-6b in BM1684X
  ☆39Updated last year
• mohamedsamirx / YOLOv12-ONNX-CPP
  YOLOv12 Inference Using CPP and ONNX Runtime
  ☆43Updated 4 months ago
• hpc203 / Open-Vocabulary-Object-Detection-opencv-onnxrun
  使用OpenCV+onnxruntime部署开放域目标检测，包含C++和Python两个版本的程序
  ☆11Updated last year
• Chrisz236 / llm-rk3588
  Run Large Language Models on RK3588 with GPU-acceleration
  ☆113Updated last year
• QuecPython / AIChatBot-Volcengine-webRTC
  An AI chat bot based on volcengine's webRTC protocol.
  ☆27Updated 2 months ago
• sophgo / ChatGLM2-TPU
  run ChatGLM2-6B in BM1684X
  ☆49Updated last year
• BaronLeeLZP / rockchip_rv1109_rknn-yolov3-demo
  在瑞芯微rockchip的AI芯片rv1109上，利用rknn和opencv库，修改了官方yolov3后处理部分代码Bug，交叉编译yolov3-demo示例后可成功上板部署运行。
  ☆34Updated 3 years ago
• sophgo / sophon-pipeline
  ☆42Updated last year
• hpc203 / Detic-onnxrun-cpp-py
  使用ONNXRuntime部署Detic检测2万1千种类别的物体，包含C++和Python两个版本的程序
  ☆17Updated last year
• sherlockchou86 / PyLangPipe
  a simple lightweight large language model pipeline framework.
  ☆25Updated 2 months ago
• huakunyang / SummerAsr
  SummerAsr 是一个基于C++的可独立编译且几乎没有额外依赖库的本地中文语音识别器。 Summer Asr is a Chinese automatic speech recognize project written with C++ that can be eas…
  ☆95Updated 7 months ago
• sophgo / tdl_sdk
  ☆25Updated 2 weeks ago
• DataXujing / Qwen1.5-0.5b-chat-android
  基于MNN-llm的安卓手机部署大语言模型：Qwen1.5-0.5B-Chat
  ☆80Updated last year
• daxpot / xiaozhi-cpp-server
  本项目为xiaozhi-esp32提供C++后端服务，帮助您快速搭建ESP32设备控制服务器。Backend C++ service for xiaozhi-esp32, helps you quickly build an ESP32 device control ser…
  ☆29Updated 2 months ago
• Onelevenvy / nimir
  Nimir 是一个基于 workflow 的标注、训练、推理一体化平台。它提供了直观的用户界面和强大的功能，通过工作流的方式将数据处理全流程有机地串联起来，实现端到端的 AI 应用开发。
  ☆25Updated 8 months ago
• morsoli / llmbenchmark
  大模型API性能指标比较 - 深入分析TTFT、TPS等关键指标
  ☆18Updated 10 months ago
• EASY-EAI / EASY-EAI-Toolkit-3588
  ☆12Updated 3 months ago
• zjd1988 / rknn_backend
  ☆17Updated last year
• yinghanguan / PaddleOCR2RKNN
  Convert the official paddleocr model to a deployable model on RK1126
  ☆38Updated 2 years ago
• Eric0308 / xiaozhi-client
  这是一个用于连接小智AI服务的Python客户端库。它提供了简单的接口来进行语音对话和文本交互。
  ☆22Updated 4 months ago
• haliry / Intelligent-remote-video-monitoring
  本系统以树莓派3B+为嵌入式计算平台，与CSI摄像头、二自由度旋转云台结合，主体使用Python和PHP编程，应用I2C通信与OpenCV等前沿技术，通过Frp内网穿透打通内外网数据传输，实现具有远程实时视频监控、运动检测及画面截图邮件预警、远程控制云台摄像头转动、监控画面…
  ☆47Updated 3 years ago
• dog-qiuqiu / libopencv
  Opencv ARM Linux precompiled library
  ☆13Updated 4 years ago
• GIBEREZ / Qt-NCNN-ByteTrack
  使用NCNN推理框架和ByteTrack目标跟踪框架，对网络、文件流URL进行实时性视频推理，而UI界面则由Qt框架实现
  ☆21Updated 9 months ago
• AXERA-TECH / ax-llm
  Explore LLM model deployment based on AXera's AI chips
  ☆109Updated this week
• Gwencong / deepstream-pose
  pose estimation code with deepstream and yolo-pose
  ☆13Updated 2 years ago
• cqu20160901 / yolov10_onnx_rknn_horizon_tensorRT
  yolov10 目标检测部署版本，便于移植不同平台（onnx、tensorRT、rknn、Horizon），全网部署最简单、运行速度最快的部署方式（全网首发）。
  ☆52Updated last year