edw008 / LLaMA-Efficient-Tuning
☆25Updated last year
Alternatives and similar repositories for LLaMA-Efficient-Tuning:
Users that are interested in LLaMA-Efficient-Tuning are comparing it to the libraries listed below
- 通义千问VLLM推 理部署DEMO☆556Updated last year
- 大语言模型微调,Qwen2VL、Qwen2、GLM4指令微调☆354Updated 2 months ago
- 使用peft库,对chatGLM-6B/chatGLM2-6B实现4bit的QLoRA高效微调,并做lora model和base model的merge及4bit的量化(quantize)。☆358Updated last year
- chatglm多gpu用deepspeed和☆408Updated 8 months ago
- 《ChatGPT原理与实战:大型语言模型的算法、技术和私有化》☆354Updated last year
- 本项目旨在收集开源的表格智能任务数据集(比如表格问答、表格-文本生成等),将原始数据整理为指令微调格式的数据并微调LLM,进而增强LLM对于表格数据的理解,最终构建出专门面向表格智能任务的大型语言模型。☆554Updated 11 months ago
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆189Updated 10 months ago
- Firefly中文LLaMA-2大模型,支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆408Updated last year
- 一些大语言模型和多模态模型的应用,主要包括Rag,小模型,Agent,跨模态搜索,OCR等等☆158Updated 4 months ago
- FinQwen: 致力于构建一个开放、稳定、高质量的金融大模型项目,基于大模型搭建金融场景智能问答系统,利用开源开放来促进「AI+金融」。☆362Updated 9 months ago
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆415Updated this week
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生 成对话数据集☆154Updated last year
- Deepspeed、LLM、Medical_Dialogue、医疗大模型、预训练、微调☆255Updated 9 months ago
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆89Updated 10 months ago
- ChatGLM2-6B 全参数微调,支持多轮对话的高效微调。☆398Updated last year
- 开源SFT数据集整理,随时补充☆503Updated last year
- 用于大模型 RLHF 进行人工数据标注排序的工具。A tool for manual response data annotation sorting in RLHF stage.☆249Updated last year
- 本项目是针对RAG中的Retrieve阶段的召回技术及算法效果所做评估实验。使用主体框架为LlamaIndex.☆232Updated 3 months ago
- 一些 LLM 方面的从零复现笔记☆177Updated 6 months ago
- 文档方向分类☆216Updated 4 months ago
- 为ChatGLM设计的微调数据集生成工具,速来制作自己的猫娘。☆603Updated last year
- PromptCBLUE: a large-scale instruction-tuning dataset for multi-task and few-shot learning in the medical domain in Chinese☆350Updated last year
- Baichuan2代码的逐行解析版本,适合小白☆212Updated last year
- 雅意信息抽取大模型:在百万级人工构造的高质量信息抽取数据上进行指令微调,由中科闻歌算法团队研发。 (Repo for YAYI Unified Information Extraction Model)☆298Updated 7 months ago
- unified embedding model☆852Updated last year
- qwen ai agent☆130Updated last year
- chatglm3base模型的有监督微调SFT☆74Updated last year
- 大语言模型指令调优工具(支持 FlashAttention)☆171Updated last year
- 360LayoutAnaylsis, a series Document Analysis Models and Datasets deleveped by 360 AI Research Institute☆271Updated 6 months ago
- 多模态中文LLaMA&Alpaca大语言模型(VisualCLA)☆442Updated last year