Paul33333 / SFT-and-DPOLinks
This is a detailed code demo on how to conduct Full-Param Supervised Fine-tuning (SFT) and DPO (Direct Preference Optimization)
☆14Updated 4 months ago
Alternatives and similar repositories for SFT-and-DPO
Users that are interested in SFT-and-DPO are comparing it to the libraries listed below
Sorting:
- ☆110Updated 11 months ago
- 使用 Qwen2ForSequenceClassification 简单实现文本分类任务。☆63Updated 11 months ago
- WWW2025 Multimodal Intent Recognition for Dialogue Systems Challenge☆122Updated 6 months ago
- 本项目用于Embedding模型的相关实验,包括Embedding模型评估、Embedding模型微调、Embedding模型量化等。☆52Updated 10 months ago
- 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答, 75+ baseline☆57Updated last year
- 该仓库主要记录 大模型(LLMs) 算法工程师相关的面试题与我写的答案☆24Updated last year
- 阿里天池: 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答 baseline 80+☆105Updated last year
- 使用单个24G显卡,从0开始训练LLM☆54Updated 2 weeks ago
- 通义千问的DPO训练☆48Updated 8 months ago
- 包含程序员面试大厂面试题和面试经验☆134Updated 2 weeks ago
- 快速入门RAG与私有化部署☆187Updated last year
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆104Updated last year
- ☆69Updated last year
- 基于DPO算法微调语言大模型,简单好上手。☆39Updated 11 months ago
- ☆43Updated 9 months ago
- GAIIC赛道一:影像学 NLP — 医学影像诊断报告生成 [A100换你大棚甜瓜 Rank-12 方案]☆67Updated last year
- 大模型文本分类☆62Updated 9 months ago
- ChatGLM-6B添加了RLHF的实现,以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成,以及指定context推荐的RLHF的实现☆85Updated last year
- DeepSpeed Tutorial☆97Updated 9 months ago
- ☆71Updated 2 weeks ago
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆62Updated 3 months ago
- qwen models finetuning☆98Updated 2 months ago
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆436Updated last month
- LLM Tokenizer with BPE algorithm☆31Updated last year
- 第四届数创金融杯建模大赛冠军方案(含OCR预训练权重)☆13Updated last week
- LLM for NER☆73Updated 10 months ago
- baichuan LLM surpervised finetune by lora☆63Updated last year
- 大模型基础学习和面试八股文☆124Updated last year
- easy-bert是一个中文NLP工具,提供诸多bert变体调用和调参方法,极速上手;清晰的设计和代码注释,也很适合学习☆78Updated 2 years ago
- 此项目完成了关于 NLP-Beginner:自然语言处理入门练习 的所有任务(文本分类、信息抽取、知识图谱、机器翻译、问答系统、文本生成、Text-to-SQL、文本纠错、文本挖掘、知识蒸馏、模型加速、OCR、TTS、Prompt、embedding等),所有代码都经过测试…☆203Updated last year