zxuu / Self-AttentionLinks
Transformer的完整实现。详细构建Encoder、Decoder、Self-attention。以实际例子进行展示,有完整的输入、训练、预测过程。可用于学习理解self-attention和Transformer
☆101Updated 6 months ago
Alternatives and similar repositories for Self-Attention
Users that are interested in Self-Attention are comparing it to the libraries listed below
Sorting:
- LLM大模型(重点)以及搜广推等 AI 算法中手写的面试题,(非 LeetCode),比如 Self-Attention, AUC等,一般比 LeetCode 更考察一个人的综合能力,又更贴近业务和基础知识一点☆380Updated 9 months ago
- 这里用来存储做人工智能项目的代码和参加数据挖掘比赛的代码☆105Updated 2 months ago
- Transformer是谷歌在17年发表的Attention Is All You Need 中使用的模型,经过这些年的大量的工业使用和论文验证,在深度学习领域已经占据重要地位。Bert就是从Transformer中衍生出来的语言模型。我会以中文翻译英文为例,来解释Tran…☆281Updated last year
- 包含程序员面试大厂面试题和面试经验☆185Updated 4 months ago
- Huggingface transformers的中文文档☆273Updated last year
- TinyRAG☆348Updated 3 months ago
- 大模型基础学习和面试八股文☆164Updated last year
- modern AI for beginners☆165Updated last month
- 一些 LLM 方面的从零复现笔记☆221Updated 5 months ago
- 一个很小很小的RAG系统☆301Updated 5 months ago
- everything about llm & aigc☆103Updated 2 weeks ago
- 算法岗面试资料-百面深度学习、百面机器学习书籍等等☆64Updated 2 years ago
- 手把手带你从0到1实现大模型agent☆120Updated last year
- ☆106Updated last year
- 人工智能培训课件资源☆113Updated last week
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆69Updated 8 months ago
- 通义千问的DPO训练☆55Updated last year
- MindSpore online courses: Step into LLM☆476Updated last month
- 解锁HuggingFace生态的百般用法☆93Updated 9 months ago
- WWW2025 Multimodal Intent Recognition for Dialogue Systems Challenge☆125Updated 11 months ago
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆483Updated 6 months ago
- a chinese tutorial of git☆156Updated last year
- 大模型/LLM推理和部署理论与实践☆348Updated 2 months ago
- 博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看 配套 github 链接:https://github.com/nickchen121/Pre-trainin…☆456Updated 3 years ago
- 对llama3进行全参微调、lora微调以及qlora微调。☆210Updated last year
- 该仓库主要记录 LLMs 算法工程师相关的顶会论文研读笔记(多模态、PEFT、小样本QA问答、RAG、LMMs可解释性、Agents、CoT)☆357Updated last year
- 大模型技术栈一览☆113Updated last year
- 关于Transformer模型的最简洁pytorch实现,包含详细注释☆215Updated last year
- ☆303Updated 5 months ago
- A LLM Paper note list.☆22Updated last year