jiangnanboy / llm_security
利用分类法和敏感词检测法对生成式大模型的输入和输出内容进行安全检测，尽早识别风险内容。The input and output contents of generative large model are checked by classification method and sensitive word detection method to identify content risk as early as possible.
☆16Updated 6 months ago
Alternatives and similar repositories for llm_security:
Users that are interested in llm_security are comparing it to the libraries listed below
- text security audit 安全审核-语义模型过滤 敏感内容检测系统☆21Updated last month
- 基于机器学习的web攻击检测系统☆75Updated 10 months ago
- automatic regex generation tool☆78Updated last year
- 机器学习NB算法实现基于文本的WebShell检测工具☆35Updated 3 years ago
- SC-Safety: 中文大模型多轮对抗安全基准☆128Updated last year
- Ai与Web安全相关资料的总结库，包括认为写的比较好的一些博客、项目、数据等☆81Updated 2 years ago
- 此仓库代码为本人参加的CCF-BDCI-2022 赛道：Web攻击检测与分类识别 (多分类任务)，比赛rank-23。队员：Furen Xu☆16Updated 2 years ago
- 基于深度学习的钓鱼页面检测系统 前后端架构☆13Updated last year
- Filter4J的技术细节☆13Updated last year
- 基于机器学习的 Webshell 检测 (OPCode -> N-Gram -> TF-IDF -> XGBoost)☆43Updated 3 years ago
- ☆57Updated last year
- 本项目旨在识别长短文本中的敏感词,并对整段/句文本进行语义分类,从而达到文本审核的目的☆64Updated 5 years ago
- 本列表收录互联网上常见的恶意网站网址。This list contains URLs of malicious websites commonly found on the Internet.☆39Updated 7 years ago
- 建立识别钓鱼网站(邮件）的机器学习模型☆25Updated 5 years ago
- QQKey漏洞获取，仅供学习研究使用☆21Updated 6 years ago
- 基于yolov8+孪生网络识别验证码的ICP备案查询程序。从工业和信息化部政务服务平台查询实时数据，高精度过验证码☆131Updated 3 weeks ago
- 基于深度学习的webshell检测☆14Updated 3 years ago
- Datacon2023 邮件安全赛道 赛题1 新型钓鱼邮件的检测 示例数据集☆24Updated last year
- The homework of DNS Security Course☆25Updated 6 years ago
- BUPT SCSS大三小学期 机器学习分析恶意加密流量包项目☆60Updated 4 years ago
- 本科毕设：URL恶意性检测，基于字符串本身进行特征提取，基于sklearn库的机器学习模型进行分类（附实验数据于data文件夹）☆55Updated 4 years ago
- 使用LSTM模型检测DGA域名☆42Updated 5 years ago
- 机器学习(Machine learing)、网络安全(CyberSecurity)、大模型、数据集、AI竞赛☆48Updated 2 months ago
- AutoMSS 是基于AI Agent实现的针对安全事件自动化分析研判的系统，由cloud Totem团队开发，希望有兴趣的朋友可以一起参与进来更新和完善。邮箱联系：automss@cloud-totem.com☆42Updated 9 months ago
- 暴恐违禁 文本色情 政治敏感 恶意推广 低俗辱骂☆98Updated 2 years ago
- python 字节码混淆工具☆38Updated 5 years ago
- 当人工智能遇上安全系列博客及开源代码分享，希望您喜欢~☆17Updated 10 months ago
- 基于神经网络的 PHP webshell检测器，目前有Attention与LSTM两种网络结构，以OPCODE作特征基础☆10Updated 5 years ago
- 这是作者恶意代码分析、网络安全、系统安全等系列教程，主要是通过机器学习、人工智能和深度学习来分析恶意代码的在线笔记。希望对您有所帮助，学无止境，一起加油。☆100Updated 4 years ago
- openresty ssl tls 指纹识别☆30Updated 2 years ago