jiangnanboy / llm_securityLinks
利用分类法和敏感词检测法对生成式大模型的输入和输出内容进行安全检测，尽早识别风险内容。The input and output contents of generative large model are checked by classification method and sensitive word detection method to identify content risk as early as possible.
☆18Updated 9 months ago
Alternatives and similar repositories for llm_security
Users that are interested in llm_security are comparing it to the libraries listed below
Sorting:
- text security audit 安全审核-语义模型过滤 敏感内容检测系统☆25Updated 4 months ago
- Filter4J是一个极小化的，基于深度学习的，文本内容违规检测（文本内容安全、文本审核）库。☆90Updated last year
- 本项目旨在识别长短文本中的敏感词,并对整段/句文本进行语义分类,从而达到文本审核的目的☆64Updated 5 years ago
- SC-Safety: 中文大模型多轮对抗安全基准☆137Updated last year
- Filter4J的技术细节☆13Updated last year
- automatic regex generation tool☆80Updated last year
- 【风控知识库】互联网反欺诈风控实践，收录内容包含两部分：一是业务风控经验，如加固、反外挂、设备指纹、账号安全、内容安全、业务安全、支付交易安全等等；二是技术实践，如服务架构，算法实践，数据分析，大数据 等等。☆68Updated last year
- 基于Tensorflow的文本内容安全审核☆17Updated 10 months ago
- AutoAudit—— the LLM for Cyber Security 网络安全大语言模型☆336Updated 3 months ago
- 通过机器学习进行敏感词的识别☆28Updated 7 years ago
- 基于机器学习的web攻击检测系统☆78Updated last year
- Ai与Web安全相关资料的总结库，包括认为写的比较好的一些博客、项目、数据等☆82Updated 2 years ago
- ☆61Updated 2 years ago
- 面向数据安全治理的数据内容智能发现与分级分类 A榜rank7 B榜rank10☆33Updated 4 years ago
- 此仓库代码为本人参加的CCF-BDCI-2022 赛道：Web攻击检测与分类识别 (多分类任务)，比赛rank-23。队员：Furen Xu☆16Updated 2 years ago
- AutoMSS 是基于AI Agent实现的针对安全事件自动化分析研判的系统，由cloud Totem团队开发，希望有兴趣的朋友可以一起参与进来更新和完善。邮箱联系：automss@cloud-totem.com☆47Updated last year
- 基于yolov8+孪生网络识别验证码的ICP备案查询程序。从工业和信息化部政务服务平台查询实时数据，高精度过验证码☆151Updated 3 months ago
- 利用LLM+敏感词库，来自动判别是否涉及敏感词。☆124Updated last year
- JailBench：大型语言模型越狱攻击风险评测中文数据集 [PAKDD 2025]☆98Updated 3 months ago
- 本列表收录互联网上常见的恶意网站网址。This list contains URLs of malicious websites commonly found on the Internet.☆40Updated 7 years ago
- CCAC2024——大模型安全的双重防线：少样本文本内容安全挑战赛仓库☆26Updated last year
- 机器学习NB算法实现基于文本的WebShell检测工具☆35Updated 3 years ago
- 全方位大模型评测知识库 | 提示词工程（Prompt Engineer）、各渠道大模型榜单（LeaderBoard）、标杆数据集、安全检测、对抗攻击、智能体、优质数据、文本分类、关系抽取、语音识别、语音合成、多模态、文本生成图片、文本生成视频、点云、智能对话、摘要总结、问答…☆63Updated 7 months ago
- 机器学习(Machine learing)、网络安全(CyberSecurity)、大模型、数据集、AI竞赛☆51Updated last week
- 利用知识图谱分析网络安全事件☆40Updated 5 years ago
- Datacon2023 邮件安全赛道 赛题1 新型钓鱼邮件的检测 示例数据集☆24Updated last year
- "他山之石、可以攻玉"：复旦白泽智能发布面向国内开源和国外商用大模型的Demo数据集JADE-DB☆416Updated 3 months ago
- 建立识别钓鱼网站(邮件）的机器学习模型☆30Updated 6 years ago
- 复旦白泽大模型安全基准测试集（2024年夏季版）☆38Updated 10 months ago
- ☆29Updated 5 months ago