jiangnanboy / llm_securityLinks
利用分类法和敏感词检测法对生成式大模型的输入和输出内容进行安全检测，尽早识别风险内容。The input and output contents of generative large model are checked by classification method and sensitive word detection method to identify content risk as early as possible.
☆24Updated last year
Alternatives and similar repositories for llm_security
Users that are interested in llm_security are comparing it to the libraries listed below
Sorting:
- Filter4J是一个极小化的，基于深度学习的，文本内容违规检测（文本内容安全、文本审核、屏蔽词）库。☆94Updated last year
- 本列表收录互联网上常见的恶意网站网址。This list contains URLs of malicious websites commonly found on the Internet.☆45Updated 7 years ago
- 收集的一些敏感词汇，挺全的，还细分了暴恐词库、反动词库、民生词库、色情词库、贪腐词库、其他词库等☆437Updated 8 years ago
- AutoAudit—— the LLM for Cyber Security 网络安全大语言模型☆353Updated 8 months ago
- 本项目旨在识别长短文本中的敏感词,并对整段/句文本进行语义分类,从而达到文本审核的目的☆68Updated 5 years ago
- text security audit 安全审核-语义模型过滤 敏感内容检测系统☆30Updated 9 months ago
- 本科毕设：URL恶意性检测，基于字符串本身进行特征提取，基于sklearn库的机器学习模型进行分类（附实验数据于data文件夹）☆61Updated 5 years ago
- 基于机器学习的web攻击检测系统☆82Updated last year
- automatic regex generation tool☆82Updated 2 years ago
- 机器学习+大数据+数据安全：数据安全ai智能风险监测，风控，反欺诈,，api安全，web安全的学习资源，致力于打造智能数据安全领域领先的学习资料库，收集不易，欢迎star。 Machine learning + big data + data security: d…☆155Updated 2 years ago
- 中英文敏感词、语言检测、中外手机/电话归属地/运营商查询、名字推断性别、手机号抽取、身份证抽取、邮箱抽取、中日文人名库、中文缩写库、拆字词典、词汇情感值、停用词、反动词表、暴恐词表、繁简体转换、英文模拟中文发音、汪峰歌词生成器、职业名称词库、同义词库、反义词库、否定词库、汽…☆23Updated 2 years ago
- 基于多模态特征融合的即时社交软件违规图片检测系 统。通过结合图像和文本信息，系统支持对OCR后的文本进行高效的敏感词检测，并允许用户自定义敏感词词库。此外，系统能够自动识别图片中的二维码并提取域名进行安全检测，实现对图片的三分类，包括正常、涉黄和敏感信息，并支持建立图片黑白名…☆66Updated last year
- 面向数据安全治理的数据内容智能发现与分级分类 A榜rank7 B榜rank10☆35Updated 4 years ago
- Datacon2023 邮件安全赛道 赛题1 新型钓鱼邮件的检测 示例数据集☆26Updated 2 years ago
- ☆71Updated 2 years ago
- "他山之石、可以攻玉"：复旦白泽智能发布面向国内开源和国外商用大模型的Demo数据集JADE-DB☆475Updated this week
- 【风控知识库】互联网反欺诈风控实践，收录内容包含两部分：一是业务风控经验，如加固、反外挂、设备指纹、账号安全、内容安全、业务安全、支付交易安全等等；二是技术实践，如服务架构，算法实践，数据分析，大数据 等等。☆73Updated last year
- The homework of DNS Security Course☆26Updated 6 years ago
- 此仓库代码为本人参加的CCF-BDCI-2022 赛道：Web攻击检测与分类识别 (多分类任务)，比赛rank-23。队员：Furen Xu☆16Updated 2 years ago
- 这是作者恶意代码分析、网络安全、系统安全等系列教程，主要是通过机器学习、人工智能和深度学习来分析恶意代码的在线笔记。希望对您有所帮助，学无止境，一起加油。☆103Updated 5 years ago
- Ai与Web安全相关资料的总结库，包括认为写的比较好的一些博客、项目、数据等☆83Updated 3 years ago
- DFA 实现中文敏感词检测☆102Updated 3 years ago
- 基于Tensorflow的文本内容安全审核☆17Updated last year
- 这是一个网络安全知识图谱开源平台，为网络安全的智能化、体系化开阔新方向，对行业发展贡献绵薄之力。☆47Updated 2 years ago
- 思通舆情 是一款开源免费的舆情系统，支持本地化部署。支持对海量的舆情数据进行多维交叉分析和深度挖掘,为用户户提供全面的舆情数据,专业的舆情分析。☆598Updated 2 years ago
- 一个网络安全相关法律法规、安全政策、国家标准、行业标准知识库。A knowledge base of cybersecurity policies, laws, guidelines, and technical standards.☆223Updated 7 months ago
- AutoMSS 是基于AI Agent实现的针对安全事件自动化分析研判的系统，由cloud Totem团队开发，希望有兴趣的朋友可以一起参与进来更新和完善。邮箱联系：automss@cloud-totem.com☆50Updated last year
- 恶意代码检测系统。对接前端可视化与算法检测部分☆18Updated last year
- 机器学习(Machine learing)、网络安全(CyberSecurity)、大模型、数据集、AI竞赛☆54Updated 2 weeks ago
- 基于深度学习的webshell检测☆14Updated 4 years ago