大语言模型在检测任务中的应用

1. 任务简介

本次汇报梳理大语言模型在检测任务中的使用方式，覆盖社交机器人检测、日志异常检测、多模态假新闻检测与静态资源泄露检测。报告从方法功能而非单一应用出发，归纳 LLM 如何提升语义理解、校验传统模型输出、生成解释以及推断代码意图。

2. 研究动机

传统检测模型往往依赖表层特征、预定义规则或单一模态表示，难以处理短文本、多语言、复杂语义和长尾 API。许多模型还难以说明检测结论的依据，或在稀疏连接、动态日志和跨模态内容中出现误判。LLM 的上下文理解与知识推理能力为这些问题提供了补充。

3. 方法设计

报告总结四种主要用法。其一，LLM 将原始文本、账户描述或日志转化为更丰富的语义表示，并与图神经网络等模型融合。其二，LLM 作为后处理校验器，复核情感倾向和检测结论。其三，LLM 为多模态检测提供逻辑解释与知识辅助。其四，LLM 从代码中推断资源获取、释放和可达性等意图，再与静态分析共同定位缺陷。

4. 实施细节

在社交机器人检测中，LGB 先对账户文本进行监督微调，再将语义表示与图结构融合，以增强对链接稀疏节点的判断。LLM-LADE 面向日志异常，采用数据增强、参数高效微调和在线知识库优化，并生成异常解释。FND-LLM 将文本、图像、篡改特征、跨模态表示和 LLM 推理结合；INFERROI 则以资源导向意图推断补全传统静态分析的 API 覆盖。

5. 实验与结论

相关研究显示，语义增强与结构信息融合可提升社交机器人检测，LLM 辅助的日志、假新闻与资源泄露检测也能改善性能或解释性。报告强调，LLM 更适合作为检测系统中的语义与推理组件，而非完全替代专门模型；模型输出的可靠性、成本、隐私与可复现性仍需在实际部署中评估。

本次组会演示文稿下载