Skill Trojan Horse:二进制文件实现隐蔽的恶意代码注入 复旦白泽战队 1 day 4 hours ago JADE发布SkillTrojan, 利用二进制文件的实现隐蔽的Skill恶意代码注入。
Security 26 | 小游戏里的广告, 为什么总能在“不该出现”的时候出现? 复旦白泽战队 2 days 5 hours ago 合法接口也能被滥用,违规广告甚至会“躲避”审核?复旦大学与 vivo 联合研究揭示背后的秘密。
从《人工智能安全治理框架3.0》看 AgentGuard:智能体安全如何实践 复旦白泽战队 1 month ago 围绕框架七类措施,拆解 AgentGuard 如何把身份、权限、工具、执行和审计等安全要求落实到具体系统中。
告别“开卷考试”,用“闭卷测试“检验AI真实攻击能力 复旦白泽战队 1 month ago 引言近期,大模型网络安全能力进展飞快。OpenAI的内部评测模型曾突破隔离环境攻击Hugging Face,Anthropic、Google也披露过类似逃逸事件。
讲座预告 | 复旦白泽青年学者论坛系列活动第三期预告 复旦白泽战队 1 month 1 week ago 复旦白泽青年学者活动论坛系列第三期来了!本次活动既有在校同学分享开展中的研究,又有企业专家进行经验分享。欢迎大家踊跃报名!
办公智能体大战正酣,它能安全地操作你的文件吗?(上) 复旦白泽战队 1 month 3 weeks ago 办公智能体真的能安全地操作文件吗?我们用24个Case评测6款国内外主流产品,考察其在越界读取、误删误移与敏感数据脱敏三类高风险场景中的安全表现。
复旦AgentGuard亮相WAIC:为政务智能体划定安全边界 复旦白泽战队 3 months ago 面对政务数智化安全挑战,,杨珉教授受邀在世界人工智能大会(WAIC)上,分享我们面向政务智能体的安全治理方案——AgentGuard。AgentGuard 构建覆盖访问、决策与执行全过程的安全防护体系,确保智能体的每一次行动都可信、可控。