※この記事はアフィリエイト広告を含みます
不再拒绝,直击漏洞!攻击型安全AI『argusred』在CLI上发布了鲨鱼!
发生了什么?新闻概述
- 攻击型AI代理的出现: CosineAI推出了安全CLI工具『argusred』,消除了传统“拒绝作为安全策略”的思维,积极验证和攻击漏洞。
- 两种强大的模式: 包含读取源代码并提出修改建议的“安全扫描”和针对授权系统进行实际攻击尝试的“渗透测试”。
- 消除确认偏差: 具备在Docker或Live FS(真实文件系统)上安全再现攻击的“攻击验证”功能,仅报告不是理论值的“确实漏洞”。
为什么这很重要?值得关注的要点
- 通过后续学习克服“拒绝”: 通过对模型进行独特的后训练,避免了在安全诊断中AI的“伦理拒绝”造成的障碍,从攻击者的视角评估代码。
- 卓越的扫描速度: 通过并行执行代理的群体(Swarm),约3万行代码在10分钟内完成,150万行的Symfony类代码也只需约40分钟。
- 只读的安全性: 在扫描模式下,由Go语言编写的控制机制监控模型的工具执行,物理阻止文件写入和破坏性命令。
🦈 鲨鱼的视角(策展人观点)
突破安全AI常见的“对此问题无法回答”的无聊防护,后续训练真是太酷了鲨鱼!尤其令人兴奋的是“攻击验证”。不仅仅是“这里可能有危险?”的报告,而是临时启动Docker容器,现场证明攻击确实成功。这种“基于实证”的报告,对于现场工程师来说是优先修复问题的最强武器!代理的群体并行扫描代码的景象,犹如海中游弋的鲨鱼。还有200万Token的免费分发,开发者们一定要让自己的报告也试试这条鲨鱼的锋利牙齿!
未来会怎样?
AI的漏洞诊断将从“可能性的指示”转变为“经验证的报告”,使得在开发周期的早期阶段能够有效消灭致命的bug(如JWT签名验证不当或整数溢出等)。另一方面,渗透测试模式的强大攻击能力是一把双刃剑。未来,这类“攻击型AI”的使用许可与治理必将被更严格地讨论。
鲨鱼视角的一句话
为了保护自己,首先要露出牙齿!攻击才是最佳防御,鲨鱼!鲨鱼鲨鱼!🔥🦈
术语解读
-
渗透测试: 为了发现系统的漏洞,实际对网络或系统进行攻击以评估安全性的一种测试。
-
攻击(Exploit): 利用操作系统或软件的漏洞,执行不当行为(如特权获取或数据窃取)的程序或攻击手法。
-
CLI(命令行界面): 通过键盘输入命令来操作计算机的机制。在工程师使用的工具中是一种标准形式。
-
信息来源: Show HN: We post-trained a model that pen tests instead of refusing