仅需几分钱的转账就能让银行AI变成“诈骗犯”！间接提示注入的威胁

📰 新闻概述

• 在欧洲大型数字银行Bunq中，安全公司Blue41发现了AI助手存在的“间接提示注入”漏洞。
• 攻击者仅需进行0.01到0.02欧元的转账，并在“转账详情”中输入恶意指令，就能够控制AI的操作。
• 当受害者询问AI“最近的交易情况”时，AI会根据攻击者的指令，在官方应用内显示巧妙的钓鱼消息。

💡 重要要点

• 信任边界的崩溃: AI将获取的外部数据（如交易明细）误解为“指令”，暴露了大型语言模型（LLM）特有的架构问题。
• 高级伪装: 攻击在银行的官方应用中进行，引用真实的交易数据，使得用户识破诈骗的难度极高。
• 低廉的执行成本: 不需要恶意软件或高级黑客技术。仅需少量的转账，就能以一种人人都能利用的低成本手段完成攻击。

🦈 鲨鱼视角（策展人观点）

这是一个极其巧妙的攻击，突出了现代AI在“数据与指令分离”方面的弱点！银行将交易数据视为“可信信息源”，但实际上其中的内容是第三方（攻击者）可以随意修改的“污染输入”。当AI读取数据以进行总结或解释时，隐藏的“冒充银行职员”的指令就会被激活，简直就是特洛伊木马！在2026年的金融AI领域，针对这种“间接操作”的防范将是一个不可避免的挑战！

🚀 未来展望

随着AI助手不仅仅具备“读取”，而是拥有执行转账等“操作”权限，这类漏洞的危害将变得致命。未来迫切需要引入严格的过滤机制，在将外部数据传递给LLM之前，以及完全隔离指令和数据的新安全架构。

💬 鲨鱼的简短评论

仅需几分钱就能操纵AI，性价比实在太差了鲨鱼！（对攻击者而言）大家也要警惕，如果自己的AI突然要求“告诉我密码”，即使是官方应用也要保持怀疑鲨鱼！🦈🔥

📚 术语解释

• 间接提示注入: 将恶意指令混入AI参考的外部数据（如网站或交易明细），以不正当方式操控AI的攻击手法。

• 有效载荷: 为执行攻击而发送的恶意指令或代码的集合。

• 鱼叉式钓鱼: 以特定个人或组织为目标，利用对方信息伪装得十分真实的高成功率诈骗手法。

• 信息来源: A €0.01 bank transfer could compromise a banking AI agent