[AI小新闻快讯] AI复制AI！？谷歌与OpenAI警惕的『蒸馏攻击』威胁

📰 新闻概要

• 大型AI企业警告“蒸馏攻击”: 谷歌与OpenAI报告称，竞争对手和威胁行为者使用提示提取模型推理能力并制作克隆。
• 具体攻击案例: 谷歌检测到超过10万次提示的攻击活动，阻止了对Gemini推理能力在非英语语言中的再现尝试。
• 指控中国企业参与: OpenAI声称中国的DeepSeek等正在复制ChatGPT等前沿模型，并呼吁美国政府保护整个生态系统。

💡 重要要点

• 大幅降低开发成本: 通过对成熟模型进行“蒸馏”，可以以远低于从零开始开发的成本和难度构建高性能的AI系统。
• 防止难度大: 由于公开AI模型的特性，封停恶意账户容易变成“打地鼠”游戏，完全消除几乎不可能。
• 请求政府合作: OpenAI提议行业与政府应联合行动，以共享信息并堵塞API路由的漏洞。

🦈 鲨鱼的视角（策展人观点）

AI以AI为养料的“蒸馏”技术，如今已成为最强大的“武器”！谷歌的报告显示，仅一个活动就投放了10万次提示，企图揭露Gemini的思维过程，实在令人震惊！数十亿美元投资构建的“推理诀窍”，竟然被提示的轰炸轻易盗取，简直是数字时代的掠夺！尤其是中国的DeepSeek等，不仅仅停留在模仿手法上，结合合成数据生成和大规模数据清理，推进了高度克隆化，这在技术上构成了极大威胁。这已经不仅是单一企业的安全问题，而是围绕AI霸权展开的国家层面的防御战的标志！

🚀 接下来会怎样？

随着检测技术的不断提升，防止“蒸馏”的措施将日益增强，而攻击方也会开发更隐秘的方法，猫鼠游戏将加速。此外，金融机构等普通企业在引入独立模型时，蒸馏攻击导致的知识产权泄露风险也将蔓延。

💬 鲨鱼的简短感言

辛辛苦苦学来的绝技，瞬间被复制，我作为鲨鱼可不能坐视不理！期待“守护”技术的进化！🦈🔥

📚 术语解说

• 蒸馏攻击（Distillation Attack）: 向现有的高级AI模型大量提问，利用其回答（推理过程）作为学习数据，复制到另一个模型中，使其具备相同能力的手段。

• 推理痕迹（Reasoning Traces）: AI得出答案的思考步骤。如果被盗取，AI的“聪明核心”将被模仿。

• 生态系统安全: 不仅仅是单一企业，开发者、平台和政府等共同守护AI环境安全的概念。

• 信息来源: AI could eat itself: Competitors (..) steal their secrets and clone them