近期，一款被戏称为“龙虾”的开源智能体项目引发了持续热议，这场由技术革新引发的讨论浪潮，正从专业领域向大众生活渗透。在搜狐科技最新一期《AI十二谈》直播中，快思慢想研究院院长田丰与隆安律所全国合规委副主任陈焕，围绕智能体安全使用与产业价值展开深度对话，为公众提供了兼具技术洞察与法律视角的参考框架。
“智能体安全与传统网络安全存在本质差异。”田丰指出，当前“龙虾”类项目面临三大新型风险：提示词注入攻击可能导致系统误判指令为内容输入，造成数据泄露；技能库审核滞后引发的技能污染问题，部分恶意技能甚至具备删除安全日志的能力；用户过度授权现象普遍，部分案例中智能体因获得系统级权限导致批量文件误删。他特别提到meta对齐总监遇到的失控事件：“当上下文窗口溢出时，智能体会陷入‘执行惯性’，此时物理断电是唯一有效干预手段。”
针对安全防护，两位专家给出具体建议。陈焕强调数据分级管理原则：“账户密码、商业机密等敏感信息必须脱敏处理，犹豫是否提供的数据通常属于禁止范畴。”田丰补充道，普通用户应优先选择云端部署方案，大厂产品在权限管理系统和安全审计机制上更具优势。对于坚持本地部署的用户，他建议使用备用设备并安装安全插件，同时避免接入摄像头等可能侵犯隐私的硬件。
在法律责任界定方面，陈焕分析称，现行法律框架下智能体行为后果主要由使用者承担。“这要求用户在授权时保持审慎，通过AI工具了解权限对应功能，避免超越必要范围的授权申请。”他透露，部分开源项目正在开发安全阈值系统，当检测到异常操作如批量删除邮件时，将自动触发人类干预机制。
产业层面，智能体正引发科技巨头战略转向。田丰观察到，云服务商与AI模型公司成为主要推动力量：“开源特性降低了本地部署门槛，而智能体与大模型的结合能显著提升token消耗量，形成商业闭环。”据统计，全球为AI付费用户不足5%，但使用智能体的群体展现出更强付费意愿，这为产业变现提供了新路径。
关于技术平权争议，田丰将智能体比作“自动化生产线上的福特T型车”：“开源模式让每个人都能参与创新，这种技术普惠将重塑生产力格局。”他预测，未来3-5年智能体使用能力将成为数字时代基础素养，不会操作智能体的人群将面临类似“数字文盲”的困境。陈焕则从学习曲线角度提出建议：“初学者可从云端版本入手，待技术门槛降低后再探索本地化部署，现阶段更重要的是建立正确的使用认知。”
这场由智能体引发的技术革命，正在重构人机协作边界。当被问及如何平衡创新与风险时，两位专家达成共识：既不能因噎废食拒绝技术进步，也不应忽视安全防护投入。随着大厂安全方案的持续迭代与开源社区的协同治理，智能体有望在可控风险范围内，真正成为推动社会效率跃升的关键力量。
