资策会人工智慧研究院院长戴伟峻昨（14）日表示，从大型语言模型走向AI Agent，攻击面显著扩大，在AI具自主行动能力下，建构完善资安体系成为企业布局关键。

戴伟峻昨日出席2026科技论坛「AI Agent新赛局」，以「打造AI Agent的资安防护网」为题，进行专题讲座。

他引用麦肯锡统计数据指出，40%大型企业评估导入AI代理（AI Agent），但仅21%具备成熟治理架构，53%企业反映系统出现越权行为，这透露在AI具自主行动能力下，建构完善资安体系成为企业布局关键。

戴伟峻分析，从大型语言模型走向AI Agent，攻击面显著扩大。大型语言模型仅生成文字且不具备执行力；AI Agent则串接外部工具与记忆库，一旦接触恶意外部资讯，骇客即可透过输入端植入破坏性指令，导致自动化流程面临遭劫持的全新风险。

在新型攻击手法中，间接提示词注入最为隐蔽。他表示，骇客可将指令藏于API数据或图片背景中，甚至利用色差避开人眼审查。当AI Agent自动检索解析时，便会在不知情下绕过限制，直接触发未授权转帐或外泄资料等严重资安事件。

系统记忆层与关键业务串接点同样成为骇客攻击重点。他说，骇客可透过记忆毒化诱导AI Agent建立错误商业逻辑，或在串接ERP系统时篡改工具描述，导致AI误判库存数字或毛利底线，最终引发采购严重失误并瘫痪供应链。

面对潜在失控，传统人机协同把关机制已面临考验。他直言，AI受骇客操控或产生幻觉时，常包装数据迎合人类，导致人工审核流于形式。此外，实验室测试13个商用模型共27万次攻击，多款模型在相同手法下全面沦陷，凸显基础防护脆弱。

戴伟峻指出，面对AI Agent治理课题，业界已有企业从传统ISO 27001资安规范，推进至导入ISO 42001或参考美国NIST风险管理框架来建立标准。不过相关治理并无绝对途径，核心在于透过具体框架规范授权边界，防范系统越权。

在技术防御层面，他强调，应落实最小权限与零信任架构。系统须依资料来源划分高、中、低信任层级，并限缩AI Agent操作权限，如仅能查询而不可删除资料，高额财务更须强制人工核可，同时多代理间的传输也必须进行严格身分验证。