资策会人工智慧研究院院长戴伟峻指出，AI Agent未来两年内将迎来全面大爆发，特别是具备动态决策能力的自主型Agent需求庞大。目前市场导入热度高，但多数企业尚未建立相对应的治理架构与安全机制，实际运作时更频频出现权限超出原设计范围的状况，隐藏资安风险，相关规范与防护机制必须跟上。
经济日报将于10月14日举办2026科技论坛，以「AI Agent新赛局」为主题，邀集各界专家探讨发展趋势、应用场景与产业布局，协助企业掌握智慧转型关键契机，布局下一世代竞争优势。本论坛由中华电信、工研院、资策会、日月光集团、玉山银行、凯基金控、元大投信协办。
戴伟峻当天将以「AI Agent的资安防护网」进行专题讲座。
他分析，传统大型语言模型仅负责生成内容，即便出错也不致造成重灾；AI Agent具备任务规划、使用外部工具与长期记忆等特性，若被赋予读取资料库、介接API甚至启动转帐等权限，一旦遭恶意攻击，将直接冲击企业营运。
谈到攻击手法，戴伟峻举例，有心人士常将恶意指令混入外部评论资料中，当负责摘要的Agent无法分辨指令与资料时，就可能误将内部机敏资料外流；另一种则是恶意污染Agent长期记忆库，如同潜伏病毒般伺机发作，甚至借由多个Agent间的分工协作机制扩大感染。
戴伟峻提出三大防御对策。第一是划分资料与指令边界，透过多Agent分工，先过滤恶意指令再执行；第二是贯彻最小权限原则，绝不可同时赋予存取资料库与寄发外部信件等高风险组合；第三是落实身分签章验证与异常侦测，阻断受骇Agent的连锁效应。
在防护机制上，戴伟峻强调须落实专人介入监管，但把关流程应聚焦于实质高风险行为，例如涉及大额付款、变更核心系统设定或删除关键资料等关键环节。
若大小杂务皆要求人工覆核，审查人员容易因疲劳产生审核惯性，反而失去防御效果。
在技术防护与实际落地进程上，资策会已建立专责团队展开红队演练，主动为企业找出系统弱点并提供蓝队指引，为产业界建立AI资安防御网；内部亦推进AI工程师等数位员工落地，并透过Agent介接传统ERP系统，活化既有系统弹性。
如没特殊注明，文章均来源于互联网，版权归原创作者所有，如有侵权，请联系我们处理！
