原因在于，AI本身也有世代差异，例如，传统生成式AI在资安上的应用，大多是对话式导向，但现在发展的代理式AI（Agentic AI），比起传统生成式AI有很大不同，不论是在用户体验，威胁防御、风险缓解，都将有更好的效益。

以用户体验为例，传统生成式AI的做法，只是从连接到后端信息检索系统的聊天机器人来取得数据，而代理式AI的作法，将是目标驱动的解决方案助手，能够跨领域解决问题，也可以根据用户目标与环境自行定义自动化规则，甚至主动发送发送批准通知。

换言之，对话式AI助理只是第一步，利用代理式AI可以帮助推理、集成所有数据，让企业以更好的方式管理网络安全，才能真正掌控数据，而不仅仅是保存数据。

而且，趋势科技现在更强调的是，要从网络风险管理角度去切入，此举明显呼应近年网络安全治理的态势，帮助资安人员与企业高层的沟通。这并非特例，前阵子我们介绍NIST CSF网络安全框架，就已经提到此一态势。

综观这些变化，不只网络安全框架有这样的新转变，强调从网络安全治理出发，提升风险管理的高度，从产品技术资安业者来看，趋势科技也预期在代理式AI与各项资安产品的结合发展下，要朝向网络风险管理去发展。

2024年的AI与资安发展，从两大面向思考

关于Deepfake的现实威胁发生的态势，以及AI世代的企业资安风险管理，与过去的资安风险管理有何重要区别？

Rachel Jin演讲结束后，也回答我们现场提出的这些问题，她指出，一年之前很少有企业认为需要分辨Deepfake的防护机制，但在2024年初之后有了明显转变，首先是传出Deepfake技术确实让BEC威胁更升级的真实事件，一名跨国企业员工由于黑客寄送钓鱼邮件、假冒总部财务长召开视频会议，遂依照指示转帐，事后向总公司确认才发现上当，被骗走2亿港币，这项消息被香港警方曝光，接着是大约半年前，趋势科技开始发现，有一些客户提到他们需要这类型解决方案，因为他认为员工们并没有办法识别是否为Deepfake。

对于AI世代的企业资安风险管理差异，Rachel Jin认为可从两大面向来看待，一是当企业有了AI要怎么管理，另一是要用AI来做风险管理。

以前者而言，当企业开始使用生成式AI，好处是效率提高，但相关风险也伴随而来，因此我们需要相应的解决方案。

例如，过去有Shadow IT的问题，现在也是会有Shadow AI的问题，企业如何知道员工是否使用企业允许的AI，还有先前提到的提示注入与越狱，以及敏感数据泄露的风险。

还有一个较特别的场景是，现在许多企业可能会训练自己的模型，因此，当企业组织要创建LLM，就需要创建自己的数据中心，这时企业必须重视AI数据中心的保护，而且是要重视五大层面的保护，包括：数据、模型、应用程序、使用方式、基础架构。

另一个面向是要用AI来做风险管理，例如趋势科技去年6月推出Companion AI资安助理，但这只是第一步。

未来随着代理式AI的应用发展，不仅可借助AI异动关联出攻击路径，更重要是能从前30天内的攻击路径，预测出接下来会发生什么样的攻击。换言之，过去是事件发生才去阻挡，未来将转型成更为主动的行为，能够及早创建缓解计划。再者，过去要产生SOAR的自动化脚本，其实很花时间，现在用AI将会变得相当不一样，AI将驱动着各式资安产品转型。

Rachel Jin强调，AI将会彻底颠覆以前的资安管理方式，所以AI时代下，大家需要新一代的网络风险管理。至于趋势科技为何现在会从风险管理角度切入，这主要基于先前发展攻击面风险管理（ASRM）解决方案的经验，察觉企业高层关心的重点在于风险，这会是很好的沟通方式。

据了解，在Trend Vision One平台上，随着代理式AI可以快速统整更多信息，趋势科技之后也将在管理介上，从风险角度出发，让资安高层也能知道可能风险损失指针，有利于跟董事会报告。而这种作法，似乎也呼应了趋势科技所强调的网络风险管理的发展方向。