媒体报导 @ Wepro180
【势不可挡】掌握生成式人工智能潜力 以 AI 制 AI 应对网络安全挑战
（左起）SentinelOne 网络安全解决方案工程师 Raymond Mok、Blackpanda 业务发展总监 George Wong、罗兵咸永道中国人工智能风险业务主管合伙人CY Cheung 及 中信国际电讯 CPC 数字战略官（信息与网络安全）Edman Tam
生成式人工智能（Generative AI）的急速发展，为企业带来了革新机遇，但同时也揭示了数据安全和合规方面的挑战。早前中信国际电讯 CPC（下称「CPC」） 举办的「Managing GenAI Risks with Proactive Cyber Resilience Measures」研讨会，便邀请了 Blackpanda、SentinelOne 与 罗兵咸永道（下称「PwC」）的专家到场，深入探讨企业部署生成式 AI 的趋势，以及分享如何平衡 AI 的应用潜力及其潜在风险，并交流透过 AI-SOC 服务缓解人才短缺及智能高效地应对网络威胁。
PwC CY Cheung 提醒企业在加快部署生成式 AI 技术时，必须进行全面的安全测试，才能减少漏洞出现。
关键业务部署AI的趋势及安全风险
生成式 AI 已成为企业不可或缺的应用技术，PwC 人工智能风险业务主管合伙人 CY Cheung 举例说，目前金融业已在数据分析方面应用 AI，而零售业则在市场推广和数据洞察等方面广泛採用。他强调 AI 的快速部署会带来多种潜在风险，例如生成出错误的答案导致决策偏差、隐藏歧视性演算法引发道德争议；另外又如数据外洩风险、分散式阻断服务攻击（DDoS）及以 Prompt Injection 形式恶意改变 AI 的行为等，都是企业必须解决的安全风险问题。
CY 说虽然企业管理层过往始终比较谨慎使用 AI，但在部署方面正逐渐由后台业务过渡到面向客户的关键领域，他指出原因是后台服务难以评估投资 AI 的回报率（ROI），而面对这方面的资源压力，企业不得不积极探索更高价值的应用场景。在部署 AI 的过程中，CY 特别强调全面的安全测试是不可或缺的。他建议企业应模拟非正常使用情境，从攻击者的角度检视系统漏洞，同时测试 AI 的稳定性和可靠性，以减少可能的风险暴露。他进一步提醒，生成式 AI 的应用虽然能带来效率提升，但其背后潜藏的风险需要企业以审慎和全面的方式应对，才能真正发挥 AI 的最大优势。
![Picture3.jpg]( "Picture3.jpg")
SentinelOne Raymond Mok 认为企业在考虑为 EDR 工具加入 AI 技术前，首先应了解其装置及系统是否支援新技术，否则只会白忙一场。
从端点到云端 AI 提升企业全面安全防护
SentinelOne 网络安全解决方案工程师 Raymond Mok 认为现时由 AI 驱动的网络攻击手段已经改变了传统的网络安全格局，例如黑客已在利用 AI 生成各种传统安全侦测工具亦难以检测的恶意脚本，而且仅需几分钟便能完成，大大减低其攻击的成本及技术要求。面对这种日益严竣的挑战，他指出 SentinelOne 早在 2020 年便开始在端点侦测中融入 AI 技术，并在过去五年不断升级，持续提升威胁侦测能力。
Raymond 指出通过 AI 的介入，SentinelOne 的解决方案扩展到了 Windows、Mac、Linux 和云端环境的全面保护。值得一提的是，这些工具还支持对容器化环境的安全防护。此外，SentinelOne 的 XDR 解决方案将端点数据与防火墙和云端数据整合，提供全方位的安全态势视图。配合最新推出的 Purple AI 平台，企业能够以自然语言与系统互动，提出具体问题，例如防火墙内是否存在潜在风险，系统将自动生成详细报告并提供行动建议，为企业带来更高的安全标准。
Blackpanda 的 George Wong 说以往单纯用人手分析，每部电脑装置大约要花 10 小时才能完成，但在 AI 的辅助下，最快只须数十分钟便完成分析及提交报告。
攻击无远弗届 事故应变堵塞安全漏洞
Blackpanda 业务发展总监 George Wong 强调，无论是跨国企业抑或中小企，一样会成为黑客攻击的目标。去年 Blackpanda 共接获 90 多宗本地企业的求助个案，而随着黑客以 AI 强化攻击，他预计数字只会有增无减。George 在会上分享了两个遭受勒索软件攻击的个案，其中之一尽管企业拥有昂贵的防御工具如防火墙、EDR 和 SIEM，又定期为系统及设备更新安全韧体，但因缺乏人手监控，最终也被黑客加密了所有装置及数据。
Blackpanda 作为事故应变（Incident Response）的专家，George 强调事故应变不仅是恢復数据，还包括彻底调查黑客的攻击行为，找出并消除所有后门，防止未来再一次受到攻击。他说公司已将人工智能加入分析工具，而且亦特别以机器学习（Machine Learning）方式，训练人工智能更快识别出各种网络攻击，有助他们在短时间内提供详细报告，帮助企业尽快作出应变。
CPC 的 Edman Tam 指出 AI-SOC结合了人工智能技术，因此能够高效处理及分析大量威胁情报及数据，提升预测及响应能力，减少企业遭受网络攻击的风险。
AI-SOC 应对人才短缺 实现智能预测、防护与应变一体化
中信国际电讯 CPC 数字战略官（信息与网络安全）Edman Tam 认为安全专才及人手短缺是网络安全的致命伤，因为传统的安全运作中心（SOC）以人力为主，但面对复杂的网络威胁，仅依赖人力已无法应对。CPC 引入 AI 技术，重新定义 SOC 的功能，实现从预测、保护到侦测和应变的全方位安全架构。
Edman 分享说，CPC 的 AI-SOC 融合了多种自家研发及合作开发的解决方案，例如 TrustCSITM AI Pentest 便使用了独家专利认证技术，利用 AI 进行渗透测试和漏洞评估，帮助企业在威胁发生前预测潜在风险；TrustCSITM EDR 端点检测与回应工具结合了 SentinelOne 的侦测技术，有效加强企业资产的防护能力；而 TrustCSITM Incident Response（IR） 亦结合了 Blackpanda 的技术，实现自动化报告及回应，将网络安全事故的影响降至最低。总括来说，面对当前层出不穷的 AI 攻击，CPC 的 AI-SOC 服务能够运用智能分析串联起所有监测数据，快速构建完整的攻击脉络，帮助企业在最短时间内做出应对决策，实现全方位的网络安全防护。Edman 亦指 CPC 将于下半年度提供第三个『自主研发』并备有 AI 技术的 SIEM 技术平台，赋能 SOC 更快速及更高效率应对网络威胁。
四位专家一致认为，生成式 AI 是一把双刃剑。它在提升效率的同时，也为网络安全带来了前所未有的挑战。无论是针对生成式 AI 的应用场景，还是黑客利用 AI 技术实施的攻击，专家们均建议企业应採用整合性的解决方案，主动提升网络韧性，构建出更强大的网络防线。
如需了解更多生成式 AI 风险及应对方案，请点击以下连结收看：https://youtu.be/7ZpFz-MT1ZE
