人工智慧（AI）带来诸多的便利性，却也潜藏着许多的风险与威胁，使得资讯安全议题深受瞩目。在2024 GDDA国际AI资安论坛上，邀集国际通商法律事务所（Baker McKenzie台北所）专家们齐聚探讨，在生成式AI崛起所带来的风险与挑战中，如何强化政府部门与企业在资讯安全的风险管理与因应措施。

Baker McKenzie 台北所执行合夥律师黄丽蓉(中)、纽约所Cyrus Vance Jr.(左)、雪梨所Ryan Grant(右)对企业导入生成式AI、资安风险管理与因应措施提出见解。

Baker McKenzie台北所执行合夥律师暨争端解决律师团队主席黄丽蓉（Anna L.J Hwang）律师指出， AI为企业带来一系列挑战从网路威胁、资料外泄、演算法歧视，到智慧财产权侵害、营业秘密泄露、法律遵循和劳动力替代使企业面临更高的争端风险。如今全球各国政府陆续拟定AI治理政策与指引，她认为围绕AI的法律框架仍处於萌芽阶段，各国对AI的监管方式不一，如此容易使AI成为企业法律遵循上的地雷区。

Baker McKenzie网路安全业务全球主席Cyrus Vance Jr.在公共和私营部门的经验超过30年，并且曾经担任美国曼哈顿地区检察官长达12年，他表示AI驱动的网路威胁在全球范围内持续增加。不法分子利用AI进行更加复杂的攻击，运用新技术实现高度个人化的网路钓鱼、深度伪造、社交工程和多因子验证（MFA）绕过，企业必须未雨绸缪。随着AI普及使得企业面临的诉讼风险与日俱增。其中最为显着的是智慧财产权诉讼的快速增加，俨然成为潜在争端的最大领域之一，相关诉讼主张AI训练模型所使用的资料侵害了着作权、隐私权或其他类似的权利限制。

Baker McKenzie雪梨所合夥律师Ryan Grant具有软体工程和网际网路技术的专业背景，专精於网路安全和争端的诉讼。他表示作为生成式AI的一个分支，大型语言模型（LLM）具备卓越的理解和生成类人文本的能力，已经改变了组织生成洞见的方式，包括在组织资讯安全方面。LLM仅仅通过简单查询就可以将大量数据转化为可行的见解，因此也成为不法分子和资安团队应用的强大工具。而LLM的有效性将取决於为其提供大规模、精确和具脉络相关性的资料进行训练和优化。倘若使用的训练资料品质不隹，则可能使组织面临包括决策失误和法规遵循风险等各种难题。

近年来，AI风险已成为许多企业在经营管理时最顾虑的议题。黄丽蓉表示，法律界提倡的「联防」概念，企业可以在资安管理方面采取平日演练和检查、面临攻击快速应变、发生事件时减少损失，甚至反守为攻。而企业如何善用生成式AI带来的优势，同时降低其驱动的网路威胁及风险，将成为企业胜出的重要关键。