生成式 AI 商业应用与安全风险

主要观点

生成式 AI 在各个商业领域的应用不断扩大，但同时也带来了安全风险。根据 Forrester 的报告，企业需要了解不同的应用场景及其潜在的安全威胁，以便充分利用这项技术。大多数企业将购买生成式 AI，而非自行开发，这迫使安全领导者更投入于理解其所涉及的风险。

旋风加速器破解版

来源 Gorodenkoff / Shutterstock

根据最新的 Salesforce 调查，500 多位高阶 IT 领导者中，67 的人表示他们在未来 18 个月内会将生成式 AI 列为业务优先事项。然而，几乎所有人都承认必须采取额外措施来应对安全挑战，以更成功地利用这项技术。

大多数组织将会购买生成式 AI，许多企业甚至可能不会直接购买，而是通过捆绑的集成来获取。这使得安全领导者必须花时间了解各个业务中的生成式 AI 使用案例及其相关风险。

Forrester 的新报告揭示了最有可能采用生成式 AI 的商业部门、主要使用案例，以及团队在这项技术进入主流市场时需要防范的安全威胁和风险。

企业最有可能的生成式 AI 应用案例

根据 Forrester 的《保护生成式 AI 报告》，组织中最有可能出现的七种生成式 AI 使用案例，以及它们相关的安全威胁和风险如下：

领域使用案例相关风险行销使用文本生成器快速度产生广告文案草稿。资料外泄、资料窃取，及公关客户问题。设计图片生成工具可激发设计师灵感，快速模拟想法。模型中毒、资料篡改及资料完整性威胁。IT程式员利用大型语言模型 (LLMs) 来寻找代码错误及自动生成文档。资料外泄、资料泄漏，及资料完整性威胁。开发者TuringBots 帮助开发者编写原型代码及实现复杂的软体系统。代码安全、资料篡改、勒索病毒及知识产权盗窃问题。数据科学家生成式 AI 使数据科学家能够生成和分享资料以训练模型。资料中毒、资料去混淆及对抗性机器学习威胁。销售AI 生成有助于销售团队创造新想法及内容。资料篡改、资料外泄及合规性威胁。运营内部运营利用生成式 AI 提升组织的智能。资料篡改、资料完整性威胁及员工经验问题。

供应链及第三方管理在保护生成式 AI 中的重要性

虽然 Forrester 的生成式 AI 商业使用案例主要集中在内部业务功能，但它也提醒安全领导者不要忽视供应商和第三方风险因素。Forrester 表示：“考虑到大多数组织将发现生成式 AI 集成到已经部署