公司如何使用GenAI来防范ChatGPT泄漏数据

人工智能
ChatGPT的最大风险是员工意外地与任何人都可以访问的大型语言模型共享知识产权、机密定价、成本、财务分析和人力资源数据。三星和其他公司不小心泄露了机密数据,这在安全和高级管理领导人的脑海中仍然记忆犹新。

根据哈佛大学最近的一项研究,公司员工的工作效率提高了40%,这要归功于基于哈佛大学的一项研究。麻省理工学院的另一项研究发现,ChatGPT减少了技能不平等,加快了文档创建时间,同时使公司员工能够更高效地利用时间。ChatGPT正在帮助公司员工在更短的时间内完成更多工作,而员工不愿分享他们使用该工具的目的,70%的人还没有告诉他们的老板这件事。

在不牺牲速度的情况下降低知识产权损失风险

ChatGPT的最大风险是员工意外地与任何人都可以访问的大型语言模型共享知识产权、机密定价、成本、财务分析和人力资源数据。三星和其他公司不小心泄露了机密数据,这在安全和高级管理领导人的脑海中仍然记忆犹新。

鉴于这个问题是多么迫切地需要解决,以及它是如何以指导用户行为为轴心的,许多公司都在寻求基于GenAI方法来解决安全问题,这就是为什么人们对GenAI Isolation和类似技术越来越感兴趣,这些技术可以将机密数据排除在ChatGPT、Bard和其他代AI网站之外。每一家公司都希望在竞争效率、速度和流程改进之间取得平衡,ChatGPT为降低风险提供了坚实的战略。

去年11月,记者采访了National Oilwell Varco的CIO Alex Philips,谈到了他的公司在GenAI方面的方法。Philips告诉记者,他承担了教育董事会了解ChatGPT和GenAI的总体优势和风险的角色。他定期向董事会提供GenAI技术的最新情况,包括政府如何以最低风险从新兴技术中获得最大价值,这一正在进行的教育过程有助于设定人们对这项技术的期望,以及政府如何设置护栏,以确保三星式的泄漏永远不会发生。

有一系列新兴的新技术被引入,以应对在不牺牲速度的情况下确保ChatGPT会话安全的挑战。思科、Ericom Security by Cradlepoint的GenAI隔离、Menlo Security、NightFall AI、Wiz和Zscaler是市场上最引人注目的几个新系统,旨在帮助安全领导者克服这一挑战。

供应商如何应对挑战

旨在将机密数据排除在ChatGPT会话之外的六大解决方案提供商中的每一家都采取了不同的方法来保护公司免受机密数据的共享。最具吸引力的两个是Ericom Security by Cradlepoint的GenAI Isolation和ChatGPT Nightfall。

Cradlepoint的方法依赖于无客户端方法,即用户与GenAI站点的交互在Ericom Cloud平台内的虚拟浏览器中执行。Cradlepoint表示,这种方法旨在允许在他们的云平台上应用数据丢失保护和访问策略控制。在设计他们的系统以通过他们专有的云平台路由所有流量时,可以防止个人身份信息或其他敏感数据被提交到ChatGPT等GenAI网站。Ericom Security by Cradlepoint的方法是独一无二的,因为它的设计方式是通过其云架构提供最低特权的访问。

Night Fall AI为希望保护其机密数据不被ChatGPT和类似网站共享的公司提供了三种不同的解决方案,它们为ChatGPT、LLMS和SaaS提供晚间服务。Night for ChatGPT是一个基于浏览器的解决方案,它可以在敏感数据暴露之前对其进行实时扫描和编辑。Night Fall for LLMS是一种API,用于检测和编辑用于培训LLMS的敏感数据。Night for SaaS与流行的SaaS应用程序集成,防止敏感信息在各种云服务中暴露。

GenAI正在定义知识的未来

GenAI是每个公司期待已久的知识引擎。记者了解到,彻底禁止ChatGPT、Bard和其他基于AI的生成性聊天机器人会产生相反的效果。当IT试图停止使用影子AI时,影子AI就会蓬勃发展,推动新的AI应用程序的下载,从而增加保护机密数据安全的挑战。

很高兴看到更多的CIO和CISO采用基于知识的方法进行试点,然后将基于AI的系统投入生产,这些系统可以消除浏览器级别的风险。像Cradlepoint Ericom那样,通过使用其安全的云架构保护公司不共享数据,可提供大型公司所需的规模,以保护数千名员工免受意外共享机密数据的影响。

目标需要是将GenAI发生的快速创新转变为竞争优势,这是IT和安全部门的工作。CISO和安全团队需要随时了解最新技术和技术,以保护机密数据、PII数据和基于专利的数据。了解保护数据的选项有哪些,以及这些选项如何更改,对于保持作为知识型公司的竞争力至关重要。

Cradlepoint负责营销Ericom网络安全部门的副总裁Gerry Grealish表示:“GenAI网站提供了无与伦比的生产力提升,但公司必须积极主动地应对相关风险。我们的GenAI Isolation解决方案使公司能够实现完美的平衡,利用GenAI的潜力,同时防范数据丢失、恶意软件威胁以及法律和合规挑战。”

责任编辑:姜华 来源: 企业网D1Net
相关推荐

2009-11-06 13:40:07

2013-01-22 11:31:00

2024-03-28 08:00:00

GenAI人工智能

2020-06-08 09:18:59

JavaScript开发技术

2011-07-07 13:08:49

2010-01-30 11:23:59

2024-02-28 13:41:00

GenAI数据治理LLM

2023-03-07 13:50:54

2023-11-29 14:18:44

2023-05-17 15:09:54

2016-05-17 09:42:16

2023-04-24 08:00:00

2024-04-19 10:09:34

GenAI人工智能数据安全

2024-04-07 08:50:00

GenAIAI人工智能

2024-02-27 16:14:07

数据治理GenAI数据安全

2023-04-12 08:00:00

人工智能ChatGPTPython

2023-11-20 15:52:18

GenAI人工智能

2024-01-11 11:10:53

2023-12-29 17:00:27

2022-03-02 00:06:36

数据勒索软件恶意软件
点赞
收藏

51CTO技术栈公众号