普华永道：ChatGPT和天生式AI的11大安全趋势

新智元报道

泉源：学术头条

作者：库珀

【新智元导读】近期爆火的 AI 谈天呆板人 ChatGPT，以及文生图模子 Dall·E 2、Stable Diffusion 等，让天生式人工智能（generative AI）乐成出圈。然而，技能的背后，也暗藏了一些不容忽视的风险。对安全团队而言，ChatGPT 和天生式人工智能毕竟是福照旧祸？

近来，普华永道的分析师们对国外科技媒体 VentureBeat 分享了关于天生式人工智能和 ChatGPT 等工具将怎样影响威胁形势以及防御者将出现哪些用例的看法。

他们以为，固然人工智能天生恶意代码和垂纶邮件的本领给企业带来了新的寻衅，但也为一系列防御性用例打开了大门，如威胁检测、调停引导，以及掩护 Kubernetes 和云环境等。

总的来说，分析师们乐观地以为，从久远来看，防御性用例将上升，以打击人工智能的恶意利用。

以下是 11 个关于天生式人工智能在将来将怎样影响网络安全的猜测。

1. 恶意利用人工智能

当涉及到我们可以利用人工智能的方式时，我们正处于一个拐点，这种范式变化影响着每一个人和每一件事。当人工智能把握在公民和斲丧者手中时，巨大的事故可以发生。

与此同时，它可以被恶意的威胁者用于邪恶的目的，如恶意软件和复杂的网络垂纶邮件。

鉴于人工智能的将来本领和潜力的许多未知数，构造开辟强盛的步调来创建反抗网络攻击的弹性是至关告急的。

还须要有以社会代价观为底子的羁系，规定这种技能的利用要符合道德。同时，我们须要成为这一工具的“智慧”用户，并思量须要哪些保障步调，以使人工智能在提供最大代价的同时将风险降到最低。

2. 须要掩护人工智能的练习和输出

现在，天生式人工智能已经具备了可以资助企业转型的本领，对于领导者来说，与对怎样驾御日益增长的安全和隐私思量有深刻明确的公司互助，黑白常告急的。

有两方面缘故起因。起首，公司必须掩护人工智能的练习，由于他们从微调模子中得到的独特知识将对他们怎样谋划业务、提供更好的产物和服务，以及与员工、客户和生态体系打仗至关告急。

其次，公司还必须掩护他们从天生式人工智能办理方案中得到的提示和反应，由于它们反映了公司的客户和员工正在利用该技能做什么。

3. 订定天生式人工智能利用政策

当你思量利用你本身的内容、文件和资产进一步练习（微调）天生式人工智能模子，以便它可以在你的（行业/专业）配景下对你的业务的独特本领举行利用时，许多风趣的商业用例就出现了。通过这种方式，企业可以用他们独特的知识产权和知识来扩展天生式人工智能的工作方式。

这就是安全和隐私变得告急的地方。对于一个企业来说，你促使天生式人工智能产生内容的方式应该是你企业的隐私。荣幸的是，大多数天生式人工智能平台从一开始就思量到了这一点，其筹划是为了实现提示、输出和微调内容的安全和隐私。

然而，现在全部用户都明确这一点。以是，任何企业都必须为利用天生式人工智能订定政策，以制止机密和私人数据进入公共体系，并在企业内部为天生式人工智能创建安全和可靠的环境。

4. 当代化的安全审计

天生式人工智能很大概在审计工作方面催生创新。复杂的天生式人工智能有本领创建思量到某些环境的回应，同时以简朴、易懂的语言编写。

这项技能所提供的是一个获取信息和引导的单点，同时还支持文件主动化和分析数据以回应特定的查询--而且服从很高。这是一个双赢的结果。

不丢脸出，这种本领可以为我们的员工提供更好的体验，进而也为我们的客户提供更好的体验。

5. 更加关注数据卫生和评价私见

任何输入人工智能体系的数据都有大概被盗或被滥用的风险。起首，确定输入体系的恰当数据，将有助于淘汰在攻击中丢失机密和私人书息的风险。

别的，告急的是举行恰当的数据网络，以订定详细和有针对性的提示，并将其输入体系，如许你就可以得到更有代价的输出。

一旦你有了你的产出，就须要查抄体系内是否有任何固有的私见。在这个过程中，请一个多元化的专业团队来资助评估任何私见。

与编码或脚本的办理方案差异，天生式人工智能是基于颠末练习的模子，因此它们给出的回应不是 100% 可猜测的。要使天生式人工智能给出最值得信托的输出，须要其背后的技能和利用它的人之间的互助。

6. 跟上埠孟扩大的风险并把握底子知识

既然天生式人工智能正在被广泛采取，实验强盛的安全步调是防止威胁者的须要条件。这项技能的本领使网络犯罪分子有大概创建深度伪造图像，更轻易实验恶意软件和打单软件攻击，公司须要为这些寻衅做好预备。

最有效的网络步调继续受到最少的关注：通过保持根本的网络卫生和压缩巨大的遗留体系，公司可以淘汰网络犯罪分子的攻击面。

整合运营环境可以低落本钱，使公司可以或许最大限度地进步服从，并专注于改善其网络安全步调。

7. 创造新的工作和责任

总的来说，我发起公司思量拥抱天生式人工智能，而不是创建防火墙和反抗--但要有恰当的保障步调和风险缓解步调。天生式人工智能在怎样完成工作方面有一些非常风趣的潜力；它实际上可以资助开释出人类用于分析和创造的时间。

天生式人工智能的出现有大概导致与技能本身干系的新工作和责任--并产生确保人工智能被道德地和负责任地利用的责任。

它还将要求利用这些信息的员工发展一种新的技能--评估和辨认所创建的内容是否正确的本领。

就像盘算器被用于简朴的数学干系任务一样，在一样平常利用天生式人工智能的过程中，仍有许多人类技能须要应用，如批驳性头脑和有目的的定制--以开释天生式人工智能的全部力气。

因此，固然从外貌上看，它好像在主动化人工任务的本领方面构成了威胁，但它也可以开释创造力，资助人们在工作中体现精彩。

8. 利用人工智能来优化网络投资

纵然在经济不确定的环境下，公司也没有积极寻求在 2023 年淘汰网络安全付出；然而，CISO 必须思量他们的投资决定是否更具经济性。

他们正面临着少费钱多服务的压力，导致他们投资于用主动化替换方案代替太过手工的风险防备和缓解过程的技能。

固然天生式人工智能并不完善，但它非常快速、高效和连贯，技能也在灵敏进步。通过实验正确的风险技能--如为更大的风险覆盖面和检测而筹划的呆板学习机制--构造可以节流资金、时间和职员，而且可以或许更好地驾御和反抗将来的任何不确定性。

9. 加强威胁谍报

固然开释天生式人工智能本领的公司专注于掩护，以防止恶意软件、错误信息或虚伪信息的创建和流传，但我们须要假设天生式人工智能将被不良活动者用于这些目的，并提前采取举措。

在 2023 年，我们期待看到威胁谍报和其他防御本领的进一步加强，以利用天生式人工智能做对社会有益的事。天生式人工智能将允许在服从和实时信托决定方面取得根天性的进步。比方，对体系和信息的访问形成实时结论，其置信度比现在摆设的访问和身份模子高许多。

可以肯定的是，天生式人工智能将对每个行业和该行业中的公司的运作方式产生深远的影响；普华永道以为，这些进步将继续由人类主导和技能驱动，2023 年将出现最快速的进步，为将来几十年确定方向。

10. 威胁防备和管理合规风险

随着威胁形势的不停发展，卫生部分--这个个人信息泛滥的行业--继续发现本身处于威胁者的交织对准区。

卫生行业的高管们正在增长他们的网络预算，并投资于主动化技能，这些技能不但可以资助防止网络攻击，还可以管理合规性风险，更好地掩护病人和工作职员的数据，低落医疗本钱，淘汰低服从流程等。

随着天生式人工智能的不停发展，确保医疗体系安全的干系风险和机会也在不停增长，这夸大了医疗行业在继承这种新技能时创建其网络防御和复原力的告急性。

11. 实验数字信托战略

天生式人工智能等技能的创新速率，加上埠孟发展的“拼集”羁系和对机构信托的腐蚀，须要一个更具战略性的方法。

通过寻求数字信托战略，企业可以更好地调和传统上孤立的功能，如网络安全、隐私和数据管理，使他们可以或许猜测风险，同时也为企业开释代价。

其焦点是，数字信托框架确定了逾越合规性的办理方案--而是优先思量构造和客户之间的信托和代价交换。

参考资料：

https://venturebeat.com/security/pwc-highlights-11-chatgpt-and-generative-ai-security-trends-to-watch-in-2023/