变革之风：生成型人工智能如何革新网络安全
时尚界的重大颠覆：智能化人工智能如何重新定义网络安全
生成性人工智能（GenAI）正在改变几乎所有行业的业务，网络安全也不例外。作为一家价值300亿美元的全球IT服务公司，NTT DATA正处于利用生成性人工智能的前沿，同时管理风险。
最近，我与NTT DATA数字产品副总裁Nitin Bajaj进行了交谈，了解他们如何应对这项新技术。他就网络安全专业人士在GenAI中的承诺和风险提供了独到的见解。
保护GenAI本身
Bajaj解释说，NTT DATA已经建立了一个专门的全球GenAI办公室，制定了整个组织的战略。他们的首要任务是为GenAI使用建立安全治理。Bajaj表示：“我们在所有运营公司都建立了一个迅速实施的GenAI安全策略。”这对于预防可能迅速失控的临时GenAI使用至关重要。
在建立治理框架的基础上，NTT DATA正审慎地开放公共GenAI（如ChatGPT）的使用权限。然而，长期计划是培养针对其特定数据和用例调优的专有模型。Bajaj指出：“向更专业的实施迈进，我所说的SLMs和MLMs——小型和VoAGI语言模型——使用更具体的数据集进行训练，能够更可靠，并提供更高的信心。”
增强人工驱动的安全性
ChatGPT可能擅长创作营销文案，但关键的网络安全需要更强大的解决方案。Bajaj警告说：“是的，您将能够通过利用AI模型减少误报几率。但是威胁的数量和可能的攻击数量将增加。”
这是因为网络犯罪分子可以轻易访问相同的公共GenAI系统。Bajaj说：“这些工具对这些行为者很广泛地可用，因此攻击的可信度显著提高。” GenAI可能会促使更复杂、高度有针对性的社会工程攻击活动。
因此，在短期内，GenAI可能会给人工分析师增加更多工作。“它将导致更多人为干预来支持GenAI生成的攻击数量的增加，”Bajaj预测道。从长远来看，定制的AI模型可能会帮助组织提前应对新兴威胁。
合作伙伴关系和能力
Bajaj强调，合作伙伴关系对于构建有效的AI网络安全解决方案至关重要。NTT DATA正在与领先的安全供应商合作，他们正在开发自己的GenAI能力。Bajaj说：“在构建安全框架时肯定会有合作伙伴角度参与其中。”
NTT DATA与MIT合作了五年，研究数字化人形化身和对话式人工智能。这些能力最终将由GenAI提供支持，但需要经过严格的测试。“作为一个规模更大的组织，我们必须经历这个过程，然后再将其发布到市场上，”Bajaj解释道。
跨行业保护
由于NTT DATA为全球1000家财富500强公司提供服务，他们的网络安全解决方案必须适应各个行业。“网络安全威胁通常更具横向性，与特定领域关联较少，” Bajaj说。“不管是改善交通运输的客户体验还是为医院护理服务部署应用程序，安全原则都是相当相似的。”
这允许在各项工作中广泛复用战略。Bajaj表示，跨地区和跨客户的合作对于快速建立成功至关重要。
前进之路
尽管存在风险，Bajaj断言客户渴望利用GenAI，这是最近NTT DATA咨询委员会会议上“最热门的话题”。然而，大型组织必须奠定正确的基础。“在我们将其提供给客户之前，为我们自己构建治理框架、安全框架并进行测试非常有必要，”他说。
通过采取谨慎的方法，NTT DATA旨在创建设计安全的GenAI解决方案。这将使它们能够全面改变业务流程和客户实践。Bajaj总结道：“我们对数字转型和托管服务的关注将引导我们朝着跨越整个产品系列的价值创造模式的发展。”
在网络安全领域，生成式人工智能（GenAI）显然是一个无法收回的魔灯。随着GenAI的民主化进一步推进，组织必须积极采取安全措施。
凭借正确的管理、测试和可靠的合作伙伴关系，GenAI可以将网络安全推向一个新的水平。但这需要公司发展他们的策略和技能水平——就像NTT DATA今天所做的一样。
