“DARPA借助黑客加强关键软件以抵御网络威胁”

DARPA enhances critical software with hackers to counter network threats.

保护脆弱的软件基础设施的紧迫性是一个雄心勃勃的新的DARPA计划的核心——AI Cyber Challenge（AIxCC）。通过吸引顶级安全人才参与比赛，AIxCC旨在推动创新工具，以实现自动检测和修补大规模缺陷。

正如Perri Adams在BlackHat 2023上的公告中所强调的那样，现代生活越来越依赖于软件，然而这个庞大的代码库代表了恶意行为者的主要攻击面。近年来暴露出了保护我们的软件基础设施所需的先进能力的迫切需求。

Adams认为比赛可以在人工智能和安全交叉领域推动突破。她在计算机科学专业的学生时代通过Capture the Flag游戏对网络安全产生了浓厚的兴趣。与顶级黑客竞争是一种深入的教育，揭示了防御所需的多样化技能。这些比赛仍然影响着她促进创新的方法。

AIxCC代表了一种新颖的挑战形式，旨在推动保护脆弱软件的进展，这些软件支撑着关键系统。团队必须创建能够自动识别和修补大规模漏洞的人工智能系统才能成功。

• Google AI的AdaTape是一种基于Transformer架构的新的AI方法
• 逐步解释核密度估计器
• Google DeepMind研究人员介绍了SynJax：一种用于JAX结构化概率分布的深度学习库

Adams强调，最近在人工智能方面取得的进展，如果能够负责任地加以利用，将为我们提前应对威胁提供有希望的途径。AIxCC旨在通过比赛将人工智能和安全领域的顶级人才聚集起来，探索这种潜力。她相信挑战的力量是迫使功能和合作缺失至今的机会。AIxCC是展示人工智能在解决社会最大数字挑战方面的意义的机会。

AIxCC通过动员安全研究人员和人工智能专家的合作任务来应对保护基础设施的挑战。这个为期两年的计划包括资助和开放两个赛道，供符合资格的团队参加解决软件安全挑战的比赛。

目标是克服资源限制，以便手动修补普遍存在的软件缺陷。参赛者将利用人工智能技术开发自动化系统，以确保在国家基础设施规模上保护广泛使用的代码。

包括Anthropic、Google、Microsoft和OpenAI在内的关键私营部门参与者将为参赛者提供先进的人工智能平台。DARPA预计整合最先进的商业人工智能将催生突破性的网络安全创新。

Linux Foundation的OpenSSF项目将为团队提供关于有效应用人工智能解决开源安全问题的建议，这些问题构成了需要保护的软件的大部分。活动将在著名的DEFCON和BlackHat安全会议上举行。

最多可以有七个资助团队每个团队获得高达75万美元的资助，参加半决赛，其中大约有20个团队将晋级决赛。将向最佳展示人工智能增强软件完整性潜力的优胜者颁发高达7.5万美元的奖金。

通过利用熟练的安全工程师主动查找和修复缺陷，AIxCC展示了一种开明的网络防御战略。该计划认识到技术人员是构建弹性的强大盟友，而不是需要受到监管的责任。

AIxCC旨在通过激励黑客运用他们的才能，在灾难发生之前培养先进的能力。今天开发自主解决方案将有助于确保关键系统在未来的对抗性国家攻击中得到保护。

通过这种创新的公私合作伙伴关系，DARPA希望将人工智能的巨大潜力引导到为我们互联世界的支柱加固脆弱代码的利益上。

Adams认为，AIxCC将在几十年的安全研究基础上构建思考，而不仅仅是将神经网络应用于问题上。目标是在人工智能和经过验证的方法论的交叉点推动实质性的创新。

她指出开源在实际防御和供应链完整性中的关键作用。Linux Foundation的OpenSSF将就解决开源安全的重要问题向团队提供建议。

在Adams的愿景中，AIxCC的获胜者将通过开源创新推进公共利益。所开发的新的自主能力将对商业和社区开发者免费提供。

最终，Adams将AIxCC视为将人工智能的巨大能力指向造福社会的机会。该计划认识到技术人员是建设数字韧性的合作伙伴。通过激励他们的才能，AIxCC旨在培养先进的防御系统，以应对未来的威胁。