黑客探索滥用人工智能的方法在重大安全测试中
黑客滥用人工智能在安全测试中探索方法
DEFCON大会的AI村庄有近2500名黑客在过去的周末对流行的大型语言模型进行了调查和探索，以寻找漏洞。
AI村庄的生成红队挑战被视为技术行业的一个分水岭时刻，这个行业在新的创新出现时一直难以将安全置于首要位置。
Scale AI的工程主管Russell Kaplan表示，这个周末的活动过后，对LLM的测试、评估和红队测试的需求可能会增加10倍。
这个挑战得到了白宫和几家主要的生成型AI开发商的支持，一些参与者等待一个小时才能参加。AI村庄的工作预计将对网络安全行业和政策界产生重大影响。
来源：Axios 查看全文
