白宫近日宣布推出为期两年的AI模型网络挑战赛，这可谓是红队行动中的巅峰之作，将对美国最强大的大型语言模型进行全面检验。
该挑战赛于我们的黑帽美国大会上宣布，由美国国防部高级研究计划局（DARPA）主导。
OpenAI、谷歌、微软和Anthropic等公司已同意让黑客发现其AI模型中的漏洞并提升其安全性，总奖金金额达2000万美元。
预选赛将于2024年春季举行，前20支队伍将晋级2024年Def Con半决赛，这是一场顶级网络安全大会。从这20支队伍中，将选出5支队伍进入决赛。他们将获得现金奖励，并获得2025年Def Con总决赛的参赛资格。
其中的三支队伍将获胜并获得额外的奖金。比赛将于8月17日至9月19日期间接受申请。
此次挑战赛于今年5月首次宣布。上个月，白宫要求七家领先AI领域的公司承诺管理AI风险。政府还在制定有关AI安全的行政命令，并寻求在国会推进类似的立法。
https://aibusiness.com/nlp/ai-news-roundup-tech-giants-to-open-ai-models-to-hackers
本文由ChatGPT 3.5撰写。
正文完
