OpenAI正在建立一个红队网络来解决人工智能安全问题-你可以申请加入

OpenAI建立红队网络以解决AI安全问题-欢迎申请加入

OpenAI的ChatGPT已经在全球累积了超过1亿用户，这凸显了人工智能的积极应用案例以及对更多监管的需求。OpenAI现在正在组建一个团队来帮助构建更安全、更强大的模型。

周二，OpenAI宣布推出其OpenAI Red Teaming Network，由专家组成，这些专家可以帮助提供见解，以便为公司的风险评估和缓解策略提供指导，以部署更安全的模型。

同时：您需要了解的Amazon AI的每一项公告

根据OpenAI的说法，这个网络将改变OpenAI进行风险评估的方式，使其变得更加正式，涉及模型和产品开发周期的各个阶段，而不是“在主要模型部署之前的一次性参与和选择过程”。

OpenAI正在寻找各个背景的专家，包括教育、经济学、法律、语言学、政治学和心理学等领域的专业知识。

同时：如何使用ChatGPT进行论文、演示、研究等工作

但OpenAI表示，并不需要有AI系统或语言模型的相关经验。

成员将获得报酬，并受到保密协议的约束。由于他们不会参与每个新模型或项目，因此红队可能只需要每年五小时的时间承诺。您可以通过OpenAI的网站申请加入这个网络。

除了OpenAI的红队活动，专家们还可以在一般的“红队实践和发现”上相互交流，根据博客文章的说法。

同时：亚马逊正在将Alexa打造成无需手动操作的ChatGPT

OpenAI表示：“这个网络为塑造更安全的AI技术和政策、以及AI对我们的生活、工作和交流方式的影响提供了独特的机会。”

红队测试是测试新技术的有效性和确保安全性的重要过程。谷歌和微软等其他科技巨头也为其AI模型设立了专门的红队。