微软等四公司成立前沿模型论坛 致力于推进人工智能安全

(相关资料图)

7月26日，四家全球领先的人工智能科技公司，包括微软、OpenAI、谷歌和Anthropic，联合宣布成立前沿模型论坛（Frontier Model Forum）。该论坛专注于前沿人工智能模型的研究和发展，旨在确保生成型人工智能的“安全和负责任”地发展，以降低其失控的风险。 前沿人工智能模型是指那些超越现有最先进模型的能力，并且可以执行多种任务的大规模机器学习模型。论坛的主要目标包括推进人工智能安全研究，促进前沿模型的负责任开发，降低风险，并实现独立、标准化的能力和安全评估。 此外，论坛还将确定前沿模型负责任开发和部署的最佳实践，帮助公众了解这项技术的性质、能力、局限和影响。同时，论坛将与政策制定者、学者、民间社会和企业合作，分享有关信任和安全风险的知识，以及支持开发可以帮助应对社会最大挑战的应用，例如减缓和适应气候变化、早期癌症检测和预防、以及应对网络威胁。 论坛将首先建立一个顾问委员会，以便开始制定前沿人工智能模型的安全标准建议，并开展人工智能安全研究，并与其他公司和政府分享这些工作成果。 微软总裁Brad Smith表示：“创造人工智能技术的公司有责任确保它是安全、可靠且受人类控制的。这一倡议是让科技界共同推进负责任的人工智能发展并应对挑战的重要一步，以便它造福全人类。” 前沿模型论坛也欢迎更多从事前沿人工智能模型开发的公司加入该组织，只要他们也表现出对前沿模型安全的坚定承诺，包括通过技术和制度方面的方法。

关键词：