本周三，美国人工智能（AI）领域的四位领导者集团宣布成立一个行业论坛组织，该论坛将致力于解决AI技术尖端版本可能带来的风险，确保使用过程安全。

　　Anthropic、谷歌、微软和ChatGPT制造商Open AI表示，新成立的前沿模型论坛组织将利用其成员的专业知识，最大限度地支持行业标准，并在实际活动中降低人工智能风险。

　　几家公司承诺，他们将与彼此、立法者和研究人员分享最佳实践方法与途径。

　　“前沿”模型是指新兴的大规模机器学习平台，过往的事实表明，它能够将人工智能提升到新的复杂水平，并且还具有可能一定的安全风险。

　　微软总裁布拉德·史密斯在一份声明中表示：“创造人工智能技术的公司有责任确保其安全、可靠并处于人类控制之下。”

　　“这一举措是将科技行业的领导者们聚集在一起，负责任地推进人工智能并应对挑战，使其造福全人类的重要一步。”

　　美国总统乔·拜登上周在白宫与科技领导人举行的会议上提到了人工智能的“巨大”风险和承诺，这些领导人承诺随着该行业的发展，防范从网络攻击到欺诈等各种威胁。

　　拜登与亚马逊、Anthropic、谷歌、Inflection、Meta、微软和Open AI的高层代表并肩表示，随着人工智能越来越深入地渗透到个人和商业生活中，这些公司已承诺“引导负责任的创新”。

　　在会议之前，七家人工智能巨头承诺采取一系列自我监管的保障措施，白宫称这些保障措施将“强调人工智能未来的三大原则：安全、保障和信任”。

　　在承诺中，其中两家公司同意开发“强大的技术机制”，例如水印系统，以确保用户知道内容何时来自人工智能而不是人类。

　　另有参与公司在一份新闻稿中表示，前沿模型论坛的核心目标，包括最大限度地降低风险并实现对人工智能平台的独立安全评估。

　　据其创建者称，该论坛还将支持开发旨在应对气候变化、癌症预防和网络威胁等挑战的应用程序。

　　其他追求人工智能突破的个人和组织企业也被邀请加入该论坛。Open AI全球事务副总裁Anna Makanju表示：“先进的人工智能技术具有给社会带来深远影响的潜力，而实现这一潜力的能力需要监督和治理。”

　　“至关重要的是，人工智能公司——尤其是那些致力于最强大模型的公司——必须在共同点上保持一致，并推进深思熟虑且适应性强的安全实践。”

　　根据可靠消息，此次合作是在上周白宫与同某公司及亚马逊、Meta举行会议之后达成的，会议讨论了如何保障未来人工智能的安全和透明的发展。

　　超过九成的IT领导者表示，生成式人工智能将很快成为业界主流

　　这个名为“前沿模型论坛”的监管组织指出，虽然世界各地的一些政府正在采取措施确保人工智能的安全，但这些措施还不够。相反，能否真正确保人工智能的安全，将取决于科技公司本身。

　　在谷歌网站上的一篇科技博客文章中，详细列出了该论坛四个主要目标：

　　改进人工智能安全研究，最大限度降低未来风险

　　确定负责任地开发和部署未来模型的最佳实践

　　与政策制定者、学者和其他人合作，分享有关人工智能安全风险的知识

　　支持人工智能在解决气候变化和癌症检测等人类最大问题方面的发展

　　Open AI的一位代表补充说，虽然该组织论坛将与政策制定者合作，但并不会参与政府游说。且该论坛的会员资格，对满足以下三个标准的任何公司开放：能够开发和部署前沿模型、表现出对前沿模型安全的坚定承诺，以及愿意参与与其他成员的联合倡议。

　　什么是“前沿模型”？该论坛将其定义为“任何超越当前能力并具有广泛能力的大规模机器学习模型”。

　　人工智能有潜力实现工作日平均40%的自动化

　　该论坛表示，虽然人工智能具有改变世界的潜力，但“需要适当的护栏来降低风险。”Open AI全球事务副总裁Anna Makanju发表声明：“至关重要的是，人工智能公司，尤其是那些致力于开发和使用最强大模型的公司，必须在这些观点上保持一致。这是一项紧迫的工作。而这个论坛的定位很好。应当迅速采取行动，提高人工智能安全水平。”

　　微软总裁布拉德·史密斯（Brad Smith）也表达了同样的观点，他表示，这些适度的安全防护应当最终取决于开发人工智能技术的公司，其有责任确保人工智能的安全，并将风险降低在人类控制之下。

　　在人工智能技术飞速发展的web3时代，技术边界不断模糊着人类对于信息安全，数据安全甚至是伦理安全的界限。正如几家目前正致力于成立和发展该论坛的倡导者所言，创造出跨时代科技的公司和组织，有责任与义务对其技术进行规范和“限制”，这并非是简单纯粹的商业问题和技术问题，而是能够影响整个人类社会与科技文明长远发展的重中之重。