Anthropic 倡导针对性人工智能监管以应对快速进展 - Blockchain.News

Anthropic 倡导针对性人工智能监管以应对快速进展

realtime news Nov 01, 2024 09:19

随着人工智能能力的快速增长,Anthropic 强调需要针对性的人工智能监管,以在获得益处的同时降低风险。该公司将其责任扩展政策作为主动安全措施的典范。

Anthropic 倡导针对性人工智能监管以应对快速进展

随着人工智能(AI)系统的快速发展,越来越多的呼声要求通过有针对性的监管来应对潜在风险,同时不压制创新。据Anthropic称,这是一家领先的人工智能研究公司,全球各国政府必须在接下来的18个月内迅速采取行动,实施人工智能政策,以防止灾难性风险。

紧急行动的必要性

人工智能系统在许多领域取得了重大进展,包括数学、推理和计算机编程。虽然这些进步承诺加速科学进展和经济增长,但它们也可能带来潜在威胁,特别是在网络安全和生物学方面。Anthropic 强调,人工智能的误用或意想不到的自主行为可能导致毁灭性的应用,因此需要立即采取监管行动。

Anthropic 的责任扩展政策

Anthropic 制定了一个责任扩展政策(RSP)以主动应对 AI 风险。这个自适应框架确保安全和安保措施与 AI 系统的能力相称。该政策要求根据不断发展的 AI 能力对安全策略进行迭代评估和调整。自2023年9月实施以来,RSP 已指导 Anthropic 的 AI 安全措施,影响组织优先事项和产品开发。

有效人工智能监管的原则

Anthropic 认为,有效的AI监管应注重透明性,激励强有力的安全实践,并保持简单性。公司应被要求公布其类似RSP的政策,说明能力阈值及相关防护措施。监管还应通过激励和标准评估鼓励公司开发有效的RSP,以确保实践具有灵活性,能够适应快速的技术进步。

全球和国家监管考虑

虽然联邦监管对美国的统一性是理想的,但 Anthropic 意识到由于 AI 风险的紧迫性,可能需要州级行动。在全球范围内,Anthropic 认为其提出的原则可能引导国际 AI 政策,强调标准化和相互认可的重要性,以减少监管负担。

平衡创新与风险预防

Anthropic 主张设计良好的监管可以在不阻碍创新的情况下最小化灾难性风险。RSP 框架旨在快速识别无威胁模型,最小化合规负担。Anthropic 还指出,安全研究往往有利于更广泛的 AI 进步,可能加速进展。

随着 AI 系统的持续演变,对负责任监管的呼声变得更加紧迫。Anthropic 针对性监管的洞察为在利用 AI 潜力的同时保障其风险提供了一条途径。

Image source: Shutterstock