Anthropic招股书称失控的AI智能体可能带来重大法律风险

Anthropic在招股书中表示，失控的AI智能体行为可能令公司面临来自客户和用户“重大且难以预测的法律索赔”，尽管相关法律框架目前仍不明确。

Anthropic在文件中表示，“这些智能体的自主性可能增加造成伤害的风险，错误、目标不一致或安全漏洞遭利用都可能导致现实世界中的后果”。