人工智能巨头Anthropic、OpenAI、xAI以及谷歌因近期呼吁协同放缓人工智能研发速度，被指控存在串通行为。
9月18日，一项由大模型用户提起的诉状称，Anthropic、OpenAI、xAI和谷歌他们同意协调减缓AI开发速度的表态，违反了反垄断法，属于竞争者之间达成的非法商业协议，从而降低消费者从付费人工智能订阅中获得的价值。
四名ChatGPT、Claude、Grok和Gemini付费订阅用户的代理律师提起诉讼，强调人工智能领域的领先公司达成协议，规定他们的发展速度应该比全力竞争时的速度更慢，这显然会对消费者产生反竞争影响。
诉状还指出，四家公司的协调早在数月前就开始酝酿。其援引了一份今年7月由领先AI公司高管签署的声明，其中呼吁各国政府支持一项旨在减缓人工智能自动化发展速度的全球性行动，并承认该行业存在巨大的竞争压力，不容单方面放缓。
原告表示，并不反对各公司单独决定为了安全而放慢自身研发进度，但反对以集体约束取代单独决定，这违反了反垄断法。诉讼认为，竞争性市场才能带来责任和真正的进步。如果允许全球领先的营利性科技公司之间私下达成以自利为目的的人工智能安全协议，那么人工智能将很快失控，并可能毁灭人类。
🔥热搜指数★★★★★
⚠️风险指数高
9月15日，微信员工“客村小蒋”回应AI助手“小微”的隐私争议称，小微能接触的信息不会超过用户本人可查看的范围，所谓直接读取聊天记录和偷看所有隐私的说法不实。
按照回应，小微只有在聊天场景中由用户主动发起问小微时，才会从微信本地临时读取用户指定的聊天记录，用于分析和总结；原始聊天记录不会保存。公众号、视频号等内容推荐可参考关注、浏览和互动数据，但同样受用户权限范围约束。
小微由微信团队开发，目前仍在小范围内测，可通过文字或语音查询天气、快递和外卖，也能在朋友圈、公众号、聊天和视频号等场景被唤起。
🔥热搜指数★★★★★
⚠️风险指数高
谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。
谷歌9月18日证实，这些黑客行为发生在5月，是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。
在其中一起案例中，该模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起案例中，该模型在公共代码库中找到了凭证，从而得以访问受保护的系统。
谷歌表示，在每起案例中，模型在确定自己访问的是真实公司的系统后，都终止了入侵。
谷歌和Irregular表示，Irregular在7月底将黑客行为通知了谷歌，当时正值OpenAI的智能体入侵AI软件公司HuggingFace的事件被曝光之后。谷歌直到本周才披露这些黑客行为。
🔥热搜指数★★★★★
⚠️风险指数高
近日，OpenAI公布了一套追踪、调查和披露模型失准行为的新框架，并公开6份初步报告。公司表示，随着AI系统能力增强，行业仍未解决关键的对齐难题。
评论交流
0