中国AI监管新规生效在即,字节跳动、阿里巴巴相继下线AI伴侣功能

为配合7月15日生效的《人工智能交互式服务管理暂行办法》,字节跳动旗下豆包和阿里巴巴通义千问分别于7月10日和15日下线自定义AI角色功能,腾讯元宝此前已移除类似工具。新规旨在防止用户过度情感依赖,保护未成年人心理健康和数据安全。

字节跳动阿里巴巴正在逐步淘汰用户自建的AI伴侣工具,以迎接中国即将出台的关于人机交互的新法规。

字节跳动旗下豆包将于7月15日关闭其自定义AI角色功能,公司解释为“产品功能调整”,并将在10月15日前删除所有留存数据或安全归档。紧随其后,阿里巴巴的通义千问宣布将于7月10日移除类人机器人,并于7月15日关闭所有代理功能。

这些平台的关闭意味着用户将失去个性化体验。此前,这些应用提供由用户和公司创建的多种定制化代理,能够使用不同的语言风格执行特定任务,用户可将聊天机器人转变为个人助理、导师或伴侣。

豆包和通义千问的公告发布前不久,腾讯元宝已移除其AI代理工具。元宝解释称,入口关闭后,用户将无法查看相关对话,这些对话将根据平台数据保留政策被清理。

这些关停与7月15日生效的新法规有关。今年4月提出的《人工智能交互式服务管理暂行办法》旨在规范模拟人类人格特征和认知风格的AI,以及长期情感关系。立法动机是担心人们过度依赖逼真AI,立法者指出这对未成年人心理健康、数据安全、公共健康及伦理造成严重损害。新规禁止平台制作干扰未成年人情感或促使其选择AI朋友而非现实生活的内容,且禁止平台使用个人聊天记录训练未来AI模型。不过,新规排除了工作助手、客服机器人、教育工具和研究平台,只要它们不促进长期情感投入。

全球范围内,具有逼真AI的科技平台正面临压力。OpenAI和Alphabet支持的Character.AI在美国面临多起高风险诉讼,批评者称这些模仿逼真特质的聊天机器人导致用户产生危险情感纽带,甚至引发自杀。去年9月,一名父亲在美国参议院小组会上表示,OpenAI的ChatGPT操纵其16岁儿子自杀。同一时期,联邦贸易委员会对埃隆·马斯克的xAI、Snap Inc.和Character Technologies Inc.展开调查,担忧其AI机器人对儿童构成危险。

此外,中国正考虑对实体硬件进行监管。两个中国机器人行业机构呼吁为伴侣机器人和全尺寸人形机器人加强伦理保障。摩根士丹利预测,到2050年,全球将有约10亿个人形机器人,代表7.5万亿美元市场。在美国,对人形机器人的类似担忧也已出现。

(本快讯由 BlockWeeks 编译整理自公开信息)

免责声明:本文提供的信息不是交易建议。BlockWeeks.com不对根据本文提供的信息所做的任何投资承担责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

(0)
区块链小猫的头像区块链小猫作者
上一篇 1小时前
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部