中国网信办在清朗行动首阶段下架超1.4万AI产品,清理600余万条非法信息,暂停2.6万个账号。第二阶段将聚焦AI虚假信息、暴力内容等,7月新规将限制AI情感陪伴服务。
大模型容易被一句“你确定吗”带偏,暴露出当前模型缺少稳定自信和抗用户误导能力。