AI对齐

OpenAI正式发布「未来蓝图」，提出三阶段发展路线：第一阶段围绕AGI开展研究；第二阶段成为产品公司、将系统推向现实世界；第三阶段（当前）专注让先进AI充裕、可负担且普惠大众。蓝图核心承诺：不允许任何单一实体（包括OpenAI本身）借助AI垄断权力；计划为每个人部署个人AGI助手；目标2028年由AI与人类研究员协同完成相当一部分对齐研究，同时通过国际协调机制共同防范灾难性风险。