大模型之家讯 今日，OpenAI超级对齐团队发布了一项关于超级智能对齐的新研究成果。该团队致力于建立适用于未来强大人工智能系统的治理和控制框架。研究方法包括使用较弱的AI模型（如GPT-2）引导更先进、更复杂的模型（如GPT-4）朝理想方向发展，以避免不良方向的发展。同时，OpenAI宣布启动一项价值1000万美元的资助计划，支持超级智能对齐的技术研究，其中部分资金将提供给学术实验室、非营利组织、个人研究人员和研究生。计划于2025年初举办一次超级对齐学术会议，分享并推广奖决赛入围者的工作。 OpenAI于今年7月成立了Superalignment团队，由OpenAI联合创始人兼首席科学家Ilya Sutskever领导。
