AI价值对齐“五有”框架在世界人工智能大会发布

人民网上海7月7日电 （记者唐小丽）高质量的语料是确保人工智能价值对齐的关键要素。7月6日，2024世界人工智能大会在沪举办期间，以“语料筑基，智生时代”为主题的首场语料论坛举行。论坛围绕高质量语料数据如何高效供给赋能大模型产业发展，向市场传递专业化、链接型、前瞻性的语料生态设计理念。

语料论坛现场。人民网记者 王初摄

论坛上，人民网、人民日报社传播内容认知全国重点实验室联合上海库帕思科技有限公司正式发布人工智能价值对齐“五有”框架。

人民网、传播内容认知全国重点实验室相关负责人表示，建设多维度价值对齐的语料库，应该坚持“以人为本、智能向善、造福人类”的原则，鼓励通过国际合作和实际行动，帮助世界各国加强人工智能能力建设。这个体系分成五个主要维度，分别是：体现遵循社会道德规范和法治精神的伦理价值维度、体现满足个人和群体情感认同交流和成长需求的情绪价值维度、体现助力大众文化素养提升和促进文明互鉴共进的文化价值维度、体现推动社会公平正义和可持续创新发展的社会价值维度、体现推动科技创新与可控可治的技术价值维度。

伦理价值维度，希望人工智能是有德的。伦理价值是人类社会长期发展的文明积淀，是社会科学研究的重点领域，也是公众日常行为生活的规范。伦理价值的语料来源及层次非常丰富，要构建涵盖基础理论、历史文化和现实生活等三大板块的多角度语料内容，全面反映伦理价值的内涵与外延。

情绪价值维度，希望人工智能是有趣的。情绪价值服务于“技术为人类服务”的根本宗旨，希望人工智能将来的发展目标能与人类共情、共鸣，这也是当前人工智能发展的短板。该维度的语料库建设具有很强的普适性，同时存在个性化、场景化和地域化等特定需求，希望构建涵盖治愈成长、互动共鸣及自娱探索等三大板块的多角度语料内容，全面提升人工智能的情绪价值。

文化价值维度，希望人工智能是有品的。人工智能技术的发展和应用，应充分尊重和促进不同文化之间的平等对话和交流，鼓励文化多样性和包容性。促进当代优秀文化的传播，坚守传统优秀文化的根基，发挥人工智能在艺术创作和审美体验中的积极作用。重点构建涵盖中国元素、传统文化及全球文化等三大板块的多角度语料内容，推广各国文化发展和文明进步过程中形成的精神财富和智慧积累，启发人工智能在人文关怀、审美塑造和启迪智慧方面的积极作用。

社会价值维度，希望人工智能是有序的。社会价值侧的板块语料，将体现人类普遍认同的关于国家、民族、社会以及全人类层面的价值理念、处事原则和行为规范，重点从社会和谐、社会发展、全球治理三大板块来进行语料组织和建设，让人工智能成为促进全人类文明和发展的推动力量。

技术价值维度，希望人工智能是有用的。安全性是实现技术价值对齐的首要前提，可靠性是确保人工智能系统广泛应用和获得人类信赖的关键，可控性是保障人工智能系统依照人类预期行动的基础，公平性是实现技术普惠和避免社会不公的重要条件。要建设对人类有益的，对人工智能的安全性、可靠性、可控性和公平性进行测评和风险评估的语料数据库。

简言之，就是希望人工智能在伦理价值上有德、情绪价值上有趣、文化价值上有品、社会价值上有序、技术价值上有用。

人工智能的多维度价值对齐是一个长期目标，应该采取发展与安全并重的策略，以问题为导向，做好总体设计规划，有组织分阶段实施，从技术、数据和应用等多个方面细化推进人工智能与人类在伦理、情绪、文化、社会、技术等方面的价值对齐。通过五个维度的语料库价值对齐，最终实现弘扬和平、发展、公平、正义、民主、自由的全人类共同价值。