-
题名韧性对齐:复杂范式下AI大模型发展的价值逻辑
被引量：1
- 1
-
-
作者
喻国明
金丽萍
-
机构
北京师范大学新闻传播学院
-
出处
《西安交通大学学报(社会科学版)》
北大核心
2025年第3期139-148,共10页
-
文摘
有效加速与超级对齐作为大模型发展与治理的一体两面,并非线性对立而是动态博弈、相辅相成的。基于人工智能大模型价值对齐现状与困境,提出应以复杂范式重新审视对齐理念,用韧性对齐的宽频、范围、动态控制取代单一标准的静态对齐。对齐在实践中作为复杂性系统工程,存在底线与高线之分。其中,基础性价值对齐关乎底层准则,所有具体规则都不能违背;结构性价值对齐关乎具体规则,不同国家、民族、文化可因地制宜进行构建与调整;功能性价值对齐则强调根据服务对象、具体场景进行灵活调整,抓大放小、有的放矢地适应多样化场景。对齐目标随时间、空间的复杂流动而变化,存在目标控制、过程控制、细节控制等不同层级。复杂范式下的价值对齐,核心在于厘清人类智能与人工智能的边界,在人类—技术—社会动态博弈中寻找发展的最大公约数,达到可对话、可调整、可控制的状态。
-
关键词
人工智能大模型
价值对齐
超级对齐
有效加速主义
韧性对齐
生成式ai治理
复杂性范式
-
Keywords
ai large model
value alignment
super alignment
effective acceleratism
resilient alignment
governance of generative ai
complexity paradigm
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
