第 02 学部
对齐与 AI 安全科学学部
风险模型、可监督、可验证与价值对齐的科学研究。
学部简介
关于 对齐与 AI 安全科学学部
学部以科学证据为核心研究 AI 风险与对齐问题，提供可复现的安全评估方法，不承接任何付费评测或产品背书。
研究方向
核心研究方向
风险模型
前沿系统风险的形式化与量化建模。
可扩展监督
人类难以直接评估任务中的监督方法。
形式化验证
神经系统性质的可验证保证。
价值对齐
偏好学习、规范推理与对齐评测。
代表人物
学部核心成员
A
Aria Lin
学部主席 · 对齐理论
对齐理论与红队评估方法研究者。
P
Prof. Anika Schmidt
正式 Fellow · 可验证 AI
主持神经网络形式化验证研究。
D
Dr. Sofia Rossi
青年 Fellow · 可扩展监督
研究弱监督到强模型的对齐方法。
相关学部