晨光
暗夜
晨光
极光
Bilingual Paper Reading · 中英对照精读

联邦非线性系统辨识(Federated Nonlinear System Identification)

准大一 · 自动化 × 联邦学习 × 系统辨识 —— 联邦非线性系统辨识精读材料
原文:arXiv:2508.15025 2025年8月20日发布 arXiv 预印本(cs.LG / eess.SY) 联邦学习 × 非线性系统辨识 × PWA 模型 附英文摘要朗读音频

一、论文档案

英文标题Federated Nonlinear System Identification
中文标题联邦非线性系统辨识(多个客户端不共享原始数据、协作辨识同族非线性系统)
作者奥姆卡尔·图佩, 马克斯·哈特曼, 拉夫·R·瓦尔什尼, 绍拉夫·普拉卡什(机构未在素材中标注;致谢提及 IIT Madras、WSAI、CeRAI)
发布时间2025年8月20日(v1)|分类:cs.LG(机器学习)、eess.SY(系统与控制工程)
一句话概括把联邦学习用于「线性参数化非线性系统」(重点是分段仿射 PWA 模型)的辨识:理论证明收敛误差随客户端数 M 增加按 𝒪̃(1/√M) 下降,并在摆与四旋翼两类非线性物理系统上实验验证——客户端越多,每个客户端收敛得越好。
💡 为什么选这篇给你:① 「数据不出域 + 协作建模」是自动化与 AI 最火的方向之一,而系统辨识是自动化的看家本领——两个热点的交叉;② 论文有完整的「理论(收敛保证)→ 实验(物理系统验证)」链条,可复现性强;③ 涉及 PWA 模型、特征映射、Koopman 理论等丰富概念,是系统辨识方向保研面试的绝佳谈资。

二、核心术语表(先扫一遍再读正文)

英文术语中文大白话解释
federated learning联邦学习数据不出本地、只交换模型更新的协作学习范式——「数据不动,模型动」。
system identification系统辨识从输入输出数据学习系统的动力学模型,用于动力学未知的系统。
linearly-parameterized nonlinear system线性参数化非线性系统状态转移 = 非线性特征映射的「线性组合」——非线性在特征里,参数是线性的,方便理论分析。
piecewise affine (PWA) model分段仿射模型用多个「线性+常数」的区域拼接起来逼近非线性动力学,简单又强大。
feature map φ特征映射 φ把「状态-输入对」映射到特征空间的函数;在非线性设定下可精心挑选以增强激励、改善性能。
convergence rate / error收敛速率 / 收敛误差误差随迭代次数(或客户端数量)下降的速度/大小,是联邦学习的核心指标。
soft-O notation 𝒪̃(·)软 O 记号 𝒪̃(·)忽略对数因子的复杂度记号,比严格 O 记号更宽松。
heterogeneity parameter ϵ异质性参数 ε描述不同客户端系统之间差异程度的参数——客户端「相似但不完全相同」。
i.i.d. control inputs独立同分布控制输入每个时刻的控制输入独立同分布,属于「非主动探索」——不刻意设计激励信号。
non-active exploration非主动探索只用系统自然产生的控制输入(带随机扰动),不主动设计实验激励。
real-analytic feature function实解析特征函数能展开成收敛幂级数的光滑函数(如多项式、三角函数)——本文实验采用的特征。
centralized approach集中式方法把所有数据集中到一个中心再训练的传统做法;本文对比的基准。
client / central server客户端 / 中心服务器联邦学习的两个角色:客户端本地训练,服务器聚合更新得到全局模型。
Koopman theoryKoopman 理论把状态提升到无穷维特征空间,让非线性系统在其中「看起来是线性」的理论。
linear time-invariant (LTI) system线性时不变系统下一状态与输出都是当前状态和输入的线性函数、参数不随时间变化的系统——本文的起点对照。

三、摘要中英对照(精读核心)

🎧 音频在文末,可先听一遍原文再读;每个英文句都配了逐句翻译。

摘要 Abstract

EN · 原文
We consider federated learning of linearly-parameterized nonlinear systems.
CN · 翻译
我们研究线性参数化非线性系统的联邦学习问题。
EN · 原文
We establish theoretical guarantees on the effectiveness of federated nonlinear system identification compared to centralized approaches, demonstrating that the convergence rate improves as the number of clients increases.
CN · 翻译
我们建立了联邦非线性系统辨识相对集中式方法的有效性理论保证,证明收敛速率随客户端数量增加而改善
EN · 原文
Although the convergence rates in the linear and nonlinear cases differ only by a constant, this constant depends on the feature map φ, which can be carefully chosen in the nonlinear setting to increase excitation and improve performance.
CN · 翻译
尽管线性与非线性情形的收敛速率只差一个常数,但这个常数取决于特征映射 φ——在非线性设定下可以精心选择 φ 来增强激励、改善性能
EN · 原文
We experimentally validate our theory in physical settings where client devices are driven by i.i.d. control inputs and control policies exhibiting i.i.d. random perturbations, ensuring non-active exploration.
CN · 翻译
我们在物理场景中实验验证了理论:客户端设备由独立同分布(i.i.d.)的控制输入驱动,控制策略带有 i.i.d. 随机扰动,从而保证非主动探索
EN · 原文
Experiments use trajectories from nonlinear dynamical systems characterized by real-analytic feature functions, including polynomial and trigonometric components, representative of physical systems including pendulum and quadrotor dynamics.
CN · 翻译
实验使用的轨迹来自具有实解析特征函数(含多项式与三角函数分量)的非线性动力系统,可代表摆与四旋翼等物理系统的动力学。
EN · 原文
We analyze the convergence behavior of the proposed method under varying noise levels and data distributions.
CN · 翻译
我们分析了所提方法在不同噪声水平与数据分布下的收敛行为。
EN · 原文
Results show that federated learning consistently improves convergence of any individual client as the number of participating clients increases.
CN · 翻译
结果表明:随着参与客户端数量的增加,联邦学习持续改善任意单个客户端的收敛

关键词 Keywords:Federated Learning 联邦学习 | System Identification 系统辨识 | Piecewise Affine (PWA) Models 分段仿射模型 | Nonlinear Dynamics 非线性动力学 | Convergence Analysis 收敛分析

四、引言精选(为什么这个问题重要)

① 系统辨识的传统假设是「数据集中」,但现实是数据分散

EN · 原文
System identification is a data-driven approach to learn dynamical models from input and output data. It is often used to learn dynamical systems for which exact dynamics are unknown, with applications including robotics, fluid dynamics, physics and healthcare. Traditional approaches for system identification assume centralized data. However, in modern applications, data is often distributed across many devices, and transmitting all data to a central server is often impractical due to privacy, bandwidth, or energy limitations. To address these challenges, we consider federated system identification, which is emerging as a privacy-preserving alternative. In this paradigm, multiple clients collaboratively learn a model without sharing raw data, communicating only model updates. Prior work has explored federated identification for LTI systems.
CN · 翻译
系统辨识是一种从输入输出数据学习动力学模型的数据驱动方法,常用于学习动力学未知的系统,应用涵盖机器人、流体力学、物理与医疗。传统辨识方法假设数据集中;然而在现代应用中,数据往往分散在许多设备上,出于隐私、带宽或能耗限制,把所有数据传到中心服务器常常不现实。为应对这些挑战,我们考虑联邦系统辨识——一种正在兴起的隐私保护替代方案:多个客户端不共享原始数据、只通信模型更新,协作学习一个模型。已有工作探索了 LTI 系统的联邦辨识。

② 本文设定:M 个客户端,同族但异质的非线性系统

EN · 原文
In this paper, we study the problem of federated nonlinear system identification. We consider a setting where M distributed clients each observe trajectory data from different nonlinear dynamical systems that belong to the same underlying family (see Figure 1). The dynamical systems we consider exhibit heterogeneity, modeled by the heterogeneity parameter ϵ. Federated learning should be used for system identification when multiple similar systems share common structure and data cannot be centralized, enabling privacy-preserving collaborative learning. Results show that aggregating across more participating clients improves convergence and reduces individual client noise.
CN · 翻译
本文研究联邦非线性系统辨识问题:M 个分布式客户端各自观测来自同一底层家族的不同非线性系统的轨迹数据(见图 1)。所考虑的动力系统存在异质性,用异质性参数 ε 建模。当多个相似系统共享共同结构、而数据又无法集中时,就应该用联邦学习做系统辨识——实现隐私保护的协作学习。结果表明:在更多客户端之间聚合能改善收敛并降低单个客户端的噪声。

③ 与线性情形的关键差别:非线性下可以「选特征」来增强激励

EN · 原文
Although the convergence rates in the linear and nonlinear cases differ only by a constant, this constant depends on the feature map φ, which can be carefully chosen in the nonlinear setting to increase excitation and improve performance.
CN · 翻译
尽管线性和非线性情形的收敛速率只相差一个常数,但这个常数取决于特征映射 φ——在非线性设定下,可以精心选择 φ 以增强激励、改善性能。这就是非线性情形「多出来的自由度」。
💡 这是全文最有味道的一句“Federated learning should be used for system identification when multiple similar systems share common structure and data cannot be centralized, enabling privacy-preserving collaborative learning.”——一句话交代清楚「什么时候该用联邦辨识」:有共同结构(否则学不到共享模型)+ 数据不能集中(否则直接集中训练更简单)。

五、论文贡献(4 个要点)

EN · 原文
1. Nonlinear framework. We consider linearly-parameterized nonlinear dynamical systems, with a focus on the widely used piecewise affine (PWA) model for representing nonlinear dynamics. In PWA models, state transitions are expressed as linear functions of nonlinear feature embeddings of state-input pairs. While prior work has explored federated system identification of linear dynamical systems, to the best of our knowledge, this work develops the first federated learning framework for system identification of PWA-based nonlinear dynamical systems.
CN · 翻译
1. 非线性框架。研究线性参数化非线性动力系统,重点是广泛用于表示非线性动力学的分段仿射(PWA)模型:状态转移表示为「状态-输入对的非线性特征嵌入」的线性函数。既有工作只探索了线性系统的联邦辨识,据我们所知,本文是首个针对 PWA 非线性动力系统的联邦辨识框架
EN · 原文
2. Convergence analysis. We analyze the convergence of the federated nonlinear system identification problem. Our results show that clients benefit significantly by collaborating through federated learning. Particularly, we show that the convergence error decreases as 𝒪̃(1/√M), where M is the number of clients and 𝒪̃(·) is the soft-O notation, thus having significant improvement in convergence as more clients collaborate. Our results also theoretically characterize how heterogeneity across clients impacts the convergence error.
CN · 翻译
2. 收敛分析。分析联邦非线性系统辨识问题的收敛性:客户端通过联邦协作收益显著。特别地,我们证明收敛误差按 𝒪̃(1/√M) 下降(M 为客户端数,𝒪̃(·) 为软 O 记号)——协作的客户端越多,收敛改善越显著;我们还从理论上刻画了客户端间异质性对收敛误差的影响
EN · 原文
3. Experimental analysis. We conduct experiments analyzing the convergence behavior of our approach as a function of the total number of participating clients, the number of local samples at each client, as well the heterogeneity of dynamical systems across clients.
CN · 翻译
3. 实验分析。系统实验考察收敛行为与参与客户端总数、每个客户端的本地样本数、以及客户端间系统异质性的关系。
EN · 原文
4. Algorithm validation. Our experiments demonstrate that our federated approach achieves an improved convergence rate compared to a single-client system.
CN · 翻译
4. 算法验证。实验表明,与单客户端系统相比,联邦方法取得更优的收敛速率

六、结论中英对照

EN · 原文
We introduced a federated learning framework for identifying linearly-parameterized nonlinear dynamical systems, with a particular focus on piecewise affine (PWA) models. Our theoretical analysis shows that the convergence error decreases as 1/√M, where M is the number of clients, thus having significant improvement in convergence as more clients collaborate. We corroborate our theory on the pendulum and quadrotor nonlinear physical systems, experimentally demonstrating the improvement in convergence error at any client decreases favorably as more clients collaborate for federated system identification.
CN · 翻译
我们提出了辨识线性参数化非线性动力系统的联邦学习框架,重点针对分段仿射(PWA)模型。理论分析表明收敛误差按 1/√M 下降(M 为客户端数)——协作的客户端越多,收敛改善越显著。我们在摆与四旋翼两类非线性物理系统上验证了理论:实验证明,随着协作客户端增多,任意客户端的收敛误差都显著下降。
EN · 原文
Our work opens many interesting future directions. Theoretical analysis of how different optimization hyperparameters (e.g., number of local epochs in each global iteration) impact convergence is of significant interest. Adaptive batch size strategies could also balance the trade-off between gradient noise and convergence speed. A key fundamental open problem is when φ is not known a priori. One could explore scenarios where φ itself is learned collaboratively alongside the model, forming an end-to-end variant of our proposed framework. Finally, while this work focused on PWA models, a natural extension is to consider linearly-parameterized nonlinear systems via Koopman theory, which is based on lifting the states into an infinite-dimensional feature space, where the dynamics evolve linearly.
CN · 翻译
本文开启了多个有趣的未来方向:分析优化超参数(如每轮全局迭代的本地轮数)对收敛的影响;用自适应批大小平衡梯度噪声与收敛速度;一个根本性的开放问题是当 φ 先验未知时怎么办——可以探索让 φ 与模型一起协作学习,形成端到端变体;最后,除了 PWA 模型,自然的扩展是用 Koopman 理论处理线性参数化非线性系统——把状态提升到无穷维特征空间,使动力学在其中线性演化。

七、编者解读:这篇论文到底讲了什么(大白话版)

  1. 问题:传统系统辨识要把所有数据收到一起训练,但现实中数据散落在许多设备上——隐私、带宽、能耗都不允许「数据搬家」。联邦学习正好解决这个:数据不动,只传模型更新。
  2. 设定:M 个客户端,每个客户端有自己的非线性系统(同一家族、但略有差异,用异质性参数 ε 描述),各自有轨迹数据;服务器负责聚合出全局模型。
  3. 理论:收敛误差按 𝒪̃(1/√M) 下降——参与协作的客户端越多,每个人的模型收敛得越快。线性和非线性情形收敛速率只差一个常数,而这个常数由特征映射 φ 决定:非线性下可以「选特征」来增强激励,这是非线性独有的红利。
  4. 实验:用摆和四旋翼两类真实物理系统(多项式+三角函数特征)验证,控制输入是 i.i.d. 的(非主动探索,不刻意设计激励信号),结果与理论一致。
  5. 最值钱的观点:这不是「又跑了个联邦学习」,而是「第一个针对 PWA 非线性系统的联邦辨识框架 + 完整收敛理论」——理论、实验、算法验证四件套齐全。
  6. 边界与未来:φ 不知道怎么办?(端到端把 φ 也学出来);能不能上 Koopman 理论把非线性「线性化」?这些都在文末坦诚列出。
🎯 对保研的启示:这篇论文示范了「理论结果 + 物理实验」双轮驱动的科研范式。复试时若能说清「收敛误差为什么随客户端数下降(共享结构 + 平均噪声)」「特征映射 φ 为什么是关键自由度」,比背模型名更能体现理解深度。

八、给准大一的阅读路线图 & 延伸方向

📖 怎么读这篇论文(三遍法)

  1. 第一遍(10 分钟):只读摘要和术语表,回答三个问题——问题是什么(数据分散时的非线性系统辨识)?方法是什么(联邦学习 + PWA 模型)?结果是什么(收敛误差随客户端数按 1/√M 下降)?
  2. 第二遍(20 分钟):读引言 + 结论,重点体会「什么时候该用联邦辨识」(共享结构 + 数据不能集中)以及「φ 是非线性情形的关键自由度」;再读结论里的未来方向。
  3. 第三遍(30 分钟):读方法文字部分(线性参数化、PWA 模型、收敛分析、实验设置),跳过所有公式和编号,只看文字描述;遇到不懂的术语回查术语表。

🚀 这个方向你能延伸做什么

九、英文摘要朗读(练听力用)

先盲听一遍→再看对照稿→再听一遍。目标是听出每个术语(linearly-parameterized、convergence rate、feature map、i.i.d.、real-analytic、pendulum and quadrotor)和每个数字关系(as the number of clients increases、1/√M)。