連合学習

データを移動させない学習手法

通常の機械学習ではデータを同じ場所に集めて学習する

連合学習はデータは各地に散らばっていて,データのある場所で学習

データの代わりにパラメータ(重みや勾配)を集めることで全体のモデルを作成

手順は以下

以下を定義

データを持っていて学習を行うクライアントと,パラメータを集約するサーバが存在

全体で使うグローバルモデルと,クライアントが学習するローカルモデルが存在

1. サーバはグローバルモデルを各クライアントに配布

2. クライアントは手元のデータでローカルモデルを学習

3. サーバはクライアントからローカルモデルの持つパラメータを収集

4. 集めたパラメータの平均を取るなどして,グローバルモデルを更新

5. 1.に戻る

この1-5を一定の精度に達するなど,条件を満たすまで繰り返す

主要な論文