[Python][Federated learning] 연합학습, federated learning, tutorial

1. Federated learning

2. Framework

3. Tutorial

---

1. Federated learning

1) from ChatGPT

- 요약
Federated learning은 딥러닝 모델을 개발하기 위해 중앙 집중식 데이터 저장소 없이 여러 개인의 디바이스에서 데이터를 수집하고 모델 학습을 수행하는 분산 학습 방법입니다. 이를 통해 개인 데이터의 프라이버시 보호와 중앙 서버에 대한 의존도를 줄일 수 있습니다.

- 장점:
1. 개인 데이터 보호: 중앙 집중식 데이터 저장소 없이 학습이 가능하기 때문에 개인의 데이터는 해당 디바이스에서만 사용되며, 중앙 서버에 전송되지 않아 프라이버시가 보호됩니다.
2. 대규모 데이터 처리: 대규모 데이터 세트의 처리가 필요한 경우에도 분산된 디바이스에서 학습이 가능하므로 데이터 전송과 처리 시간을 절약할 수 있습니다.
3. 지역적 적응성: 지역적인 특징이 있는 데이터 세트의 경우, 분산된 디바이스에서 학습을 수행하므로 해당 지역 특징을 고려한 모델을 생성할 수 있습니다.

- 단점:
1. 데이터 불균형: 분산된 디바이스에서 수집된 데이터가 불균형할 경우, 학습이 제대로 이루어지지 않을 수 있습니다.
2. 보안 위협: 분산된 디바이스에서 수집된 데이터가 제대로 보호되지 않으면, 해커가 공격하여 개인 정보를 탈취할 수 있습니다.
3. 통신 대역폭 제한: 디바이스 간 통신을 위한 대역폭이 제한적이기 때문에, 모델 학습이 지연될 수 있습니다.

---

2) NVIDIA Clara Federated Learning

https://youtu.be/bVU-Ea6hc0k

---

3) Google Research

https://ai.googleblog.com/2017/04/federated-learning-collaborative.html

https://ai.googleblog.com/2017/04/federated-learning-collaborative.html

---

4) 요약

- 인공지능 모델이 글로벌, 로컬이 있음

- 로컬 모델이 각 디바이스(기관)에서 학습된

- 학습된 로컬 모델을 이용하여 글로벌 모델이 학습된

- 의료 분야에서 데이터 보안 이슈로 연합학습 방법이 상당히 큰 각광을 받고 있음

- 아직 제한점이 많음

---

2. Framework

Open-Source Software for Federated Learning

For proofs-of-concept and experiments, open-source frameworks are often sufficient. In the list below you can find some of the most important frameworks out there. We made a subjective selection, but if you want to delve deeper into open-source frameworks around federated learning, here is an [exhaustive list compiled by awesomeopensource.com.](https://awesomeopensource.com/projects/federated-learning)

Each of the communities, engineers, and data scientists involved in these projects has made a fantastic effort to further push the research and development in federated learning and privacy-preserving data science:

-   FATE
-   Substra
-   PySyft + PyGrid
-   OpenFL
-   TensorFlow Federated
-   IBM Federated Learning
-   NVIDIA Clara
-   Enterprise-grade Federated Learning Platforms

ref: https://www.apheris.com/resources/blog/top-7-open-source-frameworks-for-federated-learning

---

- 의료 분야에서 OpenFL, TensorFLow Federated 유명

- 관련 뉴스: https://www.aitimes.kr/news/articleView.html?idxno=26716 

세계 최대 71개 국제의료·연구기관 공동연구팀, 연합학습 기반 '프라이버시 보존 인공지능' 개발

---

3. Tutorial

1) openFL

- Blog

https://towardsdatascience.com/go-federated-with-openfl-8bc145a5ead1

Go Federated with OpenFL

---

- Git hub

https://github.com/securefederatedai/openfl

GitHub - securefederatedai/openfl: An open framework for Federated Learning.

---

- Git hub, tutorial

https://github.com/securefederatedai/openfl/tree/develop/openfl-tutorials

GitHub - securefederatedai/openfl: An open framework for Federated Learning.

---

2) TensorFlow Federated (TFF)

- official web site, https://www.tensorflow.org/federated 

TensorFlow Federated

---

- official web site tutorial, https://www.tensorflow.org/federated/tutorials/tutorials_overview

TensorFlow 연합 튜토리얼  |  TensorFlow Federated