MO809A - Tópicos em Computação Distribuída

---

Organização da Disciplina - Aprendizado Distribuído

A disciplina será composta por aulas teóricas e laboratórios práticos para aplicação do conteúdo aprendido. O conteúdo previsto para a disciplina inclui:

• Introdução a Sistemas Distribuídos, Arquiteturas e Comunicação, Métricas de Avaliação
• TensorFlow, Keras e PyTorch, Treinamento de Modelos, Modelos com Múltiplas Entradas, Functional API, Treinamentos Personalizados
• Treinamento de Modelos em Paralelo e Grafo Computacional
• Split-Learning
• Federated Learning Centralizado e Decentralizado
• Single-task & Multi-task Learning
• Estudo de Caso: Mobilidade, Segurança e Privacidade de Dados, Unlearning, outros.

Critério de Avaliação

A avaliação será realizada através de atividades, seminários e um projeto final. Dessa forma, a Média das Atividades (i.e., práticas e seminário) pode ser calculada da seguinte forma: $$MA = \frac{1}{|A|} \sum_{i=0}^{|A|} a_i$$ onde $MA$ é a média das atividades, $|A|$ é a quantidade de atividades incluindo trabalhos práticos e seminários, e $a_i$ é a nota do aluno na atividade $i$. O projeto final irá compor 70% da nota final do aluno, assim a Nota Final ($NF$) pode ser calculada da seguinte forma: $$NF = \frac{0.3 \cdot MA + 0.7 \cdot NP}{2}$$ onde $MA$ é a média do aluno nas atividades, $NP$ é a nota do aluno na apresentação do projeto final. As datas dos seminários serão definidas no decorrer do semestre com disponibilização de um cronograma prévio.

O conceito final da nota do aluno seguirá a seguinte regra. Caso a $NF$ for maior ou igual a 8.5 o aluno terá conceito $A$. Por outro lado, caso $NF$ seja inferior a $8.5$ e maior que $7.0$, o aluno terá conceito $B$. Da mesma forma, caso $NF$ seja inferior a $7.0$ e superior a $5.0$ o aluno terá conceito $C$. Por fim, caso $NF$ seja menor que $5.0$, o aluno terá conceito $D$. As regras para o conceito da $NF$ é apresentado a seguir: $$Conceito = \begin{cases} A & \text{caso } NF \geq 8.5\\ B & \text{caso } NF < 8.5\\ C & \text{caso } NF < 7.0\\ D & \text{caso } NF < 5.0\\ \end{cases}$$

Bibliografia

• Tanenbaum, Andrew S, Van Steen, Maarten. Distributed systems: principles and paradigms. Pearson/Prentice Hall. 4th Ed.
• Coulouris, G, Dollimore, J., Kindberg, T. Distributed Systems: concepts and design. 4th Ed.
• Laurence Moroney. AI and Machine Learning for Coders: A Programmer's Guide to Artificial Intelligence. O'Reilly, 2020
• Kairouz, Peter, et al. Advances and open problems in federated learning. Foundations and trends® in machine learning 14.1–2 (2021): 1-210.
• Beutel, Daniel J., et al. Flower: A friendly federated learning research framework, 2020.