MO809A - Tópicos em Computação Distribuída
Organização da Disciplina - Aprendizado Distribuído
A disciplina será composta por aulas teóricas e laboratórios práticos para aplicação do conteúdo aprendido. O conteúdo previsto para a disciplina inclui:
- Introdução a Sistemas Distribuídos, Arquiteturas e Comunicação, Métricas de Avaliação
- TensorFlow, Keras e PyTorch, Treinamento de Modelos, Modelos com Múltiplas Entradas, Functional API, Treinamentos Personalizados
- Treinamento de Modelos em Paralelo e Grafo Computacional
- Split-Learning
- Federated Learning Centralizado e Decentralizado
- Single-task & Multi-task Learning
- Estudo de Caso: Mobilidade, Segurança e Privacidade de Dados, Unlearning, outros.
Critério de Avaliação
A avaliação será realizada através de atividades, seminários e um projeto final. Dessa forma, a Média das Atividades (i.e., práticas e seminário) pode ser calculada da seguinte forma: onde \(MA\) é a média das atividades, \(|A|\) é a quantidade de atividades incluindo trabalhos práticos e seminários, e \(a_i\) é a nota do aluno na atividade \(i\). O projeto final irá compor 70% da nota final do aluno, assim a Nota Final (\(NF\)) pode ser calculada da seguinte forma: onde \(MA\) é a média do aluno nas atividades, \(NP\) é a nota do aluno na apresentação do projeto final. As datas dos seminários serão definidas no decorrer do semestre com disponibilização de um cronograma prévio.
O conceito final da nota do aluno seguirá a seguinte regra. Caso a \(NF\) for maior ou igual a 8.5 o aluno terá conceito \(A\). Por outro lado, caso \(NF\) seja inferior a \(8.5\) e maior que \(7.0\), o aluno terá conceito \(B\). Da mesma forma, caso \(NF\) seja inferior a \(7.0\) e superior a \(5.0\) o aluno terá conceito \(C\). Por fim, caso \(NF\) seja menor que \(5.0\), o aluno terá conceito \(D\). As regras para o conceito da \(NF\) é apresentado a seguir:
Bibliografia
- Tanenbaum, Andrew S, Van Steen, Maarten. Distributed systems: principles and paradigms. Pearson/Prentice Hall. 4th Ed.
- Coulouris, G, Dollimore, J., Kindberg, T. Distributed Systems: concepts and design. 4th Ed.
- Laurence Moroney. AI and Machine Learning for Coders: A Programmer's Guide to Artificial Intelligence. O'Reilly, 2020
- Kairouz, Peter, et al. Advances and open problems in federated learning. Foundations and trends® in machine learning 14.1–2 (2021): 1-210.
- Beutel, Daniel J., et al. Flower: A friendly federated learning research framework, 2020.