Y-sektionens studienämnd är ansvariga för att informationen på guiden är aktuell. Om du hittar någonting som inte stämmer kan du mejla SNY.

Budgetår

Institution

ISY

Examinator

Zheng Chen

Schemablock

Halvtermin
HT2: block 2

Huvudområden

Elektroteknik

Nivå

A1N

Tidsfördelning

6,0HP
Schemalagd tid: 56 timmar
Självstudietid: 104 timmar

Innehåll

  • Grunder om kommunikationsnätverk, nätverkstopologi och arkitektur, grafer och spektralgrafteori.
  • Exempel på signal- och informationsbehandling över nätverk. Distribuerade kontroll-, slutlednings- och maskininlärningsapplikationer (serverbaserade och helt decentraliserade).
  • Informationsspridning och aggregering över nätverk. Konsensusprotokoll, distribuerad medelvärdesbildning, skvalleralgoritmer. Konvergensförhållanden med statisk och tidsvarierande slumpmässig topologi.
  • Distribuerade optimeringsalgoritmer och dess tillämpningar inom distribuerad maskininlärning (DML).
  • Centraliserad DML.
  • Decentraliserad DML.
  • Grunder om trådlös kommunikation, kanalkapacitet, resursallokering, multipelaccesstekniker. Federerad inlärning med ofullständig kommunikation över trådlösa nätverk.
  • Avvägningar mellan kommunikation och beräkning i decentraliserad DML.
  • Hållbar AI: etiska aspekter av AI, energieffektivitet, beräkningseffektiv ML.

Mål

Efter avklarad kurs ska studenten kunna:

  • ge grundläggande exempel på distribuerade informationskonsensussystem, och förstå effekterna av kommunikation i konsensusbildningsprocessen.
  • förklara distribuerade medelvärdesalgoritmer och deras konvergensvilkor.
  • utföra grundläggande analys av oenighetsdynamiker och deras relation till konsensusmatrisens spektrala egenskaper.
  • redogöra för principerna för distribuerad optimering, särskilt decentraliserade metoder för gradient descent, samt dess konvergensgränser.
  • demonstrera och beskriva effekterna av ofullständig och opålitlig kommunikation i distribuerade konsensus- och optimeringsalgoritmer.
  • implementera distribuerade konsensus- och optimeringsalgoritmer och reflektera över simuleringsresultaten.

Examinationsmoment

LAB1 - 2,0 HP
Laborationskurs (U, G)
TEN1 - 4,0 HP
Skriftlig tentamen (U, 3, 4, 5)

Examination

Tentamen (TEN1) består av två delar:

En del med frågor som examinerar målet "ge grundläggande exempel..." och "förklara..."

En del med problem som examinerar målen "utföra..." och "redogöra för..." och "demonstrera och beskriva..."
Betyget på tentamen baseras på antalet poäng som erhållits från dessa två delar. Totalt antal poäng är 30.


Labbarna (LAB1) examinerar målet ”implementera...”.

Betyg på delmoment/modul beslutas i enlighet med de bedömningskriterier som presenteras vid kursstart.

Organisation

Undervisningen ges i form av föreläsningar, lektioner och laborationer.

Litteratur

Ordinarie litteratur

Böcker

  • Joshi, Gauri, (2023) Optimization algorithms for distributed machine learning. Cham : Springer Nature, [2023]
    ISBN: 9783031190667

Kompletterande litteratur

Artiklar

  • A. Nedić, A. Olshevsky and M. G. Rabbat, Network topology and communicationcomputation tradeoffs in decentralized optimization Proceedings of the IEEE, vol. 106, no. 5, pp. 953-976, May 2018
  • R. Olfati-Saber, J. A. Fax and R. M. Murray, Consensus and cooperation in networked multiagent systems Proceedings of the IEEE vol. 95, no. 1, pp. 215-233, Jan. 2007

Relaterade profiler

Maskininlärning och datadriven analys
MIDA - IDA

Kommentarer

Logga in för att kunna läsa och skriva kommentarer.