Kursplan för Information, inferens och kodning

Kursplan fastställd 2025-02-05 av programansvarig (eller motsvarande).

Kursöversikt

  • Engelskt namnInformation, inference, and coding
  • KurskodEEN240
  • Omfattning7,5 Högskolepoäng
  • ÄgareMPICT
  • UtbildningsnivåAvancerad nivå
  • HuvudområdeElektroteknik
  • InstitutionELEKTROTEKNIK
  • BetygsskalaTH - Mycket väl godkänd (5), Väl godkänd (4), Godkänd (3), Underkänd

Kurstillfälle 1

  • Undervisningsspråk Engelska
  • Anmälningskod 90131
  • Sökbar för utbytesstudenterJa

Poängfördelning

0125 Tentamen 7,5 hp
Betygsskala: TH		 7,5 hp

I program

Examinator

Behörighet

Grundläggande behörighet för avancerad nivå
Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.

Särskild behörighet

Engelska 6
Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.

Kursspecifika förkunskaper

En gedigen grund i sannolikhetsteori, linjär algebra och kalkyl krävs.

Syfte

Syftet med denna kurs är att ge en grundläggande förståelse för informationsteori, datakomprimering och probabilistisk inferens med tillämpningar av modern kodningsteknik. Studenterna kommer att lära sig grundläggande informationsteoretiska begrepp som entropi, ömsesidig information och kanalkapacitet, med fokus på effektiv datarepresentation och kodning för brusiga kanaler. Dessutom introducerar kursen Bayesiansk inferens och täcker moderna kodningsmetoder för felkorrigering, vilket utrustar studenterna med både analytiska och praktiska verktyg som är tillämpliga inom olika tekniska områden som förlitar sig på effektiv och tillförlitlig informationsbehandling.

Lärandemål (efter fullgjord kurs ska studenten kunna)

  • Definiera entropi och ömsesidig information och förklara deras operativa betydelse i samband med datakomprimering och kanalkodning för brusiga kanaler
  • Beskriv Shannons källkodnings- och kanalkodningssatser
  • Tillämpa principer för datakomprimering genom att implementera förlustfria kodningsmetoder, såsom Huffman-kodning, och utvärdera deras effektivitet för diskreta minneslösa källor
  • Utföra probabilistisk inferens i datadrivna sammanhang genom att tillämpa Bayesianska resonemang för att fatta optimala beslut under osäkerhet, med praktiska tillämpningar i grafiska modeller och spaljéstrukturer
  • Utvärdera och implementera moderna kodningstekniker, inklusive blockkoder, faltningskoder och LDPC-koder (low-density parity check) för ökad datatillförlitlighet
  • Kritiskt bedöma olika kodnings- och avkodningsmetoder och deras inverkan på felprestanda och beräkningseffektivitet
  • Tillämpa meddelandeöverföringsalgoritmer för inferens i grafiska modeller och förstå de iterativa processer som ligger till grund för avancerade avkodningstekniker i modern kodningsteori

Innehåll

  • Introduktion till informationsteori: entropi, betingad entropi, ömsesidig information och deras operativa betydelser
  • Datakomprimering och effektiv representation: Shannons källkodssats, symbolkoder, Krafts ojämlikhet, Huffman-kodning, blockkodning
  • Sannolikheter och inferens: introduktion till Bayesianskt resonemang, optimala beslut under osäkerhet, inferens i grafiska modeller och spaljéer
  • Kanalkodning för brusiga kanaler: Shannons kanalkapacitetssats; block- och faltningskoder, glesa grafkoder inklusive low-density parity-check-koder (LDPC), iterativa algoritmer för meddelandeöverförande

Organisation

Kursen består av ca 18 föreläsningar, 11 övningstillfällen, 3 quiz och 1 projekt.

Litteratur

David J.C. MacKay, “Information Theory, Inference, and Learning Algorithms”, Cambridge University Press, 2012. Boken är gratis tillgänglig för nedladdning på www.inference.org.uk/mackay/itila/book.html.

Examination inklusive obligatoriska moment

Slutbetyget (TH) är baserat på poäng från projekt, quiz och en skriftlig tentamen. Projektet är obligatoriskt, vilket innebär att det måste bli godkänt för att klara kursen.

Kursens examinator får examinera enstaka studenter på annat sätt än vad som anges ovan om särskilda skäl föreligger, till exempel om en student har ett beslut från Chalmers om riktat pedagogiskt stöd på grund av funktionsnedsättning.