Kursplan fastställd 2025-02-05 av programansvarig (eller motsvarande).
Kursöversikt
- Engelskt namnInformation, inference, and coding
- KurskodEEN240
- Omfattning7,5 Högskolepoäng
- ÄgareMPICT
- UtbildningsnivåAvancerad nivå
- HuvudområdeElektroteknik
- InstitutionELEKTROTEKNIK
- BetygsskalaTH - Mycket väl godkänd (5), Väl godkänd (4), Godkänd (3), Underkänd
Kurstillfälle 1
- Undervisningsspråk Engelska
- Anmälningskod 90131
- Sökbar för utbytesstudenterJa
Poängfördelning
Modul | LP1 | LP2 | LP3 | LP4 | Sommar | Ej LP | Tentamensdatum |
---|---|---|---|---|---|---|---|
0125 Tentamen 7,5 hp Betygsskala: TH | 7,5 hp |
I program
Examinator
- Christian Häger
- Forskarassistent, Kommunikation, Antenner och Optiska Nätverk, Elektroteknik
Behörighet
Grundläggande behörighet för avancerad nivåSökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.
Särskild behörighet
Engelska 6Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.
Kursspecifika förkunskaper
En gedigen grund i sannolikhetsteori, linjär algebra och kalkyl krävs.Syfte
Syftet med denna kurs är att ge en grundläggande förståelse för informationsteori, datakomprimering och probabilistisk inferens med tillämpningar av modern kodningsteknik. Studenterna kommer att lära sig grundläggande informationsteoretiska begrepp som entropi, ömsesidig information och kanalkapacitet, med fokus på effektiv datarepresentation och kodning för brusiga kanaler. Dessutom introducerar kursen Bayesiansk inferens och täcker moderna kodningsmetoder för felkorrigering, vilket utrustar studenterna med både analytiska och praktiska verktyg som är tillämpliga inom olika tekniska områden som förlitar sig på effektiv och tillförlitlig informationsbehandling.Lärandemål (efter fullgjord kurs ska studenten kunna)
- Definiera entropi och ömsesidig information och förklara deras operativa betydelse i samband med datakomprimering och kanalkodning för brusiga kanaler
- Beskriv Shannons källkodnings- och kanalkodningssatser
- Tillämpa principer för datakomprimering genom att implementera förlustfria kodningsmetoder, såsom Huffman-kodning, och utvärdera deras effektivitet för diskreta minneslösa källor
- Utföra probabilistisk inferens i datadrivna sammanhang genom att tillämpa Bayesianska resonemang för att fatta optimala beslut under osäkerhet, med praktiska tillämpningar i grafiska modeller och spaljéstrukturer
- Utvärdera och implementera moderna kodningstekniker, inklusive blockkoder, faltningskoder och LDPC-koder (low-density parity check) för ökad datatillförlitlighet
- Kritiskt bedöma olika kodnings- och avkodningsmetoder och deras inverkan på felprestanda och beräkningseffektivitet
- Tillämpa meddelandeöverföringsalgoritmer för inferens i grafiska modeller och förstå de iterativa processer som ligger till grund för avancerade avkodningstekniker i modern kodningsteori
Innehåll
- Introduktion till informationsteori: entropi, betingad entropi, ömsesidig information och deras operativa betydelser
- Datakomprimering och effektiv representation: Shannons källkodssats, symbolkoder, Krafts ojämlikhet, Huffman-kodning, blockkodning
- Sannolikheter och inferens: introduktion till Bayesianskt resonemang, optimala beslut under osäkerhet, inferens i grafiska modeller och spaljéer
- Kanalkodning för brusiga kanaler: Shannons kanalkapacitetssats; block- och faltningskoder, glesa grafkoder inklusive low-density parity-check-koder (LDPC), iterativa algoritmer för meddelandeöverförande
Organisation
Kursen består av ca 18 föreläsningar, 11 övningstillfällen, 3 quiz och 1 projekt.Litteratur
David J.C. MacKay, Information Theory, Inference, and Learning Algorithms, Cambridge University Press, 2012. Boken är gratis tillgänglig för nedladdning på www.inference.org.uk/mackay/itila/book.html.
Examination inklusive obligatoriska moment
Slutbetyget (TH) är baserat på poäng från projekt, quiz och en skriftlig tentamen. Projektet är obligatoriskt, vilket innebär att det måste bli godkänt för att klara kursen.Kursens examinator får examinera enstaka studenter på annat sätt än vad som anges ovan om särskilda skäl föreligger, till exempel om en student har ett beslut från Chalmers om riktat pedagogiskt stöd på grund av funktionsnedsättning.