Grafisch model

In het algemeen wordt bij probabilistische grafische modellen een grafische voorstelling gebruikt als basis voor de codering van een verdeling over een multidimensionale ruimte en een grafiek die een compacte of gefactoriseerde voorstelling is van een reeks afhankelijkheden die in de specifieke verdeling gelden. Twee takken van grafische representaties van verdelingen worden algemeen gebruikt, namelijk Bayesiaanse netwerken en Markov willekeurige velden. Beide families omvatten de eigenschappen van factorisatie en afhankelijkheden, maar zij verschillen in de verzameling afhankelijkheden die zij kunnen coderen en de factorisatie van de verdeling die zij induceren.

Bayesiaans netwerkEdit

Als de netwerkstructuur van het model een gerichte acyclische grafiek is, vertegenwoordigt het model een factorisatie van de gezamenlijke waarschijnlijkheid van alle willekeurige variabelen. Preciezer gezegd, als de gebeurtenissen X 1 , … , X n zijn {{1},\ldots,X_{n}}

dan voldoet de gezamenlijke kans aan P = ∏ i = 1 n P {\displaystyle P=\prod _{i=1}^{n}P}

waarbij pa ( X i ) {\displaystyle {{pa}}(X_{i})}

de verzameling ouders van knooppunt X i {\displaystyle X_{i}}

(knooppunten met randen die naar X i zijn gericht {{i}}

). Met andere woorden, de gezamenlijke verdeling wordt een product van voorwaardelijke verdelingen. Zo bestaat het grafische model in de bovenstaande figuur (die eigenlijk geen gerichte acyclische grafiek is, maar een voorouderlijke grafiek) uit de willekeurige variabelen A , B , C , D {Displaystyle A,B,C,D}

met een gezamenlijke kansdichtheid die factoren als P = P ⋅ P ⋅ P {{{displaystyle P=P}

Elke twee knooppunten zijn voorwaardelijk onafhankelijk gegeven de waarden van hun ouders. In het algemeen zijn twee verzamelingen knooppunten voorwaardelijk onafhankelijk van een derde verzameling als in de grafiek een criterium geldt dat d-scheiding heet. Lokale onafhankelijkheden en globale onafhankelijkheden zijn equivalent in Bayesiaanse netwerken.

Dit type grafisch model staat bekend als een directed graphical model, Bayesiaans netwerk, of overtuigingsnetwerk. Klassieke machine learning modellen zoals verborgen Markov modellen, neurale netwerken en nieuwere modellen zoals variabele-orde Markov modellen kunnen worden beschouwd als speciale gevallen van Bayesiaanse netwerken.

Andere typesEdit

• Naive Bayes classifier waar we een boom met een enkele wortel gebruiken
• Afhankelijkheidsnetwerk waar cycli zijn toegestaan
• Tree-augmented classifier of TAN model
• Een factorgrafiek is een ongerichte bipartiete grafiek die variabelen en factoren verbindt. Elke factor vertegenwoordigt een functie over de variabelen waarmee hij verbonden is. Dit is een nuttige voorstelling voor het begrijpen en implementeren van belief propagation.
• Een kliekboom of junction tree is een boom van klieken, gebruikt in het junction tree algoritme.
• Een kettinggrafiek is een grafiek die zowel gerichte als ongerichte randen kan hebben, maar zonder gerichte cycli (d.w.z. als we bij een willekeurig hoekpunt beginnen en langs de grafiek bewegen met inachtneming van de richtingen van eventuele pijlen, kunnen we niet terugkeren naar het hoekpunt waar we begonnen zijn als we een pijl zijn gepasseerd). Zowel gerichte acyclische grafieken als ongedirecte grafieken zijn speciale gevallen van kettinggrafieken, die dus een manier kunnen bieden om Bayesiaanse en Markov-netwerken te verenigen en te veralgemenen.
• Een voorouderlijke grafiek is een verdere uitbreiding, met gerichte, bidirecte en ongedirecte ribben.
• Randomveldtechnieken
  • Een Markov random field, ook wel Markov-netwerk genoemd, is een model over een ongerichte grafiek. Een grafisch model met veel herhaalde subeenheden kan worden weergegeven met plaatnotatie.
  • Een voorwaardelijk willekeurig veld is een discriminerend model gespecificeerd over een ongerichte grafiek.
• Een beperkte Boltzmann-machine is een bipartiet generatief model gespecificeerd over een ongerichte grafiek.