Grafický model

Pravděpodobnostní grafické modely obecně používají jako základ pro kódování rozdělení ve vícerozměrném prostoru reprezentaci založenou na grafu a graf, který je kompaktní nebo faktorizovanou reprezentací množiny nezávislostí, které platí v konkrétním rozdělení. Běžně se používají dvě větve grafických reprezentací rozdělení, a to Bayesovské sítě a Markovova náhodná pole. Obě rodiny zahrnují vlastnosti faktorizace a nezávislostí, ale liší se množinou nezávislostí, které mohou kódovat, a faktorizací rozdělení, kterou indukují.

Bayesovská síťUpravit

Pokud je síťovou strukturou modelu směrovaný acyklický graf, model představuje faktorizaci společné pravděpodobnosti všech náhodných veličin. Přesněji řečeno, jsou-li události X 1 , … , X n {\displayystyle X_{1},\ldots ,X_{n}}.

, pak společná pravděpodobnost splňuje P = ∏ i = 1 n P {\displaystyle P=\prod _{i=1}^{n}P}

kde pa ( X i ) {\displaystyle {\text{pa}}(X_{i})}

je množina rodičů uzlu X i {\displaystyle X_{i}}

(uzly s hranami směřujícími k X i {\displaystyle X_{i}}.

). Jinými slovy, společné rozdělení je faktorem součinu podmíněných rozdělení. Například grafový model na výše uvedeném obrázku (který ve skutečnosti není směrovaným acyklickým grafem, ale grafem předků) se skládá z náhodných veličin A , B , C , D {\displaystyle A,B,C,D}.

se společnou hustotou pravděpodobnosti, která působí jako P = P ⋅ P ⋅ P {\displaystyle P=P\cdot P\cdot P}

Každé dva uzly jsou podmíněně nezávislé vzhledem k hodnotám svých rodičů. Obecně platí, že libovolné dvě množiny uzlů jsou podmíněně nezávislé vzhledem ke třetí množině, pokud v grafu platí kritérium zvané d-separace. Lokální nezávislosti a globální nezávislosti jsou v bayesovských sítích ekvivalentní.

Tento typ grafového modelu je znám jako směrovaný grafový model, bayesovská síť nebo síť víry. Klasické modely strojového učení, jako jsou skryté Markovovy modely, neuronové sítě a novější modely, jako jsou Markovovy modely proměnného řádu, lze považovat za speciální případy bayesovských sítí.

Další typyUpravit

• Naivní Bayesův klasifikátor, kde používáme strom s jedním kořenem
• Závislostní síť, kde jsou povoleny cykly
• Stromově rozšířený klasifikátor nebo model TAN
• Faktorový graf je neorientovaný bipartitní graf spojující proměnné a faktory. Každý faktor představuje funkci nad proměnnými, ke kterým je připojen. Jedná se o užitečnou reprezentaci pro pochopení a implementaci šíření přesvědčení.
• Strom klik neboli strom křižovatek je strom klik, který se používá v algoritmu stromu křižovatek.
• Řetězový graf je graf, který může mít směrované i nesměrované hrany, ale bez směrovaných cyklů (tj. pokud začneme v libovolném vrcholu a pohybujeme se po grafu s respektováním směrů všech šipek, nemůžeme se vrátit do vrcholu, ze kterého jsme začali, pokud jsme prošli šipkou). Jak směrované acyklické grafy, tak neusměrněné grafy jsou speciálními případy řetězových grafů, které tak mohou poskytnout způsob sjednocení a zobecnění bayesovských a markovských sítí.
• Dalším rozšířením je ancestrální graf, který má směrované, obousměrné a neusměrněné hrany.
• Techniky náhodných polí
  • Markovovo náhodné pole, známé také jako Markovova síť, je model nad neorientovaným grafem. Grafový model s mnoha opakujícími se podjednotkami lze reprezentovat deskovým zápisem.
  • Podmíněné náhodné pole je diskriminační model zadaný nad neorientovaným grafem.
• Omezený Boltzmannův stroj je bipartitní generativní model zadaný nad neorientovaným grafem.

Podmíněné náhodné pole je diskriminační model zadaný nad neorientovaným grafem.