Grafisches Modell

Gemeinsam verwenden probabilistische grafische Modelle eine grafische Darstellung als Grundlage für die Kodierung einer Verteilung über einen mehrdimensionalen Raum und einen Graphen, der eine kompakte oder faktorisierte Darstellung einer Reihe von Abhängigkeiten ist, die in der spezifischen Verteilung gelten. Zwei Zweige der grafischen Darstellungen von Verteilungen werden häufig verwendet, nämlich Bayes’sche Netze und Markov-Zufallsfelder. Beide Familien umfassen die Eigenschaften der Faktorisierung und der UnabhÃ?ngigkeiten, aber sie unterscheiden sich in der Menge der UnabhÃ?ngigkeiten, die sie kodieren können, und in der Faktorisierung der Verteilung, die sie induzieren.

Bayes’sches NetzBearbeiten

Ist die Netzwerkstruktur des Modells ein gerichteter azyklischer Graph, so stellt das Modell eine Faktorisierung der gemeinsamen Wahrscheinlichkeit aller Zufallsvariablen dar. Genauer gesagt, wenn die Ereignisse X 1 , … , X n {\displaystyle X_{1},\ldots ,X_{n}}

dann erfüllt die gemeinsame Wahrscheinlichkeit P = ∏ i = 1 n P {\displaystyle P=\prod _{i=1}^{n}P}

wobei pa ( X i ) {\displaystyle {\text{pa}}(X_{i})}

ist die Menge der Eltern des Knotens X i {\displaystyle X_{i}}

(Knoten mit Kanten, die auf X i {\displaystyle X_{i}}

). Mit anderen Worten, die gemeinsame Verteilung ist ein Produkt aus bedingten Verteilungen. Das grafische Modell in der obigen Abbildung (das eigentlich kein gerichteter azyklischer Graph, sondern ein Ahnengraph ist) besteht zum Beispiel aus den Zufallsvariablen A , B , C , D {\displaystyle A,B,C,D}

mit einer gemeinsamen Wahrscheinlichkeitsdichte, die als P = P ⋅ P ⋅ P {\displaystyle P=P\cdot P\cdot P}

Bei den Werten ihrer Eltern sind zwei beliebige Knoten bedingt unabhängig. Im Allgemeinen sind zwei beliebige Mengen von Knoten in Bezug auf eine dritte Menge bedingt unabhängig, wenn ein Kriterium namens d-Separation im Graphen erfüllt ist. Lokale Unabhängigkeit und globale Unabhängigkeit sind in Bayes’schen Netzen äquivalent.

Diese Art von grafischem Modell ist als gerichtetes grafisches Modell, Bayes’sches Netz oder Glaubensnetz bekannt. Klassische Modelle des maschinellen Lernens wie versteckte Markov-Modelle, neuronale Netze und neuere Modelle wie Markov-Modelle variabler Ordnung können als Spezialfälle von Bayes’schen Netzen betrachtet werden.

Andere TypenBearbeiten

• Naive Bayes-Klassifikator, bei dem ein Baum mit einer einzigen Wurzel verwendet wird
• Abhängigkeitsnetz, bei dem Zyklen zulässig sind
• Baum-erweiterter Klassifikator oder TAN-Modell
• Ein Faktor-Graph ist ein ungerichteter bipartiter Graph, der Variablen und Faktoren verbindet. Jeder Faktor stellt eine Funktion über die Variablen dar, mit denen er verbunden ist. Dies ist eine hilfreiche Darstellung für das Verständnis und die Implementierung der Glaubensfortpflanzung.
• Ein Cliquenbaum oder Kreuzungsbaum ist ein Baum von Cliquen, der im Kreuzungsbaum-Algorithmus verwendet wird.
• Ein Kettengraph ist ein Graph, der sowohl gerichtete als auch ungerichtete Kanten haben kann, aber keine gerichteten Zyklen (d.h. wenn wir an einem beliebigen Knoten beginnen und uns entlang des Graphen unter Beachtung der Richtungen aller Pfeile bewegen, können wir nicht zu dem Knoten zurückkehren, an dem wir gestartet sind, wenn wir einen Pfeil passiert haben). Sowohl gerichtete azyklische Graphen als auch ungerichtete Graphen sind Spezialfälle von Kettengraphen, die daher einen Weg zur Vereinheitlichung und Verallgemeinerung von Bayes’schen und Markov’schen Netzen bieten können.
• Ein Ahnengraph ist eine weitere Erweiterung, die gerichtete, bidirektionale und ungerichtete Kanten hat.
• Zufallsfeldtechniken
  • Ein Markov-Zufallsfeld, auch bekannt als Markov-Netzwerk, ist ein Modell über einem ungerichteten Graphen. Ein grafisches Modell mit vielen sich wiederholenden Untereinheiten kann mit der Plattenschreibweise dargestellt werden.
  • Ein bedingtes Zufallsfeld ist ein diskriminatives Modell, das über einen ungerichteten Graphen spezifiziert ist.
• Eine eingeschränkte Boltzmann-Maschine ist ein zweiseitiges generatives Modell, das über einen ungerichteten Graphen spezifiziert ist.