Maximum-Entropie-Methode
aus Wikipedia, der freien Enzyklopädie
Die Maximum-Entropie-Methode oder MEM ist eine Methode der Bayesischen Statistik, die erlaubt, trotz mangelhafter problemspezifischer Information eine a-priori-Wahrscheinlichkeit zuzuweisen. Sie ersetzt fühere Ansätze wie etwa das von Laplace formulierte „Prinzip vom unzureichenden Grunde“.
Die Methode wurde 1957[1] von Edwin Thompson Jaynes in Anlehnung an Methoden der statistischen Mechanik und der Shannonschen Informationstheorie eingeführt. Grundlage ist, in Abwesenheit von Information die Entropie der a-priori-Wahrscheinlichkeit zu maximieren, da jede andere Zuweisung willkürliche Einschränkungen der betrachteten Situation träfe. Die Maximum-Entropie-Methode legt sich so wenig wie möglich fest. Jaynes zufolge [2] ist dies aber nur der letzte Schritt, um nach Einfüllen aller vorhandenen Information etwaige noch bestehende Lücken zu schließen.
Die Methode wird zur optimalen Extraktion von Information aus verrauschten Signalen in Abhängigkeit von dem Signal-Rausch-Verhältnis verwendet. Sie findet in der Spektralanalyse und der digitalen Bildverarbeitung Anwendung.
[Bearbeiten] Siehe auch
Burg-Algorithmus, Numerische Mathematik
[Bearbeiten] Literatur
- E. T. Jaynes: Information Theory and Statistical Mechanics. Physical Review 106 (1957) 620-630
- Nailong Wu: The Maximum Entropy Method, 327 Seiten, Springer-Verlag, Berlin, 1997, ISBN 3540619658
