F-divergence
http://dbpedia.org/resource/F-divergence
In probability theory, an -divergence is a function that measures the difference between two probability distributions and . Many common divergences, such as KL-divergence, Hellinger distance, and total variation distance, are special cases of -divergence.
rdf:langString
f-дивергенцией (f-расхождением) называется класс функционалов , определяющих в общем случае несимметричную меру расхождения между двумя распределениями вероятностей и . Обычно применяется в теории информации и теории вероятностей. Функционал однозначно определяется (порождается) функцией , удовлетворяющей определённым условиям. Данный класс дивергенций был введён и изучался независимо друг от друга учёными ), ) и ). Поэтому иногда можно встретить названия f-дивергенция Чисара, дивергенция Чисара—Моримото или расстояние Али—Силви.
rdf:langString
rdf:langString
F-divergence
rdf:langString
F-дивергенция
rdf:langString
Theorem
xsd:integer
15224289
xsd:integer
1116800040
rdf:langString
If , then by definition.
Conversely, if , then let . For any two probability measures on the set , since , we get
Since each probability measure has one degree of freedom, we can solve for every choice of .
Linear algebra yields , which is a valid probability measure. Then we obtain .
Thus
for some constants . Plugging the formula into yields .
rdf:langString
hidden
rdf:langString
In probability theory, an -divergence is a function that measures the difference between two probability distributions and . Many common divergences, such as KL-divergence, Hellinger distance, and total variation distance, are special cases of -divergence.
rdf:langString
f-дивергенцией (f-расхождением) называется класс функционалов , определяющих в общем случае несимметричную меру расхождения между двумя распределениями вероятностей и . Обычно применяется в теории информации и теории вероятностей. Функционал однозначно определяется (порождается) функцией , удовлетворяющей определённым условиям. Данный класс дивергенций был введён и изучался независимо друг от друга учёными ), ) и ). Поэтому иногда можно встретить названия f-дивергенция Чисара, дивергенция Чисара—Моримото или расстояние Али—Силви.
rdf:langString
If on
, then
where
and , where is the probability density function of with respect to some underlying measure.
In the special case of , we have
xsd:nonNegativeInteger
22448
