Бейсова вероятност

от Администрация и управление
Направо към: навигация, търсене
Thomas Bayes.
Томас Бейс

Бейсовата вероятност е една от типичните представители на теорията на вероятностите за изчисляване степента на определеност на твърденията.

Същност

Правилото на Бейс се базира на понятието условна вероятност.Нека са дадени твърденията(събитията) Н и Е. Условната вероятност на Н е просто вероятността на, че Н ще се случи, ако е станало Е.

Отправна точка в съвременната Бейс теория на вероятностите е, че вероятността се интерпретира като степен на вяра. Ричард Кокс показва някой много общи изисквания за смятане в правилата на теорията на вероятностите. Решението също води до едни и същи правила с една и съща интерпретация.

Вярванията винаги са субективни и поради това всички вероятности, включени в Бейс теорията на вероятностите, са условни. По-специално, при тълкуването на вероятностите вярванията в решението и точния резултат не са цел, а резултат на някои физически интерпретации и зависят от предварително предположената на система за обучение. Понякога вероятността може да се приравни грубо с емпиричните честоти, но това може да се разглежда като специален случай на вероятното тълкуване, както се вижда от методите на Кокс.

Подход

Щом за наблюдаваните данни се приема, че са генерирани от някакъв вероятностен механизъм, а неизвестният параметър (параметри) на модела се третира като случайна величина поради използването на субективна вероятност, то за наличната извадка

x = (x1,...,xn)

и за параметрите може да се разглежда съвместна функция на разпределение или, при допускането за абсолютна непрекъснатост, съвместна плътност. В нашия случай може да се разглежда съвместната плътност на x и µ f(x,µ). Тази постановка позволява да формализираме във вероятностни термини идеята за несигурността по отношение на стойностите на оценявания параметър, но не преодолява невъзможността да се възпроизвеждат данните от експеримента. Понеже повечето от практически интересните ситуации се занимават със случая, в който извадката x е фиксирана и е трудно или невъзможно да се получат още данни, релевантният обект за изследване е всъщност условната плътност на параметъра при условие наблюдаваните данни f(µ|x). Последната може да бъде получена с прилагане на формулата на Бейс във варианта ´и за плътности на разпределения на случайни величини

(µ|x) =f(x,µ)f(x)=f(x|µ)f(µ)f(x)

При зададена извадка x стойността на плътността f(x) се превръща в известно число и съответно не влияе върху анализа на µ, а само скалира другите членове в последното равенство. Тогава формулатa може да бъде записана като:

f(µ|x) ∝ f(x|µ)f(µ),

където ∝ е знак за пропорционалност.

Този запис на формулата на Бейс съдържа ключовите елементи за анализа. Членът f(x|µ) е добре познатата ни функция на правдоподобие, която в разглеждания от нас пример се задава с първата формула която въведохме. Членът f(µ) се нарича априорна плътност на параметъра µ. Априорната плътност съдържа предварителната (преди провеждане на експеримента) информация за стойнoстите на параметъра µ.

Тази информация може да отразява чисто субективни убеждения (подобно на дадените по-горе примери), но може да бъде формирана например и на база теоретични резултати или информация от подобни експерименти, които са били провеждани в миналото. Условната плътност f(µ|x) се нарича апостериорно разпределение на µ. Апостериорното разпределение посредством формулата на Бейс обединява експерименталната и неексперименталната информация за стойностите на параметъра µ и именно оттам са влезли в употреба понятия като „Бейсов анализ” и „Бейсова статистика”.

Изразът в (3) отдясно на знака за пропорционалност понякога се нарича ядро на апостериорната плътност. Ясно е, че горните принципи остават в сила и за многомерния случай. Последната формула може да се разглежда като формален механизъм за ревизиране на някаква извънекспериментална информация с помощта на емпирични данни.

Алтернативно тя може да бъде интерпретирана и като начин в емпиричния статистически анализ да бъде вкарана допълнителна информация като теоретични резултати или експертен опит. И в двата случая основен проблем е как наличната информация да бъде кодиранa с помощта на априорната плътност.

Затова съществуват различни варианти, по-сложните от които например са базирани на итеративни сесии с групи от експерти, чиито мнения последователно се ревизират и обобщават. В най-стандартния случай се действа по-просто, като се избира клас разпределения според типа параметър (например нормално за параметър без ограничения, гама за положителен параметър, бета за параметър между 0 и 1 и т.н.) и от този клас се избира представител с необходимите характеристики (например подходяща средна, която да отразява стойността на параметъра, считана от нас за най-достоверна, и подходяща дисперсия, която да отразява несигурността ни за достоверността на нашата преценка).

История

Откривател на Бейсовата верочтност е Пиер Симон Лаплас (1749-1827), който въвежда обща версия на теоремата и я използва за подход при проблемите в небесната механика , медицинска статистика, надеждността , както и съдебната практика . Изводът на Бейс, се нарича "обратна вероятност "(тъй като той прави извод назад от наблюдения на параметрите, свързани с последствията ). След 1920 година, "обратната вероятност" до голяма степен измества останалите методи и започва да се нарича обикновена (frenquentist) статистика .

През 20-ти век, идеите на Лаплас са доразвити в две различни посоки, което води до обективни и субективни течения в Бейс практиката. В обективния поток на статистическия анализ зависимостта е от самия модел и анализираните данни. Никакви субективни решения не трябва да бъдат включвани. За разлика от "subjectivist" (субективистите), статистиците отричат съществуването на изцяло обективен анализ за общия случай.

През 1980 г. има значително нарастване на научните изследвания и приложения на Бейс, което се дължи най-вече на откриването на веригата от Монте Карло методи, с която се премахват много от изчислителните проблеми и интересът към нестандартните, сложни приложения става все по-голям. Въпреки растежа на популярността на Бейс изследванията, при повечето студенти обучението е все още на базата на стандартната статистика. Независимо от това, Бейс методите са широко признати и използвани (например в областта на машинното обучение).

Вижте още

Източници

  • Бергер, Джеймс O (1985). Статистически решение Теория и Bayesian анализ. Springer серия по статистика (втори изд.).
  • Бернардо Жозе М. ; Смит, Ейдриън Е. М. 1994 г. Bickel, Питър Дж. и Doksum, Kjell A. (2001 г.). Математическа статистика, том 1 Основни и избраните теми
  • Дейвидсън, Доналд ; Suppes, Патрик ; Сийгъл, Сидни 1957). (вземане на решения: експериментално подход
  • де Finetti, Бруно . "Probabilism: критично есе върху теория на вероятностите и върху стойността на науките" (превод от 1931 г. статия) в Erkenntnis, том 31 септември 1989 година.
  • де Finetti, Бруно (1937) "La предвиждане: ЕЕН Лоис logiques, SES източници subjectives" Annales де l'Institut Анри Поанкаре,
  • де Finetti, Бруно. "Форсайт: Logical си закони, му Субективните източници"
  • де Finetti, Бруно от. теория на вероятностите,
  • DeGroot, Морис (2004) Оптимално статистически решения. Wiley Classics Library.
  • Сух, Йън (декември 1967 г.). "малко по-реалистична Лични вероятностите" .
  • Сух, I (1988 г.) "малко по-реалистична Лични вероятностите". 1967 статия частично препечатани в: Gärdenfors, Петър и Салин, Нилс-Ерик. (1988 г.) решение, вероятностите, и полезни: Избрани четения.
  • Хайек, А. и Хартман, С. (2010): "Бейс епистемологията", в:, Данси J., Соса, Д., Steup, М. (ред.) (2001) спътник на епистемологията, Уайли.
  • Hald, Андерс (1998). История на Математическа статистика Хартман, С. и Sprenger, Дж. (2011 г.) "Бейс епистемологията", в: Bernecker, С. и Причард, Д. (ред.) (2011 г.) Routledge спътник на епистемологията.
  • Хаусън, В. ; Urbach, П. (2005). научните аргументи на Бейс подход
  • Jaynes ET (2003) Теория на вероятностите: Логиката на науката,
  • Моргенщерн, Оскар (1978). "Някои Из Utility ". В Андрю Schotter. Избрани икономически писането на Оскар Моргенщерн. Пиърс, CS и Jastrow J. (1885). " На малките разлики в Sensation " Pfanzagl, J (1967 г.). "Субективните вероятности Въз основа на Моргенщерн-фон Нойман Utility Theory"
  • Pfanzagl, в сътрудничество с Й. В. З. Бауман и Хубер (1968 г.). "Събитията, полезни и субективно на вероятностите". Теория на оценяване. Уайли
  • Рамзи, Франк Plumpton (1931) "Истина и вероятностите" ( PDF ), глава VII в основите на математиката и други есета Логически,
  • Stigler, Стивън М. (1990). "История на статистиката неопределеността на измерването преди 1900 година
  • Stigler, Стивън М. (1999) Статистически данни за маса: "История на статистически понятия и методи

Външни препратки