Um bayesiano admitiria que existe um valor de parâmetro fixo?

Na análise de dados bayesianos, os parâmetros são tratados como variáveis ​​aleatórias. Isso decorre da conceitualização subjetiva bayesiana de probabilidade. Mas os bayesianos reconhecem teoricamente que existe um verdadeiro valor de parâmetro fixo no 'mundo real?'

Parece que a resposta óbvia é 'sim', porque tentar estimar o parâmetro seria quase sem sentido. Uma citação acadêmica para essa resposta seria muito apreciada.

IMHO "sim"! Aqui está uma das minhas citações favoritas da Groenlândia (2006: 767):

Costuma-se dizer (incorretamente) que "os parâmetros são tratados como fixados pelo frequentista, mas como aleatórios pelo bayesiano". Para freqüentistas e bayesianos, o valor de um parâmetro pode ter sido fixado desde o início ou pode ter sido gerado a partir de um mecanismo fisicamente aleatório. Em ambos os casos, ambos supõem que tenha assumido algum valor fixo que gostaríamos de saber. O bayesiano usa modelos formais de probabilidade para expressar incerteza pessoal sobre esse valor. A 'aleatoriedade' nesses modelos representa incerteza pessoal sobre o valor do parâmetro; não é uma propriedade do parâmetro (embora esperemos que ele reflita com precisão as propriedades dos mecanismos que produziram o parâmetro).

Gronelândia, S. (2006). Perspectivas bayesianas para pesquisa epidemiológica: I. Fundamentos e métodos básicos. International Journal of Epidemiology , 35 (3), 765-774.

A concepção bayesiana de probabilidade não é necessariamente subjetiva (cf. Jaynes). A distinção importante aqui é que o bayesiano tenta determinar seu estado de conhecimento em relação ao valor do parâmetro combinando uma distribuição anterior para seu valor plausível com a probabilidade que resume as informações contidas em algumas observações. Portanto, como bayesiano, eu diria que estou feliz com a idéia de que o parâmetro tem um valor verdadeiro, que não é conhecido exatamente, e o objetivo de uma distribuição posterior é resumir o que sei sobre seus valores plausíveis, com base em minhas suposições anteriores e nas observações.

Agora, quando eu faço um modelo, o modelo não é realidade. Portanto, em alguns casos, o parâmetro em questão existe na realidade (por exemplo, o peso médio de um wombat) e, em algumas questões, não existe (por exemplo, o valor real de um parâmetro de regressão - o modelo de regressão é apenas um modelo do resultado de as leis físicas que governam o sistema, que na verdade não podem ser totalmente capturadas pelo modelo de regressão). Dizer que existe um verdadeiro valor de parâmetro fixo no mundo real não é necessariamente verdadeiro.

Por outro lado, eu sugeriria que a maioria dos freqüentadores diria que há um valor verdadeiro para a estatística, mas eles também não sabem o que é, mas têm estimadores para ela e intervalos de confiança em suas estimativas que (em certo sentido) ) quantifica sua incerteza quanto à plausibilidade de valores diferentes (mas a concepção freqüentista de probabilidade os impede de expressá-lo diretamente).

Para seu ponto principal, em Bayesian Data Analysis (3ª ed., 93), Gelman também escreve

Da perspectiva da análise de dados bayesiana, geralmente podemos interpretar estimativas pontuais clássicas como resumos posteriores exatos ou aproximados, com base em algum modelo implícito de probabilidade total. De fato, no limite do tamanho amostral grande, podemos usar a teoria assintótica para construir uma justificação bayesiana teórica para a inferência clássica de máxima verossimilhança.

Portanto, talvez não sejam os bayesianos que deveriam "admitir" que existem, na verdade, únicos valores reais de parâmetros, mas os freqüentadores que deveriam apelar para as estatísticas bayesianas para justificar seus procedimentos de estimativa! (Eu digo isso com a língua firmemente na bochecha.)

$\Pr(\theta|y)$

Mas a ideia de que existem parâmetros únicos na natureza ou nos sistemas sociais é apenas uma suposição simplificadora. Pode haver algum processo ornamentado gerando resultados observáveis, mas descobrir esse sistema é incrivelmente complicado; supor que haja um único valor de parâmetro fixo simplifica drasticamente o problema. Eu acho que isso está no cerne da sua pergunta: os bayesianos não deveriam "admitir" fazer essa simplificação mais do que os freqüentistas.

Você acha que existe um único "parâmetro fixo verdadeiro" para algo como a contribuição do consumo de leite para o crescimento de uma criança? Ou pela diminuição do tamanho de um tumor com base na quantidade de X químico que você injeta no corpo de um paciente? Escolha qualquer modelo que você esteja familiarizado e pergunte a si mesmo se você realmente acredita que existe um valor verdadeiro, universal, preciso e fixo para cada parâmetro, mesmo na teoria.

Ignore o erro de medição, basta olhar para o seu modelo como se todas as medidas fossem perfeitamente precisas e infinitamente precisas. Dado o seu modelo, você acha que cada parâmetro realisticamente tem um valor em ponto específico?

O fato de você ter um modelo indica que está deixando alguns detalhes de fora. Seu modelo terá muita imprecisão, porque você calcula a média dos parâmetros / variáveis ​​que você deixou de fora para criar um modelo - uma representação simplificada da realidade. (Assim como você não cria um mapa 1: 1 do planeta, completo com todos os detalhes, mas sim um mapa 1: 10000000, ou alguma simplificação desse tipo. O mapa é um modelo.)

Como você calcula a média das variáveis ​​deixadas de fora, os parâmetros para as variáveis ​​incluídas no seu modelo serão distribuições, não valores pontuais.

Isso é apenas parte da filosofia bayesiana - estou ignorando a incerteza teórica, a incerteza de medição, os anteriores, etc. - mas parece-me que a ideia de que seus parâmetros têm distribuições faz sentido intuitivamente, da mesma maneira que as estatísticas descritivas têm um distribuição.

Mas os bayesianos reconhecem teoricamente que existe um verdadeiro valor de parâmetro fixo no 'mundo real?'

$\theta_0$$\theta_0$

Se formos juntar o bayesianismo a um universo determinístico (antes de você dizer qualquer coisa com a palavra 'quântico', faça-me um humor e lembre-se de que isso não é físico.

Tornando explícitas nossas suposições:

1. Temos um agente bayesiano fazendo parte e observando um universo determinístico.
2. O agente possui recursos computacionais limitados.

Agora, o universo determinístico pode ser aquele em que os átomos são bolinhas de bilhar newtonianas. Pode ser totalmente não-quântico. Vamos dizer que sim.

O agente agora joga uma moeda justa. Pense nisso por um segundo, o que uma moeda justa constitui em um universo determinístico? Uma moeda com uma razão de probabilidade 50/50?

Mas é determinístico! Com poder computacional suficiente, você pode calcular exatamente como a moeda vai cair, simulando apenas o modelo de uma moeda sendo lançada da mesma maneira.

Em um universo determinístico, uma moeda justa seria um disco de metal com densidade uniforme. Nenhuma força obriga a gastar mais tempo com uma face para baixo do que a outra (pense em como os dados ponderados funcionam.)

Então o agente lança uma moeda justa. No entanto, o agente não é suficientemente poderoso. Não possui olhos afiados o suficiente para medir como a moeda gira quando lançada, mas vê apenas um borrão.

E assim diz: "Esta moeda chegará a uma cabeça com 50% de probabilidade". A falta de informação leva a probabilidades.

Podemos olhar para o espaço de fase de como uma moeda é lançada. Um grande sistema de coordenadas multidimensionais com eixos pertencentes à direção do arremesso, força do arremesso, rotação da moeda, velocidade e direção do vento e assim por diante. Um único ponto nesse espaço corresponde a um único possível lançamento de moeda.

Se pedirmos ao agente de antes para colorir no sistema de coordenadas com um gradiente de escala de cinza correspondente à atribuição de probabilidade de cabeças do agente para cada arremesso, a maioria das cores terá uma tonalidade uniforme de cinza.

Se gradualmente dermos a ele computadores internos mais poderosos com os quais calcular probabilidades de cabeças, ele poderá produzir cores cada vez mais exigentes. Quando finalmente lhe dermos o computador interno mais poderoso, tornando-o onisciente, ele efetivamente pintará um tabuleiro de xadrez estranho.

Moedas justas não são feitas de probabilidades, são feitas de metal. As probabilidades existem apenas em estruturas computacionais. É o que diz o bayesiano.

Existem antecedentes impróprios, por exemplo, Jeffreys, que tem uma certa relação com a matriz de informações sobre pescadores. Então não é subjetivo.