O que significa uma "solução de formulário fechado"?

82

Eu me deparei com o termo "solução de formulário fechado" com bastante frequência. O que significa uma solução em formato fechado? Como determinar se existe uma solução de formulário fechado para um determinado problema? Pesquisando on-line, encontrei algumas informações, mas nada no contexto do desenvolvimento de um modelo / solução estatística ou probabilística.

Eu entendo muito bem a regressão, portanto, se alguém puder explicar o conceito com referência à regressão ou ao ajuste de modelo, será fácil consumir. :)

— arjsgh21
fonte

4

Essa questão parece ter sido um ímã para respostas de baixa qualidade por algum tempo; Eu pensei que talvez devesse ser protegido por enquanto.

— Glen_b

37

"Uma equação é considerada uma solução de forma fechada se resolver um determinado problema em termos de funções e operações matemáticas de um determinado conjunto geralmente aceito. Por exemplo, uma soma infinita geralmente não seria considerada de forma fechada. No entanto, a a escolha do que chamar de forma fechada e o que não é bastante arbitrária, pois uma nova função de "forma fechada" poderia ser simplesmente definida em termos da soma infinita ". --Wolfram Alpha

e

"Em matemática, uma expressão é considerada uma expressão de forma fechada se puder ser expressa analiticamente em termos de um número finito de certas funções" conhecidas ". Normalmente, essas funções conhecidas são definidas como funções elementares - constantes, uma variável x, operações elementares de aritmética (+ - × ÷), enésimas raízes, expoente e logaritmo (que também incluem funções trigonométricas e funções trigonométricas inversas). de uma expressão de forma fechada ". - Wikipedia

Um exemplo de solução de forma fechada em regressão linear seria a equação do mínimo quadrado

\hat{β} = (X^{T} X)^{- 1} X^{T} y

$\hat\beta=(X^TX)^{-1}X^Ty$

Considerando que todos os cenários de regressão podem ser considerados um problema de solução de um sistema de equações, quando não haveria uma solução de forma fechada? Um problema mal colocado ou escasso exigirá uma solução aproximada. Portanto, é o caso em que não existe uma solução fechada? Que tal quando se usa descida de gradiente conjugada com regularização?

— precisa saber é o seguinte

Eu encontrei esta discussão útil - "Resolver para os parâmetros de regressão na forma fechada vs gradiente de descida" ligação

— arjsgh21

@ arjsgh21 você ainda precisa de mais esclarecimentos sobre o que significa ser uma solução de formulário fechado? Porque sua nova pergunta parece ser sobre quando existem soluções de formulário fechado (ou não) em problemas de regressão, que é um tópico totalmente novo e deve ser perguntado como uma nova pergunta, na minha opinião.

Obrigado BabakP. Eu acho que entendi agora, com referência à regressão e também de outra forma.

— arjsgh21

1

Me confunde por que o CrossValidated é o único "fórum de troca de pilha" que oferece suporte consistente a respostas ofuscantes, mas corretas, sobre as respostas que fornecem entendimento. A melhor resposta da safra atual é @ Luca e não é apreciada. É verdade que ele fornece apenas um link, mas é um ótimo link fácil de entender. Essa resposta excessivamente erudita ajuda a resolver o problema apenas para as pessoas que já sabem a resposta. :(

— Mike Williamson

17

A maioria dos procedimentos de estimativa envolve encontrar parâmetros que minimizem (ou maximizem) alguma função objetiva. Por exemplo, com o OLS, minimizamos a soma dos resíduos ao quadrado. Com a Estimativa de máxima verossimilhança, maximizamos a função de verossimilhança. A diferença é trivial: a minimização pode ser convertida em maximização usando o negativo da função objetivo.

Às vezes, esse problema pode ser resolvido algebricamente, produzindo uma solução de forma fechada. Com o OLS, você resolve o sistema de condições de primeira ordem e obtém a fórmula familiar (embora você provavelmente ainda precise de um computador para avaliar a resposta). Em outros casos, isso não é matematicamente possível e você precisa procurar valores de parâmetros usando um computador. Nesse caso, o computador e o algoritmo desempenham um papel maior. Mínimos Quadrados Não Lineares é um exemplo. Você não recebe uma fórmula explícita; tudo o que você recebe é uma receita que você precisa implementar no computador. A receita pode começar com um palpite inicial sobre quais podem ser os parâmetros e como eles podem variar. Você tenta várias combinações de parâmetros e vê qual deles fornece o menor / o maior valor da função objetivo. Essa é a abordagem da força bruta e leva muito tempo. Por exemplo, $10^5$ combinações, e que apenas coloca você na vizinhança da resposta certa se você tiver sorte. Essa abordagem é chamada de pesquisa em grade.

Ou você pode começar com um palpite e refinar esse palpite em alguma direção até que as melhorias na função objetivo sejam inferiores a algum valor. Estes são geralmente chamados de métodos de gradiente (embora existam outros que não usam o gradiente para escolher em qual direção seguir, como algoritmos genéticos e recozimento simulado). Alguns problemas como esse garantem que você encontre a resposta correta rapidamente (funções objetivas quadráticas). Outros não dão essa garantia. Você pode se preocupar com o fato de ter ficado preso em um local ideal, em vez de um ideal global, para tentar várias tentativas iniciais. Você pode achar que parâmetros totalmente diferentes fornecem o mesmo valor da função objetivo, para que você não saiba qual conjunto escolher.

E [y] = \exp {α}

$\begin{equation} E[y]=\exp\{\alpha\} \end{equation}$

Q_{N} (α) = - \frac{1}{2 N} \sum_{Eu}^{N} {(y_{Eu} - \exp {α})}^{2}

$\begin{equation} Q_N(\alpha)=-\frac{1}{2N} \sum_i^N \left( y_i - \exp\{\alpha\} \right)^2 \end{equation}$

$\alpha^* = \ln \bar y$ $\ln (\bar y + k)$

— Dimitriy V. Masterov
fonte

Você equiparou implicitamente "analítico" a "forma fechada" na última frase?

— whuber

2

Pensei então sinônimo: mathworld.wolfram.com/Analytic.html

— Dimitriy V. Masterov

Você viu os comentários de desambiguação no final dessa página do MathWorld? A questão é que, no presente contexto, "analítico" pode ser razoavelmente entendido de várias maneiras distintas. Além disso, "analítico" e "analítico" não significam exatamente a mesma coisa (assim como "histórico" e "histórico" têm significados diferentes).

— whuber

Não sei que existe uma diferença entre "solução analítica", "solução analítica" e "forma fechada". O MathWorld não possui uma entrada separada para analítica e define uma solução analítica para um problema como aquela que pode ser escrita em "forma fechada" em termos de funções conhecidas, constantes, etc. MW diz que analítica e analítica são variantes . A distinção entre histórico e histórico é válida, mas não sigo o que isso tem a ver com este caso. Se eu estiver errado, por favor me corrija.

— Dimitriy V. Masterov

2

Em muitos contextos matemáticos, "analítico" é um termo preciso da arte aplicado a qualquer função localmente expressável como uma série de potências com raio positivo de convergência, enquanto "analítico", muito mais amplamente, está relacionado à decomposição em partes básicas. Como indicam as citações de BabakP, "forma fechada" adquire significado apenas dentro de algum contexto de procedimentos geralmente aceitos para combinar valores (geralmente assumidos como consistindo de funções elementares, mas não transcendentais).

— whuber

13

Penso que este site fornece uma intuição simples, cujo trecho é:

Uma solução de forma fechada (ou expressão de forma fechada) é qualquer fórmula que possa ser avaliada em um número finito de operações padrão. ... Uma solução numérica é qualquer aproximação que possa ser avaliada em um número finito de operações padrão. Soluções de formulário fechado e soluções numéricas são semelhantes, pois ambas podem ser avaliadas com um número finito de operações padrão. Eles diferem na medida em que uma solução em forma fechada é exata, enquanto uma solução numérica é apenas aproximada.

— Luca Bertinetto
fonte

2

Embora apenas forneça um link, essa é definitivamente a resposta mais útil.

— Mike Williamson

2

A inclusão de Wayne de uma citação no link melhorou definitivamente a resposta.

— Glen_b

2

Além disso, o link de Luca agora está morto.

— Naramsim

-2

Procurando termos leigos ou a verborragia dolorosa que define rigorosamente o significado? Presumo termos leigos, pois o outro pode ser encontrado em qualquer lugar. Digamos que você desejasse a solução de forma fechada da raiz quadrada de 8. A solução de forma fechada é 2 * (2) ^ 1/2 ou duas vezes a raiz quadrada de dois. Isso contrasta com a solução de formulário não fechado 2.8284. (veja na wikipedia a raiz quadrada de 2 para ver que, em 69 casas decimais, a precisão é de 1 / 10.000). Uma é absolutamente definida em termos matemáticos, enquanto a outra não. Uma solução de formulário fechado fornece uma resposta exata e uma que não é um formulário fechado é uma aproximação, mas você pode obter uma solução de formulário não fechado o mais próximo possível de uma solução de formulário fechado. Soa contra-intuitivo, mas se você precisar de mais precisão, use um pouco mais de computação.

— Cheesepipe
fonte

3

Esse é um uso incomum do termo "formulário fechado". Você poderia fornecer uma referência?

— whuber

1

Não tenho certeza de que posso fornecer o nível de documentação de suporte suficiente para ganhar um debate sobre isso sem mais trabalho do que estou disposto a apresentar, mas aqui vai. Olhe na Wikipedia para Expressão de formulário fechado. Nas duas últimas seções, descreve como as soluções de formulário fechado não são necessariamente necessárias, porque a computação numérica geralmente pode ser usada com êxito para chegar a uma solução e a seção a seguir descreve como alguns programas matemáticos tentam gerar soluções de formulário fechado a partir de valores numéricos. Soluções de forma fechada são precisos (fora do espaço)

— Cheesepipe

5

A Wikipedia é boa como referência. Nesse caso, parece que você pode ter confundido "expressão de formulário fechado" com "número de formulário fechado". Eles não significam as mesmas coisas.

— whuber

-2

Forma fechada = forma fechada (funcional)

Fechado significa que nada mais pode entrar; isto é, nenhuma alternativa => apenas uma solução => apenas uma função que pode estabelecer a relação entre o resultado e os preditores.

— Vivek Astvansh
fonte

3

Esse também é um uso incomum do termo. Você poderia fornecer alguns exemplos disso sendo usado neste contexto? Surpreende-me principalmente porque muitas vezes se ouve de forma fechada / sem forma fechada sobre integrais, que realmente não têm um resultado ou preditores.

— Matt Krause