Algumas notas grandes demais para serem colocadas em um comentário (embora isso não sugira um algoritmo óbvio):
A linha de perfuração (EDITADA) : Pelo menos dois vértices do retângulo da área máxima devem estar no limite do polígono (ou seja, ao longo de uma aresta ou em um vértice). E se o retângulo da área máxima não for um quadrado, pelo menos três vértices devem estar no limite do polígono.
Eu provei para mim mesmo em quatro etapas:
Nota 1 : pelo menos um vértice do retângulo de área máxima sempre estará no limite do polígono. Isso é bastante óbvio, mas uma prova pode ser assim (por contradição): suponha que você tenha um retângulo "máximo" sem vértice no limite do polígono. Isso significa que haveria pelo menos um pequeno espaço em torno de cada um de seus vértices. Então você pode expandir um pouco seu retângulo, contradizendo sua máxima.
Nota 2 : pelo menos dois vértices do retângulo de área máxima sempre estarão no limite do polígono. Uma prova poderia ser assim (novamente por contradição): Suponha que você tenha um retângulo "máximo" com apenas um vértice no limite (garantido pela Nota 1). Considere as duas arestas não adjacentes a esse vértice. Como os pontos de extremidade NÃO estão no limite, há um pequeno espaço em torno de cada um. Portanto, qualquer uma dessas arestas poderia ser "extrudada" um pouco, expandindo a área do polígono e contradizendo sua máxima.
Nota 3 : Existem dois vértices diagonalmente opostos do retângulo de área máxima que se encontram no limite do polígono. (Sabemos pela nota nº 2 que existem pelo menos dois, mas não necessariamente que eles estão um em frente ao outro.) Mas, novamente, por contradição, se os únicos dois vértices de fronteira eram adjacentes, então a aresta oposta (nenhum dos vértices de quem estão no limite) podem ser extrudados um pouco, aumentando a área do retângulo e contradizendo sua máxima.
Nota # 4 : (EDITADO) Se o retângulo da área máxima não for um quadrado, três de seus vértices estarão no limite do polígono.
Para provar, suponha que não seja esse o caso, ou seja, que o retângulo da área máxima não seja um quadrado, mas apenas dois de seus vértices estejam no limite do polígono. Vou mostrar como construir um retângulo maior, contradizendo a máxima.
Chame os vértices do rectângulo A
, B
, C
, e D
. Sem perda de generalidade, assuma que B
e D
são os dois que estão no limite do polígono. Como A
e C
estão no interior do polígono, há espaço de manobra ao redor deles (representado com círculos ao redor A
e C
na figura abaixo). Agora, desenhe um círculo ao redor do retângulo e deslize os pontos A
e C
um pouco ao redor do círculo na mesma quantidade (para criar A'
e C'
, na foto abaixo), para que o novo retânguloA'BC'D
é mais quadrado que o retângulo original. Esse processo cria um novo retângulo que também está dentro do polígono original e tem uma área maior. Isso é uma contradição, então a prova está pronta.
Para acreditar nessa prova, você precisa se convencer de que a área de um retângulo inscrito em um círculo aumenta à medida que se torna "mais quadrada" (ou seja, a diferença entre os comprimentos das arestas fica menor). Você também precisa que o polígono seja convexo para que todas as novas linhas fiquem dentro dele. E provavelmente há outros pequenos detalhes sendo varridos para debaixo do tapete, mas tenho certeza de que todos dão certo.