Como encontrar todos os arquivos no diretório que contêm UTF-8 BOM (marca de ordem de bytes)?

8

No Windows, preciso encontrar todos os arquivos em um diretório que contenha UTF-8 BOM (marca de ordem de bytes). Qual ferramenta pode fazer isso e como?

Pode ser um script do PowerShell, o recurso de pesquisa avançada de algum editor de texto ou o que for.

windows search utf-8

— Borek Bernard
fonte

15

Aqui está um exemplo de um script do PowerShell. Ele procura no C:caminho os arquivos onde estão os 3 primeiros bytes 0xEF, 0xBB, 0xBF.

Function ContainsBOM
{   
    return $input | where {
        $contents = [System.IO.File]::ReadAllBytes($_.FullName)
        $_.Length -gt 2 -and $contents[0] -eq 0xEF -and $contents[1] -eq 0xBB -and $contents[2] -eq 0xBF }
}

get-childitem "C:\*.*" | where {!$_.PsIsContainer } | ContainsBOM

É necessário "ReadAllBytes"? Talvez a leitura de apenas alguns primeiros bytes tenha um desempenho melhor?

Ponto justo. Aqui está uma versão atualizada que lê apenas os 3 primeiros bytes.

Function ContainsBOM
{   
    return $input | where {
        $contents = new-object byte[] 3
        $stream = [System.IO.File]::OpenRead($_.FullName)
        $stream.Read($contents, 0, 3) | Out-Null
        $stream.Close()
        $contents[0] -eq 0xEF -and $contents[1] -eq 0xBB -and $contents[2] -eq 0xBF }
}

get-childitem "C:\*.*" | where {!$_.PsIsContainer -and $_.Length -gt 2 } | ContainsBOM

— vcsjones
fonte

11

Legal. Antes de marcar como resposta, é necessário "ReadAllBytes"? Talvez a leitura de apenas alguns primeiros bytes tenha um desempenho melhor?

— Borek Bernard

@Borek Ver edição.

— Vcsjones

2

Isso salvou meu dia! Também aprendi que get-childitem -recursea lidar com subdiretórios também.

— diynevala

Gostaria de saber se existe uma maneira de remover as listas técnicas usando o script acima?

— tom_mai78101 6/06/19

2

Como uma observação lateral, aqui está um script do PowerShell que eu uso para remover os caracteres UTF-8 BOM dos meus arquivos de origem:

$files=get-childitem -Path . -Include @("*.h","*.cpp") -Recurse
foreach ($f in $files)
{
(Get-Content $f.PSPath) | 
Foreach-Object {$_ -replace "\xEF\xBB\xBF", ""} | 
Set-Content $f.PSPath
}

— Scott Smith
fonte

Acabei de receber uma série de arquivos que diferiam apenas pelo fato de alguns terem uma lista técnica e outros não. Sua resposta foi exatamente o que eu precisava para limpar tudo. Obrigado!

— Tevya 26/10/19

1

Se você estiver em um computador corporativo (como eu) com privilégios restritos e não puder executar o script PowerShell, poderá usar um bloco de notas portátil Notepad ++ com PythonScript para executar a tarefa, com o seguinte script:

import os;
import sys;
filePathSrc="C:\\Temp\\UTF8"
for root, dirs, files in os.walk(filePathSrc):
    for fn in files:
      if fn[-4:] != '.jar' and fn[-5:] != '.ear' and fn[-4:] != '.gif' and fn[-4:] != '.jpg' and fn[-5:] != '.jpeg' and fn[-4:] != '.xls' and fn[-4:] != '.GIF' and fn[-4:] != '.JPG' and fn[-5:] != '.JPEG' and fn[-4:] != '.XLS' and fn[-4:] != '.PNG' and fn[-4:] != '.png' and fn[-4:] != '.cab' and fn[-4:] != '.CAB' and fn[-4:] != '.ico':
        notepad.open(root + "\\" + fn)
        console.write(root + "\\" + fn + "\r\n")
        notepad.runMenuCommand("Encoding", "Convert to UTF-8 without BOM")
        notepad.save()
        notepad.close()

O crédito está disponível em https://pw999.wordpress.com/2013/08/19/mass-convert-a-project-to-utf-8-using-notepad/

— Hoàng Long
fonte