Obtendo a soma de verificação MD5 de um arquivo em Java

Eu estou olhando para usar Java para obter a soma de verificação MD5 de um arquivo. Fiquei realmente surpreso, mas não consegui encontrar nada que mostre como obter a soma de verificação MD5 de um arquivo.

Como isso é feito?

Há um decorador de fluxo de entrada java.security.DigestInputStream, para que você possa calcular o resumo enquanto usa o fluxo de entrada como faria normalmente, em vez de precisar fazer uma passagem extra pelos dados.

MessageDigest md = MessageDigest.getInstance("MD5");
try (InputStream is = Files.newInputStream(Paths.get("file.txt"));
     DigestInputStream dis = new DigestInputStream(is, md)) 
{
  /* Read decorated stream (dis) to EOF as normal... */
}
byte[] digest = md.digest();

Use DigestUtils da biblioteca de códigos Apache Commons :

try (InputStream is = Files.newInputStream(Paths.get("file.zip"))) {
    String md5 = org.apache.commons.codec.digest.DigestUtils.md5Hex(is);
}

Há um exemplo no Java-How-to do Real, usando a classe MessageDigest .

Verifique essa página para ver exemplos usando CRC32 e SHA-1 também.

import java.io.*;
import java.security.MessageDigest;

public class MD5Checksum {

   public static byte[] createChecksum(String filename) throws Exception {
       InputStream fis =  new FileInputStream(filename);

       byte[] buffer = new byte[1024];
       MessageDigest complete = MessageDigest.getInstance("MD5");
       int numRead;

       do {
           numRead = fis.read(buffer);
           if (numRead > 0) {
               complete.update(buffer, 0, numRead);
           }
       } while (numRead != -1);

       fis.close();
       return complete.digest();
   }

   // see this How-to for a faster way to convert
   // a byte array to a HEX string
   public static String getMD5Checksum(String filename) throws Exception {
       byte[] b = createChecksum(filename);
       String result = "";

       for (int i=0; i < b.length; i++) {
           result += Integer.toString( ( b[i] & 0xff ) + 0x100, 16).substring( 1 );
       }
       return result;
   }

   public static void main(String args[]) {
       try {
           System.out.println(getMD5Checksum("apache-tomcat-5.5.17.exe"));
           // output :
           //  0bb2827c5eacf570b6064e24e0e6653b
           // ref :
           //  http://www.apache.org/dist/
           //          tomcat/tomcat-5/v5.5.17/bin
           //              /apache-tomcat-5.5.17.exe.MD5
           //  0bb2827c5eacf570b6064e24e0e6653b *apache-tomcat-5.5.17.exe
       }
       catch (Exception e) {
           e.printStackTrace();
       }
   }
}

A API com.google.common.hash oferece:

• Uma API amigável e unificada para todas as funções de hash
• Implementações semeadas de 32 e 128 bits de sopro3
• Os adaptadores md5 (), sha1 (), sha256 (), sha512 (), alteram apenas uma linha de código para alternar entre eles e o murmúrio.
• goodFastHash (int bits), para quando você não se importa com o algoritmo que usa
• Utilitários gerais para instâncias HashCode, como combineOrdered / combineUnordered

Leia o Guia do Usuário ( IO Explained , Hashing Explained ).

Para o seu caso de uso, Files.hash()calcula e retorna o valor de resumo de um arquivo.

Por exemplo, um sha-1 cálculo de resumo (altere SHA-1 para MD5 para obter o resumo MD5)

HashCode hc = Files.asByteSource(file).hash(Hashing.sha1());
"SHA-1: " + hc.toString();

Observe que crc32 é muito mais rápido que md5então use crc32se você não precisar de uma soma de verificação criptograficamente segura. Note também quemd5 não deve ser usado para armazenar senhas e similares, uma vez que é muito fácil usar força bruta, para usar senhas bcrypt, escrever ou sha-256 em vez de.

Para proteção de longo prazo com hashes, um esquema de assinatura Merkle aumenta a segurança e o The Post Quantum Cryptography Study Group patrocinado pela Comissão Europeia recomendou o uso dessa criptografia para proteção de longo prazo contra computadores quânticos ( ref ).

Observe que crc32 tem uma taxa de colisão mais alta que as outras.

Usando o nio2 (Java 7+) e nenhuma biblioteca externa:

byte[] b = Files.readAllBytes(Paths.get("/path/to/file"));
byte[] hash = MessageDigest.getInstance("MD5").digest(b);

Para comparar o resultado com uma soma de verificação esperada:

String expected = "2252290BC44BEAD16AA1BF89948472E8";
String actual = DatatypeConverter.printHexBinary(hash);
System.out.println(expected.equalsIgnoreCase(actual) ? "MATCH" : "NO MATCH");

O Guava agora oferece uma nova API de hash consistente e muito mais amigável ao usuário do que as várias APIs de hash fornecidas no JDK. Consulte Hashing Explained . Para um arquivo, você pode obter facilmente a soma MD5, CRC32 (com versão 14.0+) ou muitos outros hashes:

HashCode md5 = Files.hash(file, Hashing.md5());
byte[] md5Bytes = md5.asBytes();
String md5Hex = md5.toString();

HashCode crc32 = Files.hash(file, Hashing.crc32());
int crc32Int = crc32.asInt();

// the Checksum API returns a long, but it's padded with 0s for 32-bit CRC
// this is the value you would get if using that API directly
long checksumResult = crc32.padToLong();

Está bem. Eu tive que adicionar. Implementação de uma linha para aqueles que já têm dependência do Spring e Apache Commons ou planejam adicioná-lo:

DigestUtils.md5DigestAsHex(FileUtils.readFileToByteArray(file))

Opção apenas para e Apache commons (credit @duleshi):

DigestUtils.md5Hex(FileUtils.readFileToByteArray(file))

Espero que isso ajude alguém.

Uma abordagem simples sem bibliotecas de terceiros usando Java 7

String path = "your complete file path";
MessageDigest md = MessageDigest.getInstance("MD5");
md.update(Files.readAllBytes(Paths.get(path)));
byte[] digest = md.digest();

Se você precisar imprimir essa matriz de bytes. Use como abaixo

System.out.println(Arrays.toString(digest));

Se você precisar de uma sequência hexadecimal desse resumo. Use como abaixo

String digestInHex = DatatypeConverter.printHexBinary(digest).toUpperCase();
System.out.println(digestInHex);

em que DatatypeConverter é javax.xml.bind.DatatypeConverter

Recentemente, tive que fazer isso por apenas uma sequência dinâmica, MessageDigestpode representar o hash de várias maneiras. Para obter a assinatura do arquivo como você obteria com o comando md5sum , tive que fazer algo parecido com isto:

try {
   String s = "TEST STRING";
   MessageDigest md5 = MessageDigest.getInstance("MD5");
   md5.update(s.getBytes(),0,s.length());
   String signature = new BigInteger(1,md5.digest()).toString(16);
   System.out.println("Signature: "+signature);

} catch (final NoSuchAlgorithmException e) {
   e.printStackTrace();
}

Obviamente, isso não responde à sua pergunta sobre como fazê-lo especificamente para um arquivo, a resposta acima lida muito bem com isso. Passei muito tempo fazendo com que a soma parecesse com a maioria dos aplicativos e achei que você poderia ter o mesmo problema.

public static void main(String[] args) throws Exception {
    MessageDigest md = MessageDigest.getInstance("MD5");
    FileInputStream fis = new FileInputStream("c:\\apache\\cxf.jar");

    byte[] dataBytes = new byte[1024];

    int nread = 0;
    while ((nread = fis.read(dataBytes)) != -1) {
        md.update(dataBytes, 0, nread);
    };
    byte[] mdbytes = md.digest();
    StringBuffer sb = new StringBuffer();
    for (int i = 0; i < mdbytes.length; i++) {
        sb.append(Integer.toString((mdbytes[i] & 0xff) + 0x100, 16).substring(1));
    }
    System.out.println("Digest(in hex format):: " + sb.toString());
}

Ou você pode obter mais informações http://www.asjava.com/core-java/java-md5-example/

String checksum = DigestUtils.md5Hex(new FileInputStream(filePath));

Estávamos usando um código semelhante ao código acima em uma postagem anterior usando

...
String signature = new BigInteger(1,md5.digest()).toString(16);
...

No entanto, tenha cuidado ao usar BigInteger.toString()aqui, pois truncará os zeros à esquerda ... (por exemplo, tente s = "27", a soma de verificação deve ser "02e74f10e0327ad868d138f2b4fdd6f0")

Segundo a sugestão de usar o Apache Commons Codec, substituí nosso código por isso.

public static String MD5Hash(String toHash) throws RuntimeException {
   try{
       return String.format("%032x", // produces lower case 32 char wide hexa left-padded with 0
      new BigInteger(1, // handles large POSITIVE numbers 
           MessageDigest.getInstance("MD5").digest(toHash.getBytes())));
   }
   catch (NoSuchAlgorithmException e) {
      // do whatever seems relevant
   }
}

Método Java muito rápido e limpo, que não depende de bibliotecas externas:

(Simplesmente substitua o MD5 por SHA-1, SHA-256, SHA-384 ou SHA-512, se desejar)

public String calcMD5() throws Exception{
        byte[] buffer = new byte[8192];
        MessageDigest md = MessageDigest.getInstance("MD5");

        DigestInputStream dis = new DigestInputStream(new FileInputStream(new File("Path to file")), md);
        try {
            while (dis.read(buffer) != -1);
        }finally{
            dis.close();
        }

        byte[] bytes = md.digest();

        // bytesToHex-method
        char[] hexChars = new char[bytes.length * 2];
        for ( int j = 0; j < bytes.length; j++ ) {
            int v = bytes[j] & 0xFF;
            hexChars[j * 2] = hexArray[v >>> 4];
            hexChars[j * 2 + 1] = hexArray[v & 0x0F];
        }

        return new String(hexChars);
}

Outra implementação: Implementação rápida do MD5 em Java

String hash = MD5.asHex(MD5.getHash(new File(filename)));

Maneira padrão do Java Runtime Environment :

public String checksum(File file) {
  try {
    InputStream fin = new FileInputStream(file);
    java.security.MessageDigest md5er =
        MessageDigest.getInstance("MD5");
    byte[] buffer = new byte[1024];
    int read;
    do {
      read = fin.read(buffer);
      if (read > 0)
        md5er.update(buffer, 0, read);
    } while (read != -1);
    fin.close();
    byte[] digest = md5er.digest();
    if (digest == null)
      return null;
    String strDigest = "0x";
    for (int i = 0; i < digest.length; i++) {
      strDigest += Integer.toString((digest[i] & 0xff) 
                + 0x100, 16).substring(1).toUpperCase();
    }
    return strDigest;
  } catch (Exception e) {
    return null;
  }
}

O resultado é igual ao utilitário linux md5sum.

Aqui está uma função simples que envolve o código do Sunil para que ele use um arquivo como parâmetro. A função não precisa de bibliotecas externas, mas requer o Java 7.

import java.io.File;
import java.io.IOException;
import java.nio.file.Files;
import java.security.MessageDigest;
import java.security.NoSuchAlgorithmException;

import javax.xml.bind.DatatypeConverter;

public class Checksum {

    /**
     * Generates an MD5 checksum as a String.
     * @param file The file that is being checksummed.
     * @return Hex string of the checksum value.
     * @throws NoSuchAlgorithmException
     * @throws IOException
     */
    public static String generate(File file) throws NoSuchAlgorithmException,IOException {

        MessageDigest messageDigest = MessageDigest.getInstance("MD5");
        messageDigest.update(Files.readAllBytes(file.toPath()));
        byte[] hash = messageDigest.digest();

        return DatatypeConverter.printHexBinary(hash).toUpperCase();
    }

    public static void main(String argv[]) throws NoSuchAlgorithmException, IOException {
        File file = new File("/Users/foo.bar/Documents/file.jar");          
        String hex = Checksum.generate(file);
        System.out.printf("hex=%s\n", hex);            
    }


}

Exemplo de saída:

hex=B117DD0C3CBBD009AC4EF65B6D75C97B

Se você estiver usando o ANT para criar, isso é simples. Adicione o seguinte ao seu build.xml:

<checksum file="${jarFile}" todir="${toDir}"/>

Onde jarFile é o JAR no qual você deseja gerar o MD5 e toDir é o diretório no qual você deseja colocar o arquivo MD5.

Mais informações aqui.

A goiaba do Google fornece uma nova API. Encontre o abaixo:

public static HashCode hash(File file,
            HashFunction hashFunction)
                     throws IOException

Computes the hash code of the file using hashFunction.

Parameters:
    file - the file to read
    hashFunction - the hash function to use to hash the data
Returns:
    the HashCode of all of the bytes in the file
Throws:
    IOException - if an I/O error occurs
Since:
    12.0

Aqui está uma variação prática que utiliza o InputStream.transferTo()Java 9 e o OutputStream.nullOutputStream()Java 11. Ele não requer bibliotecas externas e não precisa carregar o arquivo inteiro na memória.

public static String hashFile(String algorithm, File f) throws IOException, NoSuchAlgorithmException {
    MessageDigest md = MessageDigest.getInstance(algorithm);

    try(BufferedInputStream in = new BufferedInputStream((new FileInputStream(f)));
        DigestOutputStream out = new DigestOutputStream(OutputStream.nullOutputStream(), md)) {
        in.transferTo(out);
    }

    String fx = "%0" + (md.getDigestLength()*2) + "x";
    return String.format(fx, new BigInteger(1, md.digest()));
}

e

hashFile("SHA-512", Path.of("src", "test", "resources", "some.txt").toFile());

retorna

"e30fa2784ba15be37833d569280e2163c6f106506dfb9b07dde67a24bfb90da65c661110cf2c5c6f71185754ee5ae3fd83a5465c92f72abd888b03187229da29"

public static String getMd5OfFile(String filePath)
{
    String returnVal = "";
    try 
    {
        InputStream   input   = new FileInputStream(filePath); 
        byte[]        buffer  = new byte[1024];
        MessageDigest md5Hash = MessageDigest.getInstance("MD5");
        int           numRead = 0;
        while (numRead != -1)
        {
            numRead = input.read(buffer);
            if (numRead > 0)
            {
                md5Hash.update(buffer, 0, numRead);
            }
        }
        input.close();

        byte [] md5Bytes = md5Hash.digest();
        for (int i=0; i < md5Bytes.length; i++)
        {
            returnVal += Integer.toString( ( md5Bytes[i] & 0xff ) + 0x100, 16).substring( 1 );
        }
    } 
    catch(Throwable t) {t.printStackTrace();}
    return returnVal.toUpperCase();
}