Estou trabalhando no reconhecimento de vários dígitos Java, usando a OpenCVbiblioteca para pré-processamento e segmentação, e um Kerasmodelo treinado no MNIST (com precisão de 0,98) para reconhecimento.
O reconhecimento parece funcionar muito bem, além de uma coisa. A rede geralmente falha em reconhecer esses (número "um"). Não consigo descobrir se isso ocorre devido ao pré-processamento / implementação incorreta da segmentação ou se uma rede treinada no MNIST padrão simplesmente não viu o número um que se parece com os meus casos de teste.
Veja como são os dígitos problemáticos após o pré-processamento e a segmentação:
torna 
- se e é classificado como 4.
torna 
- se e é classificado como 7.
torna 
- se e é classificado como 4. E assim por diante...
Isso pode ser corrigido com a melhoria do processo de segmentação? Ou melhor, aprimorando o conjunto de treinamento?
Editar: o aprimoramento do conjunto de treinamento (aumento de dados) definitivamente ajudaria, que eu já estou testando, a questão do pré-processamento correto ainda permanece.
Meu pré-processamento consiste em redimensionar, converter em escala de cinza, binarização, inversão e dilatação. Aqui está o código:
Mat resized = new Mat();
Imgproc.resize(image, resized, new Size(), 8, 8, Imgproc.INTER_CUBIC);
Mat grayscale = new Mat();
Imgproc.cvtColor(resized, grayscale, Imgproc.COLOR_BGR2GRAY);
Mat binImg = new Mat(grayscale.size(), CvType.CV_8U);
Imgproc.threshold(grayscale, binImg, 0, 255, Imgproc.THRESH_OTSU);
Mat inverted = new Mat();
Core.bitwise_not(binImg, inverted);
Mat dilated = new Mat(inverted.size(), CvType.CV_8U);
int dilation_size = 5;
Mat kernel = Imgproc.getStructuringElement(Imgproc.CV_SHAPE_CROSS, new Size(dilation_size, dilation_size));
Imgproc.dilate(inverted, dilated, kernel, new Point(-1,-1), 1);A imagem pré-processada é então segmentada em dígitos individuais da seguinte maneira:
List<Mat> digits = new ArrayList<>();
List<MatOfPoint> contours = new ArrayList<>();
Imgproc.findContours(preprocessed.clone(), contours, new Mat(), Imgproc.RETR_EXTERNAL, Imgproc.CHAIN_APPROX_SIMPLE);
// code to sort contours
// code to check that contour is a valid char
List rects = new ArrayList<>();
for (MatOfPoint contour : contours) {
Rect boundingBox = Imgproc.boundingRect(contour);
Rect rectCrop = new Rect(boundingBox.x, boundingBox.y, boundingBox.width, boundingBox.height);
rects.add(rectCrop);
}
for (int i = 0; i < rects.size(); i++) {
Rect x = (Rect) rects.get(i);
Mat digit = new Mat(preprocessed, x);
int border = 50;
Mat result = digit.clone();
Core.copyMakeBorder(result, result, border, border, border, border, Core.BORDER_CONSTANT, new Scalar(0, 0, 0));
Imgproc.resize(result, result, new Size(28, 28));
digits.add(result);
}
