Praxis: OCR von digitalisierten Beständen
Der Einfachheit halber verwenden wir ein Beispiel aus dem Bestand an Testdaten innerhalb von OCR-D, da diese weniger umfangreich sind. Prinzipiell funktionieren die OCR-D Werkzeuge aber mit allen METS-Dateien, die auch im DFG-Viewer angezeigt werden können.
Ist ocrd installiert?
$ ocrd --help
Usage: ocrd [OPTIONS] COMMAND [ARGS]...
CLI to OCR-D
Options:
--version Show the version and exit.
-l, --log-level [OFF|ERROR|WARN|INFO|DEBUG|TRACE]
Log level
--help Show this message and exit.
Commands:
bashlib Work with bash library
ocrd-tool Work with ocrd-tool.json JSON_FILE
process Process a series of tasks
workspace Working with workspace
zip Bag/Spill/Validate OCRD-ZIP bags
Falls dieser Befehl nicht klappt, überprüfen Sie ob die Software richtig installiert wurde.
METS herunterladen
Wir verwenden eine auf 2 Seiten reduzierte Erstausgabe von Kant “Kritik der reinen Vernunft” aus dem Bestand des Deutschen Textarchivs, die in GitHub liegt: https://github.com/OCR-D/assets/blob/master/data/kant_aufklaerung_1784/data/mets.xml
Dazu nutze den workspace Unterbefehl von ocrd, der es erlaubt, mit METS zu
interagieren, ohne das XML direkt bearbeiten zu müssen.
Der Unterbefehl clone erlaubt das Herunterladen von METS und ggf. enthaltenen Dateien.
Mit dem Parameter --download werden auch alle referenzierten Dateien mit heruntergeladen (das entfernte Verzeichnis wird “geklont”)
$ ocrd workspace clone --download "https://raw.githubusercontent.com/OCR-D/assets/master/data/kant_aufklaerung_1784/data/mets.xml" kant
20:47:48.914 INFO ocrd.workspace - Saving mets '/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/mets.xml'
/home/ich/kant
$ find kant
kant
kant/OCR-D-IMG
kant/OCR-D-IMG/INPUT_0017
kant/OCR-D-IMG/INPUT_0020
kant/OCR-D-GT-ALTO
kant/OCR-D-GT-ALTO/PAGE_0020_ALTO
kant/OCR-D-GT-ALTO/PAGE_0017_ALTO
kant/OCR-D-GT-PAGE
kant/OCR-D-GT-PAGE/PAGE_0017_PAGE
kant/OCR-D-GT-PAGE/PAGE_0020_PAGE
kant/mets.xml
Das METS liegt nun als mets.xml im Unterverzeichnis kant, die Bilder in
Unterverzeichnissen, die Dateigruppen repräsentieren.
TIPP Kopieren sie das geklonte Verzeichnis an diesem Punkt. Dann müssen Sie nicht alle Dateien neu laden, falls im weiteren Ablauf etwas schief läuft:
$ cp -r kant kant.BAK
METS untersuchen
Die METS-Datei könenn wir nun untersuchen.
Welche Dateigruppen gibt es?
$ cd kant
$ ocrd workspace list-group
OCR-D-IMG
OCR-D-GT-PAGE
OCR-D-GT-ALTO
Es gibt also drei Dateigruppen, wobei wir uns für die Bilder interessieren, die in OCR-D-IMG gelistet sind.
Welche Seiten gibt es?
Physische Seiten werden in METS in einer structMap aufgelistet. Wir können uns die IDs der Seiten ausgeben lassen:
$ ocrd workspace list-page
PHYS_0017
PHYS_0020
Es gibt zwei Seiten.
Dateien auflisten
Wir können uns die enthaltenen Dateien auflisten lassen mit dem find Unterbefehl:
$ ocrd workspace find
OCR-D-IMG/INPUT_0017
OCR-D-IMG/INPUT_0020
OCR-D-GT-PAGE/PAGE_0017_PAGE
OCR-D-GT-PAGE/PAGE_0020_PAGE
OCR-D-GT-ALTO/PAGE_0017_ALTO
OCR-D-GT-ALTO/PAGE_0020_ALTO
Es gibt sechs Dateien: Für jede der zwei Seiten Dateien für jede der drei Dateigruppen.
Standardmäßig wird nur die Datei-ID ausgegeben, weitere Felder können über den
Parameter -k angegeben werden (ocrd workspace find --help liefert weitere
Informationen):
$ ocrd workspace find -k url -k mimetype -k pageId -k ID
OCR-D-IMG/INPUT_0017 image/tiff PHYS_0017 INPUT_0017
OCR-D-IMG/INPUT_0020 image/tiff PHYS_0020 INPUT_0020
OCR-D-GT-PAGE/PAGE_0017_PAGE application/vnd.prima.page+xml PHYS_0017 PAGE_0017_PAGE
OCR-D-GT-PAGE/PAGE_0020_PAGE application/vnd.prima.page+xml PHYS_0020 PAGE_0020_PAGE
OCR-D-GT-ALTO/PAGE_0017_ALTO application/alto+xml PHYS_0017 PAGE_0017_ALTO
OCR-D-GT-ALTO/PAGE_0020_ALTO application/alto+xml PHYS_0020 PAGE_0020_ALTO
Anatomie eines ocrd-* Kommandozeilenaufrufs
Alle OCR-D Werkzeuge folgen einer einheitlichen Aufrufsyntax, die Teil der Spezifikationen ist.
ocrd-* \
-m mets.xml \ # Pfad zur METS-Datei
-I INPUT-GROUP \ # Eingabe-Dateigruppe
-O OUTPUT-GROUP \ # Ausgabe-Dateigruppe
-l DEBUG|INFO|ERROR \ # Optional: Logging Detail Level
-p parameter.json \ # Optional: Parameter-Datei
-g PAGE-ID \ # Optional: ID einer Seite falls nur eine Seite verarbeitet werden soll
Binarisierung mit ocrd-kraken-binarize
Der erste Schritt für die OCR ist die Binarisierung des Bildes, bei der alle Farben durch schwarz oder weiss ersetzt werden.
Dafür gibt es verschiedene Implementierungen im OCR-D-Ökosystem, wir verwenden hier die Binarisierung von kraken.
$ ocrd-kraken-binarize -m mets.xml -I OCR-D-IMG -O OCR-D-IMG-BIN
19:49:28.847 INFO processor.KrakenBinarize - INPUT FILE 0 / <OcrdFile mimetype=image/tiff, ID=INPUT_0017, url=OCR-D-IMG/INPUT_0017, local_filename=---]/>
19:49:28.868 INFO processor.KrakenBinarize - pcgts <ocrd_models.ocrd_page_generateds.PcGtsType object at 0x7effeb96aeb8>
19:49:28.868 INFO processor.KrakenBinarize - About to binarize page 'None'
19:49:28.871 INFO kraken.binarization - Binarizing /home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/OCR-D-IMG/INPUT_0017
19:49:32.928 INFO processor.KrakenBinarize - INPUT FILE 1 / <OcrdFile mimetype=image/tiff, ID=INPUT_0020, url=OCR-D-IMG/INPUT_0020, local_filename=---]/>
19:49:32.931 INFO processor.KrakenBinarize - pcgts <ocrd_models.ocrd_page_generateds.PcGtsType object at 0x7effeb8ac5f8>
19:49:32.931 INFO processor.KrakenBinarize - About to binarize page 'None'
19:49:32.933 INFO kraken.binarization - Binarizing /home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/OCR-D-IMG/INPUT_0020
19:49:36.986 INFO ocrd.workspace - Saving mets '/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/mets.xml'
Damit werden alle Dateien in der OCR-D-IMG Dateigruppe binarisiert, das
Ergebnis wird in die Dateigruppe OCR-D-IMG-BIN geschrieben.
Zeilensegmentierung mit Ocropy
Als nächsten Schritt müssen die Zeilen bestimmt werden, damit OCR angewandt werden kann.
Auch dafür gibt es verschiedene Implementierungen innerhalb von OCR-D, wir verwenden die Zeilensegmentierung von Ocropus.
$ ocrd-ocropy-segment -m mets.xml -I OCR-D-IMG-BIN -O OCR-D-SEG-LINE
19:52:45.364 INFO processor.ocropySegment - INPUT FILE 0 / <OcrdFile mimetype=image/png, ID=OCR-D-IMG-BIN_0001, url=OCR-D-IMG-BIN/OCR-D-IMG-BIN_0001, local_filename=---]/>
19:52:45.365 INFO processor.ocropySegment - downloaded_file <OcrdFile mimetype=image/png, ID=OCR-D-IMG-BIN_0001, url=OCR-D-IMG-BIN/OCR-D-IMG-BIN_0001, local_filename=/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/OCR-D-IMG-BIN/OCR-D-IMG-BIN_0001]/>
19:52:45.383 INFO processor.ocropySegment - pcgts <ocrd_models.ocrd_page_generateds.PcGtsType object at 0x7fcf0fab2208>
19:52:50.705 INFO processor.ocropySegment - INPUT FILE 1 / <OcrdFile mimetype=image/png, ID=OCR-D-IMG-BIN_0002, url=OCR-D-IMG-BIN/OCR-D-IMG-BIN_0002, local_filename=---]/>
19:52:50.705 INFO processor.ocropySegment - downloaded_file <OcrdFile mimetype=image/png, ID=OCR-D-IMG-BIN_0002, url=OCR-D-IMG-BIN/OCR-D-IMG-BIN_0002, local_filename=/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/OCR-D-IMG-BIN/OCR-D-IMG-BIN_0002]/>
19:52:50.706 INFO processor.ocropySegment - pcgts <ocrd_models.ocrd_page_generateds.PcGtsType object at 0x7fcf0fa66358>
19:52:55.739 INFO ocrd.workspace - Saving mets '/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/mets.xml'
Ausgehend von den binarisierten Bilder in der Dateigruppe OCR-D-IMG-BIN erzeugen wir PAGE-XML mit Segmentierungsinformation in der Dateigruppe und dem lokalen Verzeichnis OCR-D-SEG-LINE.
Das PAGE-XML sieht ausschnittsweise so aus:
<pc:Page imageFilename="OCR-D-IMG-BIN/OCR-D-IMG-BIN_0002" imageWidth="1456" imageHeight="2084">
<pc:TextRegion>
<pc:TextLine id="line_0002">
<pc:Coords points="103,136 122,136 122,188 103,188"/>
</pc:TextLine>
<pc:TextLine id="line_0003">
<pc:Coords points="126,125 166,125 166,185 126,185"/>
</pc:TextLine>
<pc:TextLine id="line_0004">
<pc:Coords points="166,124 209,124 209,168 166,168"/>
</pc:TextLine>
<!-- ... -->
Wir können uns das Ergebnis auch im PAGE Viewer visualisieren:
Die Zeilenerkennung ist nicht perfekt (Artefakte im Randbereich, ueberlange Zeilen), aber gut genug, um OCR durchzuführen.
Texterkennung mit tesseract
Das Projekt ocrd_tesserocr bindet tesseract über die tesserocr
Python-Bindings an OCR-D an.
Der Aufruf ist analog zu Binarisierung und Segmentierung:
$ ocrd-tesserocr-recognize -m mets.xml -I OCR-D-SEG-LINE -O OCR-D-OCR-TESS
21:09:52.910 INFO processor.TesserocrRecognize - Using model 'eng' in /usr/share/tesseract-ocr/4.00/tessdata/ for recognition at the line level
21:09:52.910 INFO processor.TesserocrRecognize - INPUT FILE 0 / <OcrdFile mimetype=application/vnd.prima.page+xml, ID=OCR-D-SEG-LINE_0001, url=OCR-D-SEG-LINE/
OCR-D-SEG-LINE_0001.xml, local_filename=---]/>
21:09:53.071 INFO processor.TesserocrRecognize - Recognizing text in page 'None'
21:10:24.127 INFO processor.TesserocrRecognize - INPUT FILE 1 / <OcrdFile mimetype=application/vnd.prima.page+xml, ID=OCR-D-SEG-LINE_0002, url=OCR-D-SEG-LINE/
OCR-D-SEG-LINE_0002.xml, local_filename=---]/>
21:10:24.357 INFO processor.TesserocrRecognize - Recognizing text in page 'None'
21:11:09.617 INFO ocrd.workspace - Saving mets '/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/mets.xml'
Das Ergebnis ist allerdings nicht optimal. Ausschnitt aus kant/OCR-D-OCR-TESS/OCR-D-OCR-TESS_0002:
<pc:TextLine id="line_0006">
<pc:Coords points="529,410 1342,410 1342,468 529,468"/>
<pc:TextEquiv conf="0.47">
<pc:Unicode>geenegerc wogpe35tro rappucb धाम es Bgrenbeire ﺪﺷﺭ</pc:Unicode>
</pc:TextEquiv>
</pc:TextLine>
Das liegt daran, dass wir nicht angegeben haben, welches Modell verwendet werden soll. Standardmäßig verwendet
tesseract daher eng, das Modell für englischsprachige Antiqua. Für deutsche Fraktur benötigen wir das
Modell frk, das im tesseract-Modell-GitHub-Repository zu finden ist.
$ cd /usr/share/tesseract-ocr/4.00/tessdata/
$ sudo wget 'https://github.com/tesseract-ocr/tessdata_best/raw/master/frk.traineddata'
Nun führen wir den befehl noch einmal aus aber geben als Parameter das zu verwendende Modell mit an:
$ ocrd-tesserocr-recognize -m mets.xml -I OCR-D-SEG-LINE -O OCR-D-OCR-TESS-FRK -p <(echo '{"model": "frk"}')
21:09:52.910 INFO processor.TesserocrRecognize - Using model 'frk' in /usr/share/tesseract-ocr/4.00/tessdata/ for recognition at the line level
21:09:52.910 INFO processor.TesserocrRecognize - INPUT FILE 0 / <OcrdFile mimetype=application/vnd.prima.page+xml, ID=OCR-D-SEG-LINE_0001, url=OCR-D-SEG-LINE/
OCR-D-SEG-LINE_0001.xml, local_filename=---]/>
21:09:53.071 INFO processor.TesserocrRecognize - Recognizing text in page 'None'
21:10:24.127 INFO processor.TesserocrRecognize - INPUT FILE 1 / <OcrdFile mimetype=application/vnd.prima.page+xml, ID=OCR-D-SEG-LINE_0002, url=OCR-D-SEG-LINE/
OCR-D-SEG-LINE_0002.xml, local_filename=---]/>
21:10:24.357 INFO processor.TesserocrRecognize - Recognizing text in page 'None'
21:11:09.617 INFO ocrd.workspace - Saving mets '/home/kba/build/github.com/OCR-D/monorepo/slides/2019-03-25-dhd/kant/mets.xml'
Vergleichen wir die Erkennung der Textzeile:
<pc:TextLine id="line_0006">
<pc:Coords points="529,410 1342,410 1342,468 529,468"/>
<pc:TextEquiv conf="0.9">
<pc:Unicode>gewiegelt worden ; ſo ſchädlich iſt es Vorurtheile zu</pc:Unicode>
</pc:TextEquiv>
</pc:TextLine>
Das sieht nicht nur korrekt aus, auch tesseract ist sich sicherer: Konfidenz 0.9. vs 0.47 oben.
“In einem Rutsch”
Die einzelnen Prozessschritte nacheinander auszuführen wie beschrieben ist mühselig. Wenn an einem
Punkt im Ablauf etwas schief läuft, muss der gesamte Vorgang abgebrochen werden. Daher bietet ocrd
einen Modus, in dem ein kompletter Ablauf von Prozesschritten angegeben werden kann. Wenn innerhalb
des Prozesses ein Fehler auftritt, endet der Gesamtprozess mit der Fehlermeldung.
Die Syntax entsprocht weitgehend dem individuellen Aufruf mit der Einschränkung dass ocrd- weggelassen
wird:
$ ocrd process -m mets.xml \
'kraken-binarize -I OCR-D-IMG -O OCR-D-IMG-BIN' \
'ocropy-segment -I OCR-D-IMG-BIN -O OCR-D-SEG-LINE' \
'tesserocr-recognize -I OCR-D-SEG-LINE -O OCR-D-OCR-TESS'
Aufgabe
Wenden Sie die gelernten Schritte an auf die erste Seite des Kommunistischen Manifests. Die URL der METS-Datei: https://raw.githubusercontent.com/OCR-D/assets/master/data/communist_manifesto/data/mets.xml
Falls Sie Python 3.7 verwenden und deshalb ocrd_kraken nicht installieren konnten: Hier ist ein OCRD-ZIP der Aufgabe bis einschliesslich Binarisierung: binarized.zip