"Einblick in die Bildsignalprozessor-Pipeline der Reading Pen Kamera: Sensor-Tuning, AEC, AGC, AWB, Rauschunterdrückung und wie die Plattformen B1, B2, F8, K7, KF1, L5, P2, Q6, Q8, T2 und Y6 dies umsetzen.

Veröffentlicht am: Nov 18, 2020 - 62 Aufrufe

Reading Pen Kamera ISP und Bildsignalprozessor-Architektur erklärt

Zielgruppe: Dieser Artikel richtet sich an Hardwareingenieure, OEM-Produktmanager und Bildqualitätsverantwortliche bei Importeuren und Verlagen von Lesestiften, die verstehen müssen, wie der On-Board Image Signal Processor (ISP) im Inneren von B1, B2, F8, K7, KF1, L5, P2, Q6, Q8, T2 und Y6 rohe CMOS-Bayer-Daten in ein sauberes, dekodiertes OID-Bild umwandelt. Wir setzen voraus, dass Sie mindestens ein Referenzdesign bewertet haben und wissen möchten, was Sie bei der Freigabe eines Vertrags zur kundenspezifischen Sensorabstimmung verhandeln sollten.

Jeder Lesestift wird mit einer Kamera ausgeliefert. Im käuferorientierten Datenblatt heißt sie „OID-Sensor“ oder „OCR-Kamera“, aber im Inneren des Gehäuses arbeitet dieselbe dreistufige Pipeline, die Sie auch in einem Smartphone finden: der CMOS-Sensor, das analoge Front-End und der digitale Image Signal Processor. Das Besondere am ISP-Design für Lesestifte ist das Einsatzprofil. Der Stift wird mit 0,5 mm bis 1,2 mm Arbeitsabstand auf Papier gepresst, von einer schmalbandigen 850-nm- oder 940-nm-IR-LED beleuchtet, mit 50 mm/s bis 250 mm/s von einem Fünfjährigen über das Papier gezogen und muss innerhalb von 100 ms ein stabiles binarisiertes Bild liefern. Dieser Artikel führt Block für Block durch den gesamten ISP, mit gemessenen Tuning-Werten über alle 11 Modelle, die wir ausliefern.

1. Warum die Kamera eines Lesestifts keine Webcam ist

Die Kamera eines Lesestifts ist ein 1/13-Zoll bis 1/9-Zoll Graustufen- oder Nah-IR-CMOS-Sensor mit einer aktiven Fläche von ungefähr 1,2 mm × 0,9 mm, gepaart mit einer fixfokussierten, spritzgegossenen PMMA-Linse. Der Pixel-Pitch liegt zwischen 2,2 µm und 3,0 µm, die Auflösung zwischen 360 × 240 und 640 × 480, und das analoge Front-End arbeitet je nach Modell mit 30 fps bis 60 fps. Die eigentliche Geschichte steckt im Einsatzprofil:

  • Arbeitsabstand: 0,5 mm bis 1,2 mm (gegenüber 200 mm bis unendlich bei einer Smartphone-Kamera).
  • Beleuchtung: 850-nm- oder 940-nm-IR-LED, kein sichtbares Licht.
  • Objektreflexion: 0,05 mm bis 0,10 mm gedruckte Punkte auf gestrichenem Papier mit 30 % bis 60 % IR-Reflexion.
  • Bewegungsprofil: 50 mm/s bis 250 mm/s lineare Stiftbewegung mit 5° bis 15° Stiftspitzenrotation.
  • Latenzbudget: 80 ms bis 120 ms von Stiftspitzenkontakt bis zum ersten dekodierten Audio.

Diese Randbedingungen sind der Grund, warum der ISP eine kundenspezifische Pipeline ist. Die Belichtungsautomatik muss innerhalb von 3 Frames nach Stiftkontakt konvergieren, nicht in 30. Der automatische Weißabgleich wird durch einen LED-Strom-Kompensationsregelkreis ersetzt. Die Rauschunterdrückung ist auf Papierstruktur optimiert. Und das Ausgangssignal ist eine Binärmatrix, kein 8-Bit-RGB-Bild. Die Plattformen B1, B2, F8, K7, KF1, L5, P2, Q6, Q8, T2 und Y6 arbeiten alle mit einem abgestimmten ISP, wobei sich die Abstimmung je nach Sensorhersteller und Host-SoC unterscheidet.

2. Der Sensor-Block: CMOS-Pixel, analoges Front-End und ADC

Der Bildsensor ist das erste Glied in der Kette. Bei B1, B2, F8 und P2 verwenden wir einen 1/13-Zoll-VGA-Graustufensensor eines Tier-1-chinesischen Herstellers, 30 fps, Pixel-Pitch 2,8 µm. Bei K7, KF1, Q6 und Y6 ist der Sensor das 1/11-Zoll-Bauteil desselben Herstellers, 60 fps, 2,5 µm Pitch. L5, Q8 und T2 steigen auf einen 1/9-Zoll-Sensor mit 2,2 µm Pitch und 60 fps auf – deshalb wirken diese drei Modelle beim Scannen dichter Lehrbücher schärfer.

Jedes Pixel ist eine 4-Transistor(4T)-Pinned-Photodiode-Struktur mit einem Mikrolinsen-Array, das den Füllfaktor von rund 35 % auf etwa 62 % verbessert. Das analoge Front-End umfasst einen programmierbaren Verstärker (PGA) mit 0 dB bis 18 dB Bereich in 0,3-dB-Schritten, einen 10-Bit-spaltenparallelen ADC sowie eine Correlated-Double-Sampling(CDS)-Schaltung, die das kTC-Reset-Rauschen um etwa 6 dB reduziert. Der 10-Bit-Rohdatenstrom wird über eine 8-Lane-MIPI-CSI-2-Schnittstelle mit 200 Mbit/s pro Lane bei L5, Q8 und T2 und über eine 4-Lane-Parallel-Schnittstelle mit 100 Mbit/s bei allen anderen Modellen an den ISP übertragen.

Parameter B1 / B2 / F8 / P2 K7 / KF1 / Q6 / Y6 L5 / Q8 / T2
Optisches Format 1/13" 1/11" 1/9"
Aktive Pixel 640 x 480 640 x 480 720 x 540
Pixel-Pitch 2,8 µm 2,5 µm 2,2 µm
Bildrate 30 fps 60 fps 60 fps
Bit-Tiefe 10-Bit 10-Bit 10-Bit
Schnittstelle Parallel 4-Lane Parallel 4-Lane MIPI CSI-2 8-Lane
Dynamikbereich 62 dB 66 dB 70 dB

Käuferhinweis: Fragen Sie immer nach einem gemessenen SNR10-Wert. Ein 60-fps-Sensor mit einem SNR10 unter 32 dB erzeugt mehr Erkennungsfehler als ein 30-fps-Sensor bei 38 dB. Unsere L5, Q8 und T2 erreichen 38 dB bis 40 dB SNR10 bei voller Verstärkung.

3. Das ISP-Front-End: Schwarzpegel, Lens Shading und Bad-Pixel-Korrektur

Rohdaten vom Sensor erreichen das ISP-Front-End mit drei strukturierten Artefakten: Schwarzpegel-Offset, Lens Shading und vereinzelten Bad Pixels. Jeder dieser Artefakte muss entfernt werden, bevor irgendeine räumliche Filterung stattfinden kann.

Die Schwarzpegelkorrektur subtrahiert einen pro Kanal gespeicherten Pedestal-Wert aus dem OTP-Speicher des Sensormoduls. Bei unseren 850-nm-Teilen liegt das Pedestal typisch bei 64 bis 96 LSB von 1024, bei 940-nm-Teilen bei 80 bis 120 LSB. Der ISP liest das Pedestal beim Boot und wendet es frame-für-frame an. Ohne diesen Schritt würde die nachgelagerte Binarisierungsschwelle um 6 % bis 9 % driften – genug, um einen 0,07-mm-Punkt von „schwarz“ auf „weiß“ zu kippen und das OID-Raster zu korrumpieren.

Die Lens-Shading-Korrektur wendet ein 5 × 5 bis 9 × 9 Gain-Mesh über das Bild an, dessen Koeffizienten ebenfalls im OTP gespeichert sind. Mittelpixel erhalten Gain 1,00, Randpixel erhalten Gain 1,18 bis 1,32. Wir tunen das Mesh an unserer Optikstation mit einem 90-%-Reflexionstandard beim nominellen Arbeitsabstand von 0,8 mm. Die Helligkeitsgleichmäßigkeit in den Ecken nach der Shading-Korrektur liegt über alle 11 Modelle bei 96 % bis 98 %.

Die Bad-Pixel-Korrektur identifiziert Pixel, die um mehr als 30 LSB von ihren 8 Nachbarn abweichen, markiert sie in einer Laufzeitkarte und interpoliert sie mit einem Medianfilter. Die Defektrate des Sensorherstellers liegt unter 0,02 %, sodass ein 640 × 480 Sensor mit 50 bis 70 Bad Pixels ausgeliefert wird. Der ISP aktualisiert die Bad-Pixel-Karte alle 50 Frames, um Soft-Defects zu erfassen, die durch thermische Zyklen entstehen.

4. Der Regelkreis für Belichtungsautomatik und LED-Stromsteuerung

Ein Lesestift hat keine mechanische Blende. Die auf den Sensor treffende Lichtmenge wird über den IR-LED-Strom, die LED-Pulsbreite und die elektronische Belichtungszeit des Sensors gesteuert. Der ISP betreibt einen geschlossenen AEC(Automatic Exposure Control)-Regelkreis, der einen Bildmittelwert von 130 LSB von 255 nach Gamma anstrebt, mit einem Akzeptanzfenster von 110 bis 150 LSB.

Der Regelkreis arbeitet mit 60 Hz bei L5, Q8 und T2 und mit 30 Hz bei den übrigen 8 Modellen. Bei Stiftkontakt wechselt der Regler in den „Fast-Conversion“-Modus: er setzt den LED-Strom direkt auf einen vorausberechneten Startwert (8 mA bis 14 mA) und nutzt für die ersten 3 Frames eine hohe Proportionalverstärkung. Eine Konvergenz auf ±10 LSB um den Sollwert wird in 35 ms bis 50 ms erreicht.

Der LED-Strom wird gepulst, nicht kontinuierlich. Das Tastverhältnis beträgt 8 % bis 15 % bei einem Spitzenstrom von 40 mA bis 80 mA, was einer mittleren Stromaufnahme von 4 mA bis 10 mA entspricht. Das Pulsen hält die Sperrschichttemperatur der LED unter 45 °C und verlängert die LED-Lebensdauer auf rechnerisch 50.000 Stunden bei 25 °C Umgebungstemperatur. Der ISP synchronisiert den LED-Puls mit dem Vertikal-Sync des Sensors.


AEC Convergence from Pen-Down (Mean LSB vs Time, L5/Q8/T2 at 60 fps)

5. Auto-Gain, Rauschunterdrückung und Schärfung

Nachdem die AEC eingerastet ist, bringt der AGC(Automatic Gain Control)-Block eine feinauflösende analoge Verstärkung von 0 dB bis 12 dB auf, um das Signal in die obere Hälfte des ADC-Bereichs zu schieben. AGC ist eine AEC zweiter Stufe mit feinerer Auflösung. Der kombinierte Dynamikbereich liegt über die 11 Modelle bei 72 dB bis 78 dB.

Die Rauschunterdrückung ist ein 3 × 3 bis 5 × 5 Bilateralfilter, der Kanten erhält. Die Stärke ist auf 0,35 für B1, B2, P2 und F8 und auf 0,55 für K7, KF1, Q6, Y6, L5, Q8 und T2 eingestellt. Die bilaterale Filterung reduziert das temporale Rauschen um 4 dB bis 6 dB und das räumliche Rauschen um 3 dB bis 5 dB, mit einer Kantenerhaltung über 0,85 Korrelation.

Die Schärfung verwendet eine 3 x 3 Unscharfmaske mit Verstärkung 0,4 bis 0,7 und Schwellwert 8 LSB bis 14 LSB. Ziel ist es, die beim Entrauschen verlorene Kantenschärfe wiederherzustellen, da die nachgelagerte Binarisierung saubere Punktgrenzen benötigt. Eine zu starke Schärfung verursacht Überschwingen um die Punkte herum und erzeugt Falschpositive bei der Rastererkennung. Die Abstimmung legt die Anstiegsdistanz der Punktkante auf 1,2 bis 1,8 Pixel fest.

6. Gamma, Tone Mapping und der Weg zur Binarisierung

Die meisten ISP-Pipelines von Lesestiften verwenden eine stückweise Gamma-Kurve von 1,6 bis 1,8, um die Mitteltöne anzuheben. Nach dem Gamma wird das Bild von 10-Bit linear in den 8-Bit-Log-Bereich umgewandelt. Der ISP verzweigt: Der OCR-/OID-Pfad führt eine globale oder lokale Schwellwertbinarisierung durch, während der Anzeige-Vorschaupfad (nur bei L5, Q8 und T2 mit LCD-Option) eine Histogramm-Entzerrung für die menschliche Betrachtung nutzt.

Für den OID-Pfad wird die Binarisierungsschwelle auf zwei Arten berechnet. Im Modus „static“ ist die Schwelle ein festes 128 LSB und wird verwendet, wenn der LED-Strom stabil ist. Im Modus „adaptive“ – standardmäßig aktiv auf K7, KF1, Q6, Y6, L5, Q8 und T2 – wird die Schwelle aus einem 32 x 32 lokalen Mittelwert mit einem 16-LSB-Offset berechnet. Adaptive Binarisierung reduziert Punkterkennungsfehler um 35 % bis 50 % auf Papier mit bedrucktem Hintergrund.

Die ISP-Ausgabe ist ein sauberes 1-Bit- oder 8-Bit-Graustufenbild, framesynchronisiert mit dem Pen-Down-Interrupt. Das Bild wird über einen gemeinsamen SRAM-Ringpuffer an den OID-Decoder oder die OCR-Engine übergeben. Die Ende-zu-Ende-ISP-Latenz – vom Abschluss der Sensorintegration bis zum bereiten binarisierten Bild – liegt zwischen 22 ms und 38 ms.

Modell ISP-Durchsatz Ende-zu-Ende-Latenz Adaptive Binarisierung
B1 / B2 / P2 30 fps 38 ms Nur statisch
F8 30 fps 35 ms Statisch (Firmware 3.1.2 unterstützt adaptiv)
K7 / KF1 60 fps 28 ms Adaptiv (Firmware 1.9.5)
Q6 / Y6 60 fps 26 ms Adaptiv (Firmware 3.3.1)
L5 / Q8 / T2 60 fps 22 ms Adaptiv + lokales Histogramm

7. Weißabgleich ist ein Sonderfall: LED-Kompensation

Auto-Weißabgleich existiert in einem Lesestift nicht, da der Sensor monochrom ist und die Beleuchtung aus einer einzelnen IR-Wellenlänge besteht. Was es gibt, ist eine LED-Kompensationsschleife, die folgendes kompensiert:

  1. LED-Helligkeitsabfall, wenn die Sperrschichttemperatur während des Scannens steigt.
  2. Papierreflexionsschwankungen zwischen weißen und getönten (creme, hellblau) Buchseiten.
  3. Absinken der Batteriespannung von 4,2 V auf 3,5 V, wodurch der LED-Strom um 12 % bis 18 % sinkt.

Die Kompensation ist eine Softwareschleife, die mit 10 Hz läuft, den Bildmittelwert aus der ISP-Statistik-Engine liest und den LED-Stromsollwert um ±2 mA nachjustiert. Bei L5, Q8 und T2 kompensiert die Schleife zusätzlich die Umgebungstemperatur über einen On-Die-Sensor und hält die LED-Sperrschichttemperatur bei 38 °C ± 3 °C über den Bereich 0 °C bis 40 °C.

8. Stromverbrauch des ISP-Blocks

Der ISP-Block ist – nach dem Audioverstärker – der größte stationäre Stromverbraucher im Stift. Gemessene Leistungsaufschlüsselung für den L5 bei 60 fps Dauerscan:

Block Leistung (mW) Anteil
CMOS-Sensor + AFE 38 16 %
ISP-Digitalkern 72 30 %
LED-Treiber 86 36 %
DRAM-Bandbreite 24 10 %
Sonstige (Takt, IO) 18 8 %
Gesamt 238 100 %

Bei einer durchschnittlichen Scanleistung von 238 mW hält der 1200-mAh-Akku des L5 bei 3,7 V (4,44 Wh) etwa 18 Stunden aktives Scannen durch, wobei die angegebene „Spielzeit“ von 8,5 Stunden die Audiowiedergabe und die Hintergrundbeleuchtung berücksichtigt. Andere Modelle skalieren proportional: T2 erreicht mit 2500 mAh 14 Stunden Dauerscan, P2 mit 500 mAh 4,0 Stunden und B1 mit 700 mAh 5,0 Stunden.

Käuferhinweis: Bei der Bewertung von „Akkulaufzeit“-Angaben stets nach dem Testprofil fragen. Ein Stift, der mit 20 % Scan-Auslastung „8 Stunden“ erreicht, liefert bei 50 % Scan-Auslastung nur 4 Stunden. Unsere veröffentlichten Werte basieren auf einem Profil von 40 % Scannen, 30 % Audio und 30 % Standby – näher an der schulischen Realität.

9. Abstimmung, Kalibrierung und Qualitätssicherung

Jedes Sensormodul wird vor der Lamination an unserer Optikstation abgestimmt. Die Vorrichtung präsentiert 7 Referenztargets: weiße Karte, graue Karte (18 % Reflexion), schwarze Karte, Punktraster mit 0,07 mm Abstand, Punktraster mit 0,05 mm Abstand, Textprobe sowie eine gestresste Papierprobe mit simuliertem Kaffeefleck. Der ISP-Parametersatz wird modulweise erzeugt und im OTP gespeichert. Die Ausbeute liegt bei 96,4 % über alle 11 Modelle; die 3,6 % Ausschuss werden hauptsächlich durch Linsen-Dezentrierung und defekte Pixelcluster verursacht.

Das AQL auf der ISP-Abstimmungslinie entspricht Stufe II: Critical 0, Major 1,0, Minor 2,5. Ein „Major“-Fehler umfasst hier AEC-Konvergenz langsamer als 70 ms, Eckenuniformität unter 92 % oder SNR10 unter 32 dB. Alles in diesen drei Kategorien geht in Nacharbeit oder Ausschuss. Wir veröffentlichen den ISP-Abstimmungsbericht pro Modell mit jeder Produktionscharge.

10. ISP-Anforderungen in einer OEM-Anfrage richtig spezifizieren

Für Einkäufer, die eine OEM- oder ODM-Spezifikation verfassen, sollte der Abschnitt zu den ISP-Anforderungen auf messbare Parameter verweisen – nicht auf Marketingaussagen:

  • SNR10 bei voller Verstärkung ≥ 36 dB für K7 / KF1 / Q6 / Y6 / L5 / Q8 / T2; ≥ 32 dB für B1 / B2 / F8 / P2.
  • AEC-Konvergenz auf ±10 LSB des Sollwerts innerhalb von 50 ms (60-fps-Sensoren) oder 70 ms (30-fps-Sensoren).
  • Eckenhelligkeitsuniformität ≥ 95 %.
  • Ende-zu-Ende-ISP-Latenz ≤ 30 ms für 60-fps-Sensoren, ≤ 40 ms für 30-fps-Sensoren.
  • Adaptive Binarisierung in der Firmware unterstützt.
  • LED-Kompensationsschleife mit Dokumentation des Temperaturkoeffizienten.

Kann ein Lieferant keine Werte im oben genannten Format zusichern, ist die Sensorabstimmung noch nicht produktionsreif. Zur OCR-Engine, die das ISP-Ausgangssignal verarbeitet, siehe Reading Pen OCR Engine vs Deep Learning OCR. Zur Bildqualität auf der Anzeigeseite bei L5, Q8 und T2 siehe Reading Pen Display Luminance Uniformity. Zum OID-Decoder siehe How OID Reading Pen Technology Works. Für die Anfrage eines Mustergeräts mit ISP-Abstimmungsbericht siehe /request-a-quote.

ISP Pipeline Power Distribution by Block (L5 at 60 fps)

Verwandte Lektüre

Angebot anfordern — Schnelle Werksantwort erhalten

Frequently Asked Questions

Mit welcher Bildrate läuft der ISP der Lesestift-Kamera über alle 11 Modelle hinweg?
B1, B2, F8 und P2 verwenden einen 1/13-Zoll-Sensor mit 30 fps; K7, KF1, Q6 und Y6 verwenden einen 1/11-Zoll-Sensor mit 60 fps; L5, Q8 und T2 verwenden einen 1/9-Zoll-Sensor mit 60 fps. Eine höhere Bildrate verbessert die Erkennung bei schneller Stiftbewegung: Bei einer Scangeschwindigkeit von 200 mm/s erfasst ein 60-fps-Sensor etwa 33 % mehr Bilder pro zurückgelegtem Zentimeter als ein 30-fps-Sensor.
Wie schnell konvergiert die automatische Belichtung, wenn der Stift die Seite berührt?
Die AEC-Schleife konvergiert bei L5, Q8 und T2 mit 60 fps innerhalb von 35 bis 50 ms auf plus oder minus 10 LSB um das Ziel von 130 LSB; bei den 30-fps-Modellen dauert es 60 bis 70 ms. Die Schleife wechselt beim Aufsetzen des Stifts in einen Schnellkonvergenz-Modus mit einem vorberechneten LED-Startstrom von 8 bis 14 mA.
Unterstützt der ISP des Lesestifts Farbe oder nur Graustufen?
Alle 11 Produktionsmodelle werden mit einem monochromen IR-Sensor ausgeliefert (850 nm bei B1, B2, F8, P2; 940 nm bei K7, KF1, Q6, Y6, L5, Q8, T2). Farbe ist nicht erforderlich, da der OID-Code mit IR-absorbierender Tinte gedruckt wird und das einzige relevante Signal die Luminanz von Punkt zu Hintergrund ist. Ein Farbsensor würde die BOM-Kosten pro Einheit um etwa 1,20 USD erhöhen, ohne die Erkennung zu verbessern.
Wie hoch ist der gemessene SNR10 des Lesestift-Sensors bei voller Verstärkung?
Am AEC-geregelten Arbeitspunkt und voller AGC messen B1, B2, F8 und P2 33 bis 35 dB SNR10; K7, KF1, Q6 und Y6 messen 35 bis 37 dB SNR10; L5, Q8 und T2 messen 38 bis 40 dB SNR10. Die Produktions-AQL sortiert jedes Modul aus, das unter 32 dB für die untere Stufe bzw. unter 36 dB für die obere Stufe liegt.
Wie viel Leistung nimmt der ISP-Block beim kontinuierlichen Scannen auf?
Beim L5 mit 60 fps im Dauerscan nimmt der ISP-Pfad etwa 238 mW auf: 38 mW für den CMOS-Sensor und das analoge Frontend, 72 mW für den ISP-Digitalkern, 86 mW für den LED-Treiber, 24 mW für die DRAM-Bandbreite und 18 mW für Takt und IO. Modelle der unteren Stufe skalieren auf etwa 165 bis 190 mW bei 30 fps.
Ihr Warenkorb
Ihre Erfahrung auf dieser Website wird durch das Akzeptieren von Cookies verbessert. Cookie-Richtlinie
Chat on WhatsApp