Bei optischen 3D-Messungen treten häufig Ab­wei­chun­gen zwischen dem wirklichen To­po­gra­phie­ver­lauf und den optischen Messergebnissen auf. Dies gilt insbesondere für Oberflächen mit steilen Flanken, großen Krümmungen oder hoch­fre­quen­ten Strukturen. Um solche Abweichungen zu reduzieren, ist ein grundlegendes Verständnis der relevanten physikalischen Effekte und Me­cha­ni­smen erforderlich.

Das Fachgebiet Messtechnik entwickelt mathematische Modelle, die das Über­tra­gungs­ver­hal­ten von Topographiemessgeräten ebenso sowie die Wechselwirkungen zwischen dem einfallenden Licht und der Oberfläche des Messobjektes realistisch beschreiben. Neben analytischen Verfahren der physikalischen Optik kommen dabei auch rigorose Simulationsmethoden zum Einsatz, die sich unmittelbar aus den Maxwell-Gleichungen ableiten. Sowohl die Kohärenzeigenschaften des Lichtes als auch Un­zu­läng­lich­kei­ten des optischen Messsystems werden in die Betrachtungen einbezogen. Als Ergebnis resultieren simulierte optische Messsignale, die dann mit denselben Signalverarbeitungsalgorithmen analysiert werden können wie die realen Messsignale.

Ein Beispiel für typische Messabweichungen sind die sogenannten Batwings, die in der Weiß­licht­in­ter­fe­ro­me­trie an steilen Flanken und senkrechten Kanten auftreten. Die Abbildung zeigt eine gute Übereinstimmung zwischen Messergebnissen und den erreichten Simulationsergebnissen.