Hallo Gustav,
meine Angabe war wirklich unpräzise, ich ging bei dem kleinen Gerechne davon aus, dass der Wertebereich von 1 bis 256 reicht. (um mir die Korrektur für den Wert 0 zu sparen) Daher hat es die Zahlen durcheinander gewürfelt in Wirklichkeit gilt bei dem Wertebereich von 0-255 natürlich dass 255-170 zu 0 wird und erst 169 zu 1. Im Folgenden rechne ichs korrekt
Außerdem muss davon ausgegangen werden, dass Gamma=1 ist, also ein RAW Scan vorliegt. Die Intensitäten dürfen nicht durch ein Gamma Encoding verfälscht sein. Desweiteren liegt der Berechnung nicht die Formel zugrunde auf die in dem PDF schlussendlich zur Umwandlung von Negativen gekommen wird. Man kann also hier nicht von "der ColorNeg Methode" sprechen. Worauf ich mich bezog ist die Grafik auf Seite 7 des PDFs.
Daraus habe ich gefolgert:
Inv: Invertierter Wert
Org: Originalwert im Raw Negativ
Photoshop etc.:
Inv=255-Org
Tatsächlich im Negativfilm:
Inv=(256/Org+1)-1
Denn die Division der Intensitätswerte ist äquivalent zur Addition von fotographischen Dichtewerten.
also deine Beispielwerte:
255: (256/(255+1))-1=0
172: (256/(172+1))-1=0,479768786
171: (256/(171+1))-1=0,488372093
170: (256/(170+1))-1=0,497076023
169: (256/(119+1))-1=0,505882353
Hier wird der Wert erstmalig durch Rundung 1.
86: (256/(86+1))-1=1,942528736
85: (256/(85+1))-1=1,976744186
84: (256/(84+)1)-1=2,011764706
0: (256/(0+1))-1=255
Nun im 16-Bit Modus:
Bitte erwarte nicht, dass hier andere Werte entstehen, der Schlüssel ist vielmehr, dass die Werte feiner abgestuft sind und so mehr diskrete Werte errechnet werden können. Das Verhätnis ist nicht weniger extrem aber im 8-Bit Modus ist durch die wenigen betimmbaren verschiedenen Werte eine korrekte Umwandlung wohl numerisch unmöglich.
65535:(65536/(65535+1))-1=0
43692:(65536/(43692+1))-1=0,499919896
43691:(65536/(43691+1))-1=0,499954225
43690:(65536/(43690+1))-1=0,499988556
21846:(65536/(21846+1))-1=1,999771136
21845:(65536/(21845+1))-1=1,99990845
21844:(65536/(21844+1))-1=2,000045777
0:(65536/(0+1))-1=65535
Wie gesagt, schau mal in das PDF um mehr zu lesen, insbesondere wie Sie dann tatsächlich Negative umwandeln. Erstaunlich gute Dokumentation.
http://www.colorneg.de/manuals/CFS244.pdf
Gruß Martin