Genauigkeitsangabe Frequenz (Forschung)

H. Lamarr , München, Dienstag, 08.12.2009, 01:09 (vor 5493 Tagen) @ Kuddel

Bei einer Auflösung von 0,001Hz ...

Dieser Quelle zufolge ist die Auflösung des Chips mit rd. 0,01 Hz zehnmal schlechter, dann wäre die dritte Nachkommastelle, weil nicht gezielt einstellbar, sowieso eine Hausnummer (wie der Autor auf die 2^32-Teilung kommt ist mir aber nicht klar geworden).

--
Jedes komplexe Problem hat eine Lösung, die einfach, naheliegend, plausibel – und falsch ist.
– Frei nach Henry Louis Mencken (1880–1956) –