Berechnen wir zunächst den linearen Durchmesser zentraler Beugungsscheibchen b (in mm), interessant in der Fotografie. Egal welcher Objektivdurchmesser, b ist für ein Öffnungsverhältnis (Öffnungszahl N) und eine Wellenlänge λ immer gleich:

  b = 2,4394 · N · λ

Das Empfindlichkeitsmaximum unseres Auges, bei hohen Intensitäten, liegt bei einer Wellenlänge von 555 nm (Gelb-Grün). In der Nacht verschiebt sich dieses Maximum, als  Purkinje-Phänomen bezeichnet, zum Blau-Grünen bei etwa 510 nm = 0,00051 mm. Eine 1:8 Optik erzeugt so beispielsweise zentrale Beugungsscheibchen (b) von ≈ 0,00995 mm. Daraus kann man die Winkelgröße eines zentralen Beugungsscheibchens s in Bogensekunden berechnen, mit s = b/f · 206264,8. Dabei ist f die Brennweite in mm. In unserem Beispiel ergibt das für 8 Zoll Optiken einen Winkeldurchmesser zentraler Beugungsscheibchen von ≈1,263". Jeder mit solch einem Instrument wird sofort sagen, die Herstellerangaben zum Auflösungsvermögen sind aber deutlich kleiner! Die Winkelauflösung nach Rayleigh δ₁ sagt auch etwas anderes und kann berechnet werden nach der Beziehung:

δ₁ = 251643,06 · λ/d

d ist hierbei der Öffnungsdurchmesser in mm. Für 8 Zoll Öffnung (203,2 mm) ergibt das ein Auflösungsvermögen von ≈0,6315", die Hälfte des Durchmessers zentraler Beugungsscheibchen. Was bedeutet das?
Ganz simpel gesagt, wenn sich die Beugungsscheibchen zweier gleichheller  Sterne berühren, entspricht der Abstand ihrem Winkeldurchmesser (hier 1,263").
Überlappen sich die Beugungsscheibchen um 50%, liegen ihre Ränder genau über der Mitte des jeweils anderen und sie stehen nur halb so weit voneinander entfernt. Genau das ist die Auflösungsdefinition nach Rayleigh.

Zentrale Beugungsscheibchen weisen nämlich von der Mitte zum Rand einen Helligkeitsabfall auf. Dieser wird leider gestört, wo sich die Sternscheibchen überlappen. Dort verstärken sich die Intensitäten oder löschen sich stellenweise aus. Dennoch ist eine Einsattelung erkennbar, mit der nicht die Kerbe in der Mitte (Doppelbrötchen) zu verstehen ist. Diese beträgt beim Rayleigh-Kriterium nur 6,5% vom Scheibchendurchmesser und ist nicht erkennbar. Sichtbar als Einsattelung ist nur der Helligkeitsabfall von 26,5%. Die Grenze des Wahrnehmbaren soll bei 20% liegen.
Diese Auflösungsdefinition liefert am ehesten einen realistischen Wert für Spiegelteleskope, deren Bilddefinition durch einen Fangspiegel im Strahlengang gestört ist. Hier wandert, je nach Obstruktion, ein Teil der Intensität der zentralen Beugungsscheibchen in die äußeren Beugungsringe, was die Schärfeleistung beeinträchtigt. Früher sprach man sogar davon, dass ein Spiegelteleskop nur die halbe Auflösung liefert, wie ein gleichgroßer Refraktor.
Es existieren verschiedene Definitionen für das Auflösungsvermögen. Die Theoretiker sind sich da nicht einig. Nach Strehl (61% Überlappung) gibt es gerade gar keine Einsattelung mehr und 2 gleichhelle Sterne erscheinen nur als Ei. Ab 59% Überlappung soll man mit staubfreier Spitzenoptik (Refraktor oder Schiefspiegler) gerade noch unter optimalsten Bedingungen eine Chance haben 2 Sterne getrennt wahrzunehmen. Die Einsattelung beträgt aber nur 2% (?).
Diese absolute praktisch-theoretische Auflösungsgrenze berechnet sich:                                         δ₂ = 206264,8 · λ/d

Zeiss-Jena hat früher die Auflösung seiner Teleskope nach dieser Formel angegeben. Eine 8 Zoll Optik hätte danach 0,518" Auflösung. Mehr dazu unter [4].