モノクロメータの逆線分散は前記のように

である。ここで出射スリットをΔxとすると

となる波長幅(Bandpass)の光が出射されることになる。
この式からでは、スリット幅Δxを狭くすると、いくらでも分解能が良くなるようにみえるが、実際には図5のように、スリット幅を狭くした場合、式(4)は成立しなくなる。

モノクロメーターのスリット幅がある程度広い場合には、式(4)が成り立つので、概略の分解能は、使用するモノクロメーターに記載されている逆線分散値にスリット幅を掛ければ求められる。しかし、いくつかの点に注意する必要がある。
一つは、入射スリットの幅である。輝線を放つ光源をモノクロメーターに入射させ、モノクロメーターの波長を輝線の波長に合わせると、出射スリット上に入射スリット像が結像する。グレーティングを回転させると、分散方向に像が移動する。入射スリット像の幅と出射スリットの幅が等しい場合、図6から分かるように、スペクトルは二等辺三角形になる。そのため出射光強度がピークの半分(半値)となる像の位置は、像が完全に重なった位置に対して、1/2Δx左右に移動したときであるから、両側の半値での像間隔はΔxとなる。モノクロメーターの分解能表示は一般的に半値幅(FWHM)を用いるので、分解能Δλはその波長での逆線分散Dに対し、式(4)どおりΔλ=D・Δxとなる。しかし入射スリット像と出射スリットとの幅が異なる場合は、図6から容易に想像できるように、スペクトルは等脚台形となる(図7参照)。

分解能を半値幅で考えると、入射スリット像の幅と出射スリットの幅の広い方に逆線分散を掛けた値となり、狭い方には依存しない。これらのことから、人出射スリットを著しく異なって設定した場合には、注意する必要がある。この種の問題で、ユーザーからの問い合せの最も多いのが、マルチチャンネルディテクター(25μm/チャンネルのものが多い)を使用しながら、入射スリットの幅をかなり開いている場合である。これは入出射スリットの幅を異なって設定したのと同じように、輝線スペクトルが台形となってしまう。しかし、これとは逆に、スペクトルが台形となることを積極的に利用する方法も、測定手法によってはあるので、記憶されるとよいかもしれない。
上記の“入射スリット像の幅"であるが、最初に紹介したCzerney-Turnerマウントなどでは、入射スリット幅と同値ではない。入射スリット側で逆線分敵を考えてみると、入射スリット上での変位をdyコリメーティングミラーの焦点距離をfYとすると、

となり、出射スリット側での式を

と書き直すと、違いがはっきりする。ここでfxはフォーカシングミラーの焦点距離である。標準的なCzerney-Turnerマウントの場合、fx＝fYが一般的なので、その比はcosα/cosβとなる。
次に注意すべき点は、式(3)からわかるように、本来,逆線分散Dはβの関数であり一定ではない。βは波長の関数であるため、波長に対応する逆線分散を表すことができる。正碓な逆線分散は、式(2)より

が導かれる。このβを式(3)に代入して、逆線分散を導く。
三番目は、分解能に対する次数と刻線数の問題である。
式(4)をもう一度記してみると

であるから、刻線数(1/d)の多いグレーティングを使用すると高分解能が得られる。また次数(k)も高次を使うと同様の結果が得られる。
しかし、式(2)より

となる。当然

より

となり、測定波長λが決まると、k/dには上限かあることがわかる。もちろん、φ＝90°付近では実用にならないため、k/dは式(5)よりも低い値が上限となる。具体的にどの程度の値が上限になるかは、各モノクロメーターの設計によって異なるが、一般に小型モノクロメーターでは、収差の問題で、k/dを高く設定すると、式(4)が成立するスリット幅の最小値が広くなり、結果として分解能があまり改善されないことがある。
最後に焦点距離fと分解能の関係である。焦点距離を変えることは、異なるモノクロノーターを使用することになるが、焦点距離の長いモノクロノーターの使用は、分解能を高める最も確実な方法と言える。

スリット幅を閉じていくと、分解能は式(4)で表わせるような関係にはならず、ある値以上には良くならない。これには、いくつかの理由があるが。その一つは回折上の理論分解能である。波長λにおける波長分解能Δλの値は

で表される。Nはグレーティングの総刻線数であり、kは次数である。
次は、モノクロメーターの持つ収差である。市販の小型モノクロメーターの最大分解能は、ほとんど収差で決まるといっても過言ではないと思われる。しかし、モノクロメーターの性能として、後から述べるように、開口角,迷光除去率なども重要な性能であり、これらの性能と最大分解能とは、設計上、相反する場合もしばしばあるので、一般的なモノクロノーターの性能を論ずるときには、気を付けなければならない。
次は、光学素子の精度である。特に収差のよく補正されたモノクロメーターの場合、グレーティングや、凹面鏡などの光学系の精度を軽んじることはできない。