2つの近接した波長λとλ＋Δλの2 本のスペクトル線があるとき、どのくらい小さいΔλまでを2本のスペクトルとして区別できるか、という能力を表わすものが分解能です。一般に、回折格子（Gratings：グレーティング）の回折光は回折限界で定義される有限の幅をもっています。レーリーの基準（Rayleigh
criterion）によれば、図3のように波長λのスペクトルの第1 極小値の位置に波長λ＋Δλのスペクトルの最大値がくるときを分解できる限界と定義しています。このときの分解能λ/Δλは、回折格子の幅をW
とすると、
 |
|
(6) |
で表わされます。ここでN ×W は回折格子の溝の総本数を意味します。
しかし実際に回折格子を他の光学素子と併用する場合、たとえば分光器に組み込んで使用する場合などは、他の光学素子（レンズやミラー等）の収差や不完全さ、あるいは光源やスリットの大きさのため、スペクトル線はさらに広がります。このため、分解できるスペクトルの波長差Δλは大きくなるので、一般に光学系の分解能は（6）式で表わされる回折格子単体の分解能より悪くなります。 |
 |
 |
|
| 図3
回折格子の分解能 |
|
