명령어 파이프라인은 캐시와 더불어 현대 고성능 프로세서를 가능케 한 일등 공신이다.

작업을 여러 단계로 나누고 세부 단계가 서로 동시에 실행될 수 있게 한다.

이 방법을 통하여 명령어 처리율을 극대화 해서 프로세서의 성능을 크게 향상 시켰다.

또한 파이프라인은 하드웨어 개념이 아닌 소프트웨어에도 널리 쓰이는 기법이다.

파이프라인은 연속으로 주어지는 어떤 작업을 처리하는 데 있어 처리율을 높이는 일반적인 알고리즘을 가리킨다.

파이프라인 알고리즘의 핵심은 재사용과 병렬 실행에 있다.

파이프라인 알고리즘을 많은 학생이 모여 사는 기숙사의 세탁실을 예시로든 그림을 보면 이해가 편할것이다.

• 일체형의 경우 한시간에 한 명의 빨래만 처리할 수 있었지만, 두 단계 파이프라인으로 하니 시간당 두 명의 빨래를 처리하여 두 배의 처리율을 얻게 된 것이다.

• 이 원리가 파이프라인이다.

• 오른쪽 사진은 빨래라는 작업을 더 작은 단위로 나눌수록 처리율이 증가하는것을 볼 수 있다.

  

• 파이프라인으로 얻는 이상적인 처리율 증가는 파이프라인 단계 수만큼 된다.

• 파이프라인은 각각 다른 일을 처리하는 자원들이 동시에 여러 작업을 처리함으로써 처리율을 높인다.

• 그러나 파이프라인으로 레이턴시는 개선하지 못한다.

• 파이프라인이 시간당 더 많은 빨래는 감당할 수 있지만, 학생 한 명의 빨래를 더욱 빨리 처리하는 기술은 아니다.

이상적으로는 k단계로 나눈 파이프라인은 처리율이 k배로 높아진다.

그러나 실제로는 이런 이상적인 처리율을 얻기는 어렵다.