O paralelismo de instrução, também conhecido como PIPELINING, objetiva otimizar as atividades de uma CPU.
Resumidamente, o processamento de uma CPU reside no ciclo: busca instrução → decodifica instrução (entender a instrução) → busca operando → executa instrução → grava resultado.
No PIPELINING, utilizando a estatística, o processador realiza atividades paralelas como se fossem simultâneas, por exemplo, decodificando a instrução ao mesmo tempo em que busca o operando. Desta forma, ele leva menos ciclos para realizar um conjunto de instruções.
A arquitetura Harvard é também conhecido como PIPELINING, pois utiliza barramentos distintos (um para instruções e outro para dados).
Fonte: prof. Victor Dalton, Estratégia, 2016.