Motor de renderização ou motor de layout é quem processa as páginas diversas em html, por exemplo(por isso é responsável também pela velocidade de acesso, afinal, é um "processador de leitura das páginas"). Em outras palavras, ele lê o texto html e diz ao navegador o que fazer se vc clicar em tal lugar, etc.
Podemos citar alguns motores:
Webkit: É opensource; usado pelo Safari no OS X e IOS.
Blink: É opensource; baseado no webkit; alimenta o Chrome, opera, amazon, etc.
Gecko: é opensource; roda em vários sistemas operacionais, inclusive windows; desenvolvido pela fundação mozila e usado pelo firefox.
Trident: desenvolvido pela Microsoft, usado pelo I.E.; no Windows10, o edge usa o EdgeHTML.
OUTRAS CONSIDERAÇÕES:
Bugs no motor: um motor de renderização é um software e todo software contém bugs. Embora as empresas geralmente encontrem e eliminem bugs críticos rapidamente, é impossível garantir que uma combinação específica de código em uma página da web não vai produzir resultados inesperados quando for processada.
Bugs na página web: navegadores têm certo nível de tolerância à erros, mas isso varia de um motor para o outro. Uma página web com erros em seu código pode ser executada perfeitamente em um navegador, mas aparecer totalmente quebrada em outro.
Fontes: a maneira como as fontes de um site são exibidas não é tratada pelo navegador, mas sim pelo sistema operacional de um dispositivo. Windows e OS X renderizam fontes de formas diferentes e por isso um mesmo tipo de letra em um mesmo navegador pode parecer diferente quando visto em diferentes plataformas.
Recursos proprietários: alguns navegadores podem usar tecnologias proprietárias que não estão disponíveis em outros lugares. Esse exemplo pode ser ilustrado com o Microsoft ActiveX no Internet Explorer, embora a empresa não pretenda utilizá-lo no novo Microsoft Edge.
Respondendo a questão: como 99.9% de tudo na informática isso também pode ser configurado, por exemplo, no Chrome:
Obs.: NÃO RECOMENDO MUDAR NADA, apenas olhem por questão de curiosidade...
Colocando em seu navegador: "chrome://flags/#enable-gpu-rasterization" (sem aspas; mudando de padrão para ativada).
Para mais curiosidade, entre no seu navegador->configurações->ajuda->pesquisar "renderização"; e leia o que o pessoal do suporte dos navegadores dizem sobre os possíveis erros.
Espero ter ajudado com o máximo de informação possível !
Federal 2018 !