O Linux é composto por três componentes principais, alinhados com as implementações mais tradicionais do UNIX.
(1) Kernel - é o responsável pela manutenção de todas as abstrações importantes do sistema operacional, incluindo elementos como a memória virtual, processos, sistema de arquivos, etc.
(2) Bibliotecas do sistema - definem um conjunto de funções por meio das quais as aplicações podem interagir com o kernel, e que implementam grande parte da funcionalidade do sistema operacional que não necessita dos privilégios totais do código do kernel.
(3) Utilitários do sistema - são programas que realizam tarefas de gerência especializadas. Alguns utilitários do sistema podem ser invocados uma única vez, a fim de inicializar e configurar certos aspectos do sistema; outros podem manter-se em execução permanente, tratando de tarefas como responder a conexões de rede que chegam, aceitar pedidos de login de terminais ou atualizar arquivos de log.