Em comunicado, o Chelsea indica que a rescisão resulta de "acordo mútuo" e "agradece a José pela sua imensa contribuição desde que voltou como treinador no verão de 2013".
O clube acrescenta que Mourinho "será sempre recordado como uma pessoa muito querida, respeitada e uma figura de relevo no Chelsea".
Antes da confirmação oficial, a notícia foi avançada por vários media ingleses, incluindo a BBC.
O clube de Londres está a passar por um período difícil na liga inglesa. No campeonato inglês ocupa a 16ª posição, a um ponto dos lugares de descida.
No entanto, o clube está apurado para os oitavos de final da Liga dos Campeões, depois de terminar em primeiro lugar no Grupo G, à frente dos ucranianos do Dínamo de Kiev e do FC Porto.
Na semana passada, Mourinho garantia que ia cumprir o contrato com o Chelsea até ao fim. O técnica ainda tinha três anos e meio de contrato pela frente.