Mompou nació en Barcelona en 1893, de padre catalán y madre de ascendencia francesa.
Estudió piano en el Conservatorio del Liceu de Barcelona, y ofreció su primer recital público a la edad de 15 años. En 1909, escuchó a Gabriel Fauré interpretar su Quinteto op. 59 y quedó tan impresionado que decidió ser compositor. Con una recomendación de Enrique Granados fue a París en 1911 para estudiar piano junto a Isidor Philipp y Ferdinand Motte Lacroix y armonía con Marcel Samuel Rousseau. Ese mismo año, compuso su primera pieza para piano.

En 1914 regresó a Barcelona, huyendo de la Primera Guerra Mundial. Publicó entonces sus primeras obras para piano (Impresiones íntimas, Scènes d'enfants...) y su primera canción, L'hora grisa, guiado por un ideal estético claro: la máxima expresión con los mínimos medios.

Regresó a París  en 1921 para huir de nuevo en 1941 tras la ocupación alemana. Durante su segunda estancia en París, el crítico Émile Vuillermoz publicó un artículo elogioso sobre Mompou que dotó a este de una celebridad inesperada. Gracias a ella, tuvo ocasión de tratar a los principales compositores franceses de la época. Datan de entonces varias obras para piano (Dialogues) y canciones (Cançoneta incerta).

De regreso en España, siguió componiendo música para piano y canciones. Durante un concurso de piano, conoció a la pianista Carmen Bravo, de cuya interpretación de Schumann quedó prendado, y en 1957 contrajeron matrimonio. En 1964, hizo una incursión en la música sacra con el oratorio Los improperios.

Fue miembro de la Real Academia Catalana de Bellas Artes de San Jorge y Premio Nacional de Música de España. En 1978 una hemorragia cerebral le obligó a abandonar la composición. Falleció en 1987 a la edad de 94 años.
Mompou compone obras casi siempre breves y de una música relativamente improvisada. Su obra se ha descrito como "delicada" e "íntima". Según sus propias palabras, era «un hombre de pocas palabras y un músico de pocas notas». Mompou encontró en el verso de san Juan de la Cruz  "la música callada" una expresión de su ideal estético: "una música que sea la voz del silencio", sin huecos ni adornos. Sus principales influencias fueron el impresionismo francés, así como Erik Satie y muy especialmente Gabriel Fauré y Francis Poulenc, lo que le dio un estilo en el que la expresión está concentrada en formas muy pequeñas. En muchas de sus piezas, toma melodías del folklore catalán, adaptándolas a su peculiar mundo sonoro. Sus acordes evocan a menudo el sonido de las campanas de bronce, recuerdo infantil de la fábrica de campanas en la que trabajaba su abuelo.

Música callada se compone de cuatro cuadernos y us composiciones datan del período entre  1959 y 1967, y contiene 28 piezas. El título está tomado del Cántico espiritual de San Juan de la Cruz, concretamente de esos conocidos versos “… la música callada / la soledad sonora…”.

El filósofo y musicólogo Vladimir Jankélévitch (1903-1985) considera que “sigue un itinerario de despojamiento y desnudez. Aquí se oyen las campanas seráficas, allá las quintas y cuartas místicas resuenan como una oración, en otros números la nota obstinada repica monótona, insistente, lejana, con sonoridades metálicas, graves y vehementes. Mediante una progresión suave y persuasiva de la armonía, y sin dejar nunca que se pierda el hilo dorado del trazado melódico, Mompou habitúa poco a poco al oído a disonancias lastimeras, a ritmos vacilantes, a cadencias de nostalgia penetrante”.

Jankélévitch es un gran admirador de Mompou. En su ensayo La Présence lointaine: Albeniz, Séverac, Mompou (París, Le Seuil, 1983) Jankélévitch escribe las palabras definitivas sobre estas “Músicas del silencio”, en la que Mompou tomó inspiración en San Juan de la Cruz; piezas cortas y densas llevadas al límite de una especie de ascetismo de la forma y del lenguaje:

“Los tres primeros cuadernos de Música callada a través de las veintiuna piezas que los componen, resumen el progreso de esta áscesis. Las piezas tercera y décimotercera... dejan, ambas, disonar una falsa nota insistente, Sol bemol en Si bemol mayor en la tercera, Fa sostenido en Mi bemol mayor en la número trece, y las cadencias que conducen de nuevo al tono principal exhalan, en una y otra, no sé qué penetrante nostalgia... Los acordes desgarradores resuenan en la duodécima pieza como exclamaciones. Las disonancias apenadas gimen, en la décimoquinta pieza, sobre un ritmo indeciso. La pieza décimocuarta, tan retorcida, es casi atonal..., y el tercer cuaderno en general parece haber abandonado toda complacencia melódica”.

“Mompou aspira a dejar cantar la voz del alma pura, del alma sola, del alma en sí misma... Para poder entender este canto, hace falta primero hacer callar el tumulto de vanas palabras o reencontrar la voz secreta en el centro de ese tumulto. Mompou se entrega entero a lo largo de esas veintiuna Soledades, de esos veintiún silencios de Música callada, siguiendo un itinerario de despojamiento y de desnudamiento al que no le falta cierta analogía con el de Manuel de Falla, y que se le puede considerar como una verdadera catarsis”.

Mompou, por su parte, explica:

“Esta música es callada porque su audición es interna. Contención y reserva. Su emoción es secreta y solamente toma forma sonora en sus resonancias bajo la bóveda fría de nuestra soledad, penetrando en las grandes profundidades de nuestra alma”

“Esta música no tiene aire ni luz. Es un débil latir del corazón. No se le pide llegar más allá de unos milímetros en el espacio, pero sí la misión de penetrar en las grandes profundidades de nuestra alma y en las regiones más secretas de nuestro espíritu. Esta música es callada porque su audición es interna. Contención y reserva. Su emoción es secreta y solamente toma forma en sus resonancias bajo la gran bóveda fría de nuestra sociedad. Deseo que mi música callada, este niño recién nacido, nos aproxime a un nuevo calor de vida y a la expresión del corazón humano, siempre la misma y siempre renovando”.