À 17 ans, Sempé roule à bicyclette pour un courtier en vins. En 1960, il démarre avec René Goscinny l'aventure du petit Nicolas, dressant une inoubliable galerie de portraits d' "affreux jojos qui tapissent depuis notre imaginaire" (dixit Goscinny).
Son humour fin, subtil et allusif allié à un formidable sens du dérisoire caractérisent toute son ouvre. Sa plume traduit sa vision tendrement ironique de nos travers et des travers du monde. Aujourd'hui, Sempé est l'auteur d'une trentaine d'albums. En 1988, il a illustré Catherine Certitude, de Patrick Modiano.
Il dessine régulièrement pour L'Express, Télérama, le New Yorker et expose ses dessins et ses aquarelles à Munich, New York, Londres ou Salzburg, où il rencontre toujours un très vif succès.