Sempé urodził się 17 sierpnia 1932 r. w Bordeaux. W szkole radzi sobie nie najlepiej, za złe zachowanie zostaje usunięty z liceum w Bordeaux i rozpoczyna aktywne życie: pracuje jako „chłopak do wszystkiego" u handlarza winem, wychowawca kolonijny, goniec... W wieku osiemnastu lat wstępuje na ochotnika do wojska i wyrusza do Paryża. Kręci się w pobliżu redakcji dziennika „Sud-Ouest", gdzie w 1951 roku sprzedaje pierwszy rysunek. Spotkanie z Goscinnym zbiega się z początkiem błyskawicznej kariery Sempégo jako „rysownika prasowego". W opowieściach o Mikołajku tworzy niezapomnianą galerię portretów małych urwisów, którzy już zawsze będą zaludniać naszą wyobraźnię. W czasie, kiedy powstają rysunki do Mikołajka, Sempé debiutuje w magazynie „Paris Match" (1956) i współpracuje z wieloma czasopismami. Jego pierwszy album z rysunkami zostaje wydany w 1962 roku pod tytułem Rien n'est simple. Później ukaże się jeszcze trzydzieści takich arcydzieł humoru, ukazujących w bardzo sugestywny sposób jego ironiczny, a zarazem pełen czułości stosunek do dziwactw człowieka i niedoskonałości świata. Twórca albumów takich jak Marcellin Caillou, Raoul Taburin, Monsieur Lambert, dzięki zmysłowi obserwacji połączonemu z niebywałym wyczuciem tego, co śmieszne, pozostaje od czterdziestu już lat jednym z największych rysowników francuskich. Oprócz własnych albumów ilustrował również Catherine Certitude Patricka Modiano i Historię pana Sommera Patricka Süskinda.
Sempé jako jeden z nielicznych rysowników francuskich miał okazję tworzyć ilustracje na okładkę prestiżowego „New Yorkera".