Fratello minore di Titina e Eduardo, tutti figli naturali di Scarpetta, lavora giovanissimo nella compagnia del padre. Negli anni '30 fonda insieme ai fratelli la compagnia “I De Filippo” che conseguirà enormi successi grazie alle commedie scritte da lui e dal fratello.
Inizia la sua carriera cinematografica insieme a Eduardo ne Il cappello a tre punte ('35) di Camerini, e continua con il regista C.L. Bragaglia che adatta una commedia scritta dallo stesso Peppino in Casanova farebbe così ('42). Nel '45 esce dalla compagnia dei fratelli e si specializza nel cinema in ruoli comici e brillanti e talvolta surreali di altissimo livello che non sfuggono a registi come Fellini che lo vuole nel suo primo film Luci del varietà ('50) e ne Il dottor Antonio, episodio del film Boccaccio '70 ('62).
L'incontro artistico con Totò lo rivela come un attore straordinario, l'unico che possa entrare in relazione con gli iperbolici tempi comici del principe Antonio De Curtis. I due attori formano una coppia perfetta, che si rivela spesso indipendente rispetto alla trama o alla regia in virtù di una comune provenienza dalla commedia dell'arte, nella quale l'improvvisazione e le gag nascono sulla scorta di esili canovacci. Memorabile esempio è la scena della dettatura della lettera in Totò, Peppino e la Malafemmina ('56) di Mastrocinque, in cui battute non-sense, termini equivocati, lazzi, intermezzi dialettali ed errori ortografici si accavallano in un crescendo comico irresistibile. Tra le tante collaborazioni sono da ricordare: Letto a tre piazze ('60) di Steno, e Chi si ferma è perduto ('61) di Sergio Corbucci.
Indimenticabile la maschera demenziale di Pappagone che l'attore napoletano inventa per la televisione.