Ator de teatro quando jovem, Penn iniciou a carreira na televisão em 1958 ao dirigir o western "Um de nós morrerá", onde Paul Newman interpreta o famoso pistoleiro Billy the Kid. Seu segundo filme, "O milagre de Anne Sullivan", obteve dois Oscar em 1962 para atriz principal e coadjuvante, Ann Bancroft e Patty Duke, respectivamente.
Em 1966 rodou um de seus grandes filmes, "Caçada Humana", com Marlon Brando, Jane Fonda e Robert Redford. No ano seguinte produziu "Bonnie e Clyde", com Warren Beatty, que narra a vida de dois famosos delinquentes dos anos 30.
Outros filmes de destaque em seu currículo são "Pequeno grande homem" (1970), com Dustin Hoffman, "Um lance no escuro" (1975) e "Duelo de gigantes", com Jack Nicholson e Marlon Brando.