Jack Lemmon s-a nascut intr-un lift din orasul Newton statul Massachusetts, o suburbie a Bostonului, unde tatal sau era presedintele unei companii de gogosi. Dupa ce a urmat Academia Phillips si Universitatea Harvard, Lemmon s-a inrolat in Marina Militara a Statelor Unite. Dupa terminarea stagiului militar, a inceput sa lucreze ca actor in teatru, radio si televiziune.
Debutul pe marele ecran l-a avut intr-un rol episodic in filmul din 1949 The Lady Takes a Sailor, dar nu a fost remarcat pana la debutul oficial alaturi de Judy Holliday in It Should Happen to You din 1954.
A devenit unul din actorii preferati ai regizorului Billy Wilder, jucand in filmele sale Unora le place jazz-ul (Some Like It Hot), Apartamentul (The Apartment), Irma La Douce si Avanti.
Lemmon a fost primul actor care a obtinut premiul Oscar atat pentru "Cel mai bun actor in rol principal" cat si pentru "Cel mai bun actor in rol secundar". A primit Oscarul pentru rol secundar in filmul Mister Roberts (1955), iar pentru rol principal in filmul Salvati tigrul (Save The Tiger) din (1973). A fost de asemenea nominalizat la Premiul Oscar pentru cel mai bun actor pentru rolurile sale din Unora le place jazz-ul (1959) (Some Like It Hot), The Apartment (1960) (Apartamentul), Days of Wine and Roses (1962) (Vin si trandafiri), The China Syndrome (1979) (Sindromul), Tribute(1980) (Tributul) si controversatul Missing (Disparut)1982. In 1988 a fost distins cu "Lifetime Achievement Award" (Premiul pentru intreaga cariera) din partea AFI (American Film Institute -- Institutul American de Film).
Ultimul film in care a jucat Jack Lemmon a fost The Legend of Bagger Vance (Legenda lui Bagger Vance), regizat de Robert Redford si prezentat in cinematografe in anul 2000.