Gerry Mulligan creció en Filadelfia y primero aprendió piano, que tocaba ocasionalmente. Durante su adolescencia, escribió arreglos para la banda de radio de Johnny Warrington (1944) y tocó instrumentos de lengüeta profesionalmente. Después de mudarse a Nueva York en 1946, se unió a la big band de Gene Krupa como arreglador de personal, atrayendo la atención con su Disc Jockey Jump (1947). Luego se involucró con el naciente movimiento de cool-jazz en Nueva York, participando en las actuaciones (1948) y sesiones de grabación (1949-50) del noneto de Miles Davis y contribuyendo con partituras a las grandes bandas de Elliot Lawrence y Claude Thornhill. Para entonces, se especializaba en saxofón barítono y tocaba en grupos con Kai Winding y otros. También escribió partituras para la banda de Stan Kenton y grabó con su propio tentet (1951), que fue modelado en el conjunto de Davis.

En 1952, Mulligan, entonces con sede en Los Ángeles, formó su primer cuarteto «sin piano», con Chet Baker a la trompeta. El grupo tuvo éxito instantáneamente y trajo la aclamación internacional de Baker y Mulligan. Mulligan lideró un nuevo tentempié y varias versiones del cuarteto a mediados de los años 50. Hizo una aparición sensacional en la Salle Pleyel de París en 1954 y comenzó a dominar las encuestas de opinión del jazz para su instrumento. En 1960, organizó su propia banda de jazz de concierto de 13 piezas con la que realizó una gira por Europa en ese año y por Japón en 1964. Después de su disolución, se convirtió en un sideman activo, trabajando a menudo con Dave Brubeck (1968-72) y como arreglista freelance para otros grupos de jazz. Formó una nueva big band de 14 músicos, la Age of Steam, en 1972, y fue artista residente en la Universidad de Miami en 1974.

De 1974 a 1977, Mulligan dirigió un sexteto que incluía a Dave Samuels, y durante este período trabajó regularmente en Nueva York e Italia. Más o menos al mismo tiempo que comenzó a tocar el saxofón soprano. Formó una banda de 14 músicos en 1978 y viajó con ella hasta el año siguiente. A principios de la década de 1980 grabó como líder en Nueva York experimentando con una big band de 20 músicos (1980) e instrumentos electrónicos (1982-1983), pero en 1986 regresó a un formato más familiar como líder de un quinteto con Scott Hamilton y Grady Tate.

Mulligan es una de las figuras más versátiles del jazz moderno. A pesar de su lento desarrollo como instrumentista, ha sido reconocido como el saxofonista barítono más importante en el jazz desde Harry Carney. Además del buen lenguaje que ayudó a crear, se encuentra igualmente a gusto en un contexto de big-band, bop, o incluso Dixieland (tocando el clarinete en este último), y sus excelentes grabaciones con músicos tan variados como Johnny Hodges y Thelonious Monk muestran una adaptabilidad musical inusual. Inicialmente, sin embargo, Mulligan hizo su reputación como arreglador de partituras de bandas con intrincadas partes internas, un cuidadoso balanceo de timbres, baja dinámica y swing ligero, todo lo cual está presente en sus composiciones de Jeru, Godchild y Venus de Milo para el nonet de Davis. Más tarde, abstrajo estas cualidades en sus grupos sin piano, donde el bajo volumen y la ausencia de apuntalamientos cordales liberó a los músicos de viento para improvisar en un delicado contrapunto de dos partes. Algunas de las mejores interpretaciones de Mulligan pueden ser escuchadas en sus grabaciones con Chet Baker, Bob Brookmeyer, y más notablemente con Paul Desmond, con quien comparte un talento inusual para la contra melodía improvisada.