Nascido em abril de 1919 em Milford (Massachusetts), Murray, apaixonado pela ciência emergente dos transplantes, passou três anos trabalhando no serviço de cirurgia de um hospital militar da Pensilvânia durante a Segunda Guerra Mundial. Ele realizava cirurgias e tratava temporariamente soldados com graves queimaduras fazendo enxertos com pele de cadáveres.
"A lenta rejeição dos enxertos de pele estranha me fascinou. Como o receptor distingue a pele de outra pessoa da sua própria", escreveu Murray em um ensaio autobiográfico publicado pelo Comitê do Nobel.
Em seguida, Murray descobriu que o cirurgião plástico-chefe, o coronel James Brown, havia transplantado um enxerto de pele entre irmãos gêmeos e que o receptor havia aceitado o tecido estranho sem que o seu sistema imunológico atacasse instintivamente. "Este foi o ponto de partida de minha pesquisa sobre o transplante de órgãos", escreveu ele.
Na época, a ideia de transplantar órgãos de um paciente vivo para outro foi objeto de controvérsia. Alguns consideravam o transplante de tecidos ou órgãos como uma violação das regras da natureza e que colocava a vida do receptor e do doador em perigo. Contudo, o sucesso da operação histórica entre os gêmeos Herrick contribuiu para mudar a situação.
Murray transplantou um rim de Ronald Herrick em Richard, prolongando assim a vida deste último em oito anos. Ronald morreu apenas em 1990. Com esta experiência, o médico ajudou na década de 1960 o desenvolvimento do Imuran, um medicamento que suprimiu o fenômeno da rejeição em receptores de órgãos de doadores não aparentados. Ele recebeu o Prêmio Nobel de Medicina em 1990, que ele compartilhou com E. Donnall Thomas, um pioneiro no transplante de medula óssea.
Suas descobertas têm sido usadas para curar ou prolongar a vida em condições normais ou aceitáveis de milhares de pacientes gravemente doentes. Mais tarde, Murray se dedicou à cirurgia plástica, principalmente em remodelar os rostos de crianças com deformidades. Ele foi diretor do departamento de cirurgia plástica do hospital Brighams por mais de 40 anos e de um departamento do centro hospitalar para crianças (Children's Hospital Medical Center) de Boston de 1972 a 1985, de acordo com o Globe. Murray tinha três filho e três filhas e 18 netos.