Il a étudié à l'Académie royale des beaux-arts du Danemark à Copenhague, où il a été formé en architecture et en design. Après ses études, il a travaillé avec des architectes renommés tels que Alvar Aalto en Finlande et le célèbre architecte américain Frank Lloyd Wright.
En 1957, Utzon a remporté un concours international de design pour la construction de l'opéra de Sydney, en Australie. Ce projet a été l'un des plus grands défis de sa carrière, et il a travaillé sur la conception et la construction de l'opéra pendant près de 16 ans.
Pendant la construction, Utzon a été confronté à de nombreux défis techniques et financiers, ce qui a conduit à des dépassements de coûts et à des retards considérables. En conséquence, en 1966, Utzon a quitté le projet de manière controversée, avant la fin de la construction.
Malgré cela, l'opéra de Sydney est devenu un symbole emblématique de l'Australie et une réalisation architecturale majeure dans le monde entier. En reconnaissance de son travail sur l'opéra, Utzon a reçu de nombreux prix prestigieux, dont le prix Pritzker en 2003.
Au-delà de l'opéra de Sydney, Utzon a également conçu de nombreux autres bâtiments et structures, notamment des maisons individuelles, des églises, des musées et des centres de conférence. Il est considéré comme l'un des plus grands architectes et designers danois du 20ème siècle.