Eugene Ormandy kam 1899 in Budapest als Jenő Blau zur Welt. Schon im Kindesalter bewies er sich als musikalisches Talent an der Geige. Seinen Vornamen teilte er mit dem legendären Jenő Hubay, der Eugene Ormandys Lehrer an der Musikakademie Budapest wurde und u.a. auch Joseph Szigeti unterrichtete. Als jüngster Student schloss Eugene Ormandy 1913 sein Studium ab und begann nur vier Jahre später, im Alter von 17 Jahren, eine Professur für Violine an der Budapester Musikakademie.

Seine berufliche Karriere verlief genau so steil wie seine musikalische Lehre: nach seiner Professur ging Eugene Ormandy nach Berlin um eine kurze Zeit als Konzertmeister des Blüthnerorchesters in Berlin zu arbeiten. Danach ließ er sich von einem dubiosen Angebot dazu verleiten in die USA zu immigrieren, wo er sich den Künstlernamen Eugene Ormandy zulegte und 1927 die amerikanische Staatsbürgerschaft annahm. Er spielte zunächst in einem Stummfilmorchester im New Yorker Capitol Theatre, wo er schnell zum ersten Geiger und dann sogar zum Kapellmeister wurde. Zudem sammelte er in dieser Zeit Erfahrungen als Dirigent mit dem CBS Radio Orchestra. 1931 übernahm er dann die Leitung des Minneapolis Symphony Orchestra und sprang kurzfristig und erfolgreich für den erkrankten Arturo Toscanini beim Philadelphia Orchestra ein. 1936 wurde er, an der Seite von Leopold Stokowski, als Associate Conductor nach Philadelphia eingeladen. Nur zwei Jahre später ernannte man ihn schließlich zum alleinigen Music Director des Philadelphia Orchestras, was er für ganze 42 Jahre blieb.

Eugene Ormandy prägte den von seinem Vorgänger Leopold Stokowski geschaffenen „Philadelphia Sound“. Seine Klangideal war von einer sensitiven Rundheit, die jedoch mit Agilität, Schwung, Brillanz und Temperament perfekt kombiniert wurde. Diese überaus reizvolle Magie gab dem Orchester weltweit rasch den Beinamen „Those Fabulous Philadelphians“. Weithin anerkannt war er als vorzüglicher Begleiter – so von so berühmten wie unterschiedlichen Solisten wie den Pianisten Artur Rubinstein, Rudolf Serkin, György Sandor, den Geigern Isaac Stern, Zino Francescatti und Itzhak Perlman oder dem Gitarristen John Williams. Ormandy machte sich auch durch zahlreiche Ur- und Erstaufführungen mit Werken von Bartók, Barber, Rachmaninow, Britten, Harris, Rorem, Sibelius, Prokofiew und Schostakowitsch einen besonderen Namen. Nach seiner Rückzug 1980 blieb er bis zu seinem Tode 1985 Ehrendirigent des Orchesters.