Nacido en Buenos Aires, Argentina, Yeruham Scharovsky se formó en flauta, contrabajo, composición y dirección en el Conservatorio Nacional Superior de Música y el Teatro Colón. Emigró a Israel a principios de la década de 1970, graduándose en la Academia Rubin de Música de Jerusalén bajo la tutela de Mendi Rodan.
En 1990 fue galardonado por Zubin Mehta con el premio «Joven Artista del Año» Françoise Schapira , lo que le permitió dirigir a la Orquesta Filarmónica de Israel y a las principales agrupaciones del país. En 1991 se convirtió en el primer director israelí en realizar una gira de conciertos por la antigua URSS, al frente de las filarmónicas de Moscú, Riga y Yaroslavl. De 1991 a 1996 fue Director Artístico y Titular de la Orquesta Sinfónica Ra’anana en Israel, consolidándola como una de las más populares del país y realizando tres giras por Francia y Alemania.
Entre 1998 y 2004 asumió la Dirección Artística y Titular de la Orquesta Sinfónica Brasileña de Río de Janeiro, con la que expandió los ciclos de conciertos, grabó cuatro CD y realizó giras por Brasil y EE. UU. , destacando un concierto en Central Park ante 50.000 personas. Durante su gestión en Brasil, fundó la Orquesta Sinfónica Juvenil Brasileña y el concurso Nelson Freire , siendo declarado Ciudadano Honorario de Río de Janeiro en 2002 por su contribución artística y social. A lo largo de su trayectoria ha dirigido más de 50 orquestas de renombre en más de 20 países, incluyendo las filarmónicas de Berlín, San Petersburgo, Macedonia, Bogotá, y los teatros Colón y Municipal de São Paulo.
Mantiene un estrecho vínculo con la Orquesta Sinfónica de Jerusalén desde 1985 , liderando conciertos, grabaciones y exitosas giras por Sudamérica en 1998 y 2010. En el año 2000 compartió una serie de conciertos dedicados a Jerusalén con Lorin Maazel al frente de la Filarmónica de Múnich , quien además lo nombró jurado de su Concurso Internacional de Directores en 2002. Su carrera lírica incluye la dirección de títulos fundamentales de Verdi, Rossini, Mozart, Bizet, Gounod y Donizetti en escenarios como la Ópera Nacional de Finlandia y la Ópera de Aviñón. Asimismo, inauguró el Centro de Artes Escénicas de Tel Aviv con Nabucco y realizó una gira por Corea del Sur en 2010.
En los últimos 25 años ha desarrollado una prolífica labor docente impartiendo clases magistrales de dirección por todo el mundo (Israel, Brasil, Colombia, Alemania, Italia, España y Hungría). En el ámbito de la gestión institucional, ha sido Director General del Conservatorio Mate Asher (1985-1990), del Conservatorio de Kfar Saba (1990-2011) y del Nuevo Conservatorio de Música de Hod Hasharon desde 2011 , además de realizar cerca de 60 producciones televisivas del programa «Musi-Kef».