A HERZ története 1896-ban kezdődött Bécsben, amikor Franz Gebauer és Viktor Lehrner megalapította a Gebauer & Lehrner KG-t. A vállalat kezdetben szanitereket, szerelvényeket, csapokat, kádakat és fürdőszobai fűtőtesteket gyártott. Az első világháború előtt már mintegy 300 alkalmazottal és több mint 1300 termékkel rendelkezett.
A világháborúk és az azt követő gazdasági nehézségek jelentősen visszavetették a vállalat fejlődését. A második világháború alatt a polgári szelepgyártás helyett hadianyaggyártásra álltak át. A háború után Viktor Lehrner, majd az 1950-es években fia, Richard Lehrner vezette a céget, aki a fűtőszelepekre helyezte a hangsúlyt. Ez megalapozta a sorozatgyártást és az exportpiacok felé való nyitást.
Az 1960-as és 1970-es években a HERZ jelentős nemzetközi sikereket ért el, és a HERZ név önálló márkává vált. Az 1973-as olajválság azonban komoly gazdasági nehézségeket okozott, és a vállalat a fennmaradásért küzdött.
Az új fordulópont 1989-ben következett be, amikor Gerhard Glinzerer és partnerei átvették a vállalatot. 1994-től Glinzerer egyedüli tulajdonosként irányította a HERZ-et. Vezetésével a vállalat stabilizálódott, majd jelentős nemzetközi terjeszkedésbe kezdett. Az 1990-es és 2000-es években új leányvállalatok, gyárak és felvásárlások révén folyamatosan bővült.
A 2010-es években a HERZ tovább diverzifikálta tevékenységét. A fűtéstechnika mellett egyre nagyobb szerepet kaptak a biomassza-rendszerek, kazánok és hőszivattyúk. A BINDER Energietechnik és később a HIRSCH Servo Group bevonásával a csoport új iparágakban is megerősítette jelenlétét.
2025 elején Gerhard Glinzerer a teljes HERZ Csoportot a nonprofit HERZ Alapítványra ruházta át. Az alapítvány célja a vállalat hosszú távú, egységes működésének biztosítása, valamint az építési technológia jövőjének támogatása oktatási intézmények, fiatal tehetségek és szakemberek támogatásán keresztül.
Napjainkban a HERZ Csoport 12 európai országban 44 gyártási telephellyel, világszerte 50 leányvállalattal és mintegy 3200 alkalmazottal működik, éves árbevétele pedig körülbelül 600 millió euró.