Herzog rozegrał pięć meczów w reprezentacji Niemiec, z tego dwa podczas mundialu w 1974 roku. Urodzony w Oberhausen lewoskrzydłowy zagrał w zwycięskich spotkaniach - 2:0 z Jugosławią i 4:2 ze Szwecją.
W latach 1970-1983 rozegrał ponad 250 meczów w Bundeslidze (46 goli) w barwach Fortuny Duesseldorf i Bayeru 04 Leverkusen. W tym drugim klubie po zakończeniu kariery pracował jako skaut.