Swoją karierę zaczynał w Wolfsburgu, reprezentował barwy Arminii Bielefeld, Paderborn czy Fortuny Dusseldorf. W sumie na pierwszym i drugim szczeblu niemieckiej piłki ligowej rozegrał ponad 200 meczów. Za młodu grał również w reprezentacjach od U17 do U20, zaliczając w sumie 27 występów.
Florian Hartherz niemal całą karierę spędził w ojczyźnie, aż do wyjazdu do Maccabi Netanya latem zeszłego roku. Tam lewy wahadłowy wszedł do pierwszego składu z marszu i rozegrał 11 meczów, z czego sześć w pełnym wymiarze. Jednak w połowie rundy stracił miejsce w drużynie, nie było go nawet na ławce. Chcąc dalej występować zmienił kierunek i wylądował w Polsce.
Teraz 29-latek podpisał porozumienie z Podbeskidziem Bielsko-Biała. Ma grać w polskiej Fortuna I Lidze do końca bieżącego sezonu.