Nasce a Speier il 5 maggio 1833. Laureatosi a Wurzburg nel 1856 è aiuto di Von Kolliker e di De Briecher fino al 1860, anno in cui si trasferisce a Tubinga in qualità di assistente di W. Griesinger alla clinica medica. Dal 1860 al 1865 sarà, professore aggregato a Wurzburg, quindi professore di clinica medica a Jena e, infine, titolare della cattedra di clinica medica a Berlino dove succede a von Frerichs. Al Gerhardt si deve la scoperta del cambio di suono delle cavità polmonari secondo la posizione del malato nonché la dimostrazione della trasmissibilità della malaria per via ematica. Tra le sue opere più significative ricordiamo: Lehrbuch der Auscultation und Percussion (1876) e Lehrbuch der Kinderkrankeiten.