Historisk set går begrebet gravhund tilbage til en gruppe specifikke jagthunde, der blev brugt som såkaldte jordhunde i byggejagt, især grævlingejagt. Opdrættet af den langhårede gravhund, som i øvrigt er en af de ældste efterkommere af den oprindelige gravhund, går tilbage til 18-tallet.
Den oprindelige krydsning fandt sted mellem en gravhund, en setter, en spaniel og en spaniel. Dengang ønskede hunden, som næsten udelukkende blev brugt til jagt, at blive etableret i højere kredse, som for eksempel det kongelige hof, med en lang og blank pels.
Racen blev dog først fuldt etableret i det 20. århundrede og et raceregister blev først indført efter 1900. Længe blev den langhårede gravhund betragtet som gravhundens mest populære afkom, indtil den endelig blev erstattet af gravhunden. trådhåret gravhund.
Hunderacen blev blandt andet populær, fordi Waldi under sommer-OL 1972 i München repræsenterede konkurrencens maskot, en gravhund.