Opprinnelsen til selve schnauzerne er ikke sikkert fastslått. Teorien til Theophil Studer om opprinnelsen til schnauzere, som andre hunder, fra en torvhund, hvis rester dateres tilbake til III-IV århundrer f.Kr., har blitt tilbakevist av genetisk forskning. Åpenbart er de nærmeste forfedrene til schnauzeren de trådhårede hundene i Sør-Tyskland, som i middelalderen ble holdt av innbyggerne på disse stedene for å vokte hjemmene sine og kjempe mot gnagere, akkurat som terriere ble brukt i England på den tiden.
Den første informasjonen om oppdrett av dvergschnauzere i Tyskland dateres tilbake til slutten av 19-tallet. Forfedrene deres voktet landlige låver mot rotter og andre parasitter. For å lage en miniatyrkopi av den da kjente Mittelschnauzer, ble flere generasjoner av små representanter for rasen krysset. Når de ble krysset med andre raser, som Affenpinscher, Puddel, Dvergpinscher, Spitz, dukket farger opp som en bivirkning som ikke samsvarte med oppdretternes endelige mål, og for å stabilisere genpoolen ble flerfargede og hvite valper ekskludert fra avlsprogrammer. Den første dvergschnauzeren ble registrert i 1888, den første utstillingen ble holdt i 1899.