L'origine degli stessi schnauzer non è stata stabilita in modo affidabile. La teoria di Theophil Studer sull'origine degli schnauzer, come altri cani, da un cane da torba, i cui resti risalgono al III-IV secolo aC, è stata confutata dalla ricerca genetica. Ovviamente, gli antenati più prossimi dello schnauzer sono i cani a pelo duro della Germania meridionale, che nel medioevo erano tenuti dagli abitanti di quei luoghi a guardia delle loro case e a combattere i roditori, proprio come si usavano allora i terrier in Inghilterra.
Le prime informazioni sull'allevamento degli schnauzer in miniatura in Germania risalgono alla fine del XIX secolo. I loro antenati proteggevano i fienili rurali contro topi e altri parassiti. Per creare una copia in miniatura dell'allora famoso Mittelschnauzer, furono incrociate diverse generazioni di piccoli rappresentanti della razza. Quando incrociati con altre razze, come Affenpinscher, Poodle, Miniature Pinscher, Spitz, i colori apparivano come un effetto collaterale che non corrispondeva all'obiettivo finale degli allevatori e per stabilizzare il pool genetico sono stati esclusi i cuccioli multicolori e bianchi dai programmi di allevamento. Il primo schnauzer in miniatura fu registrato nel 19, la prima mostra si tenne nel 1888.