A origem dos próprios schnauzers não foi estabelecida de forma confiável. A teoria de Theophil Studer sobre a origem dos schnauzers, como outros cães, de um cão de turfa, cujos restos datam dos séculos III-IV aC, foi refutada pela pesquisa genética. Obviamente, os ancestrais mais próximos do schnauzer são os cães de pelo duro do sul da Alemanha, que na Idade Média eram mantidos pelos habitantes desses lugares para guardar suas casas e lutar contra roedores, assim como os terriers eram usados na Inglaterra naquela época.
As primeiras informações sobre a criação de schnauzer miniatura na Alemanha datam do final do século XIX. Seus ancestrais guardavam celeiros rurais contra ratos e outros parasitas. Para criar uma cópia em miniatura do então famoso Mittelschnauzer, várias gerações de pequenos representantes da raça foram cruzadas. Quando cruzados com outras raças, como Affenpinscher, Poodle, Pinscher Miniatura, Spitz, as cores apareceram como um efeito colateral que não correspondia ao objetivo final dos criadores, e para estabilizar o pool genético, os filhotes multicoloridos e brancos foram excluídos dos programas de melhoramento. O primeiro schnauzer miniatura foi registrado em 19, a primeira exposição foi realizada em 1888.