Произходът на самите шнауцери не е надеждно установен. Теорията на Теофил Студер за произхода на шнауцерите, подобно на други кучета, от торфено куче, чиито останки датират от III-IV век пр.н.е., е опровергана от генетични изследвания. Очевидно най-близките предци на шнауцера са теленокосите кучета от Южна Германия, които през Средновековието са били държани от жителите на тези места, за да пазят домовете си и да се борят с гризачи, точно както териерите са били използвани в Англия по това време.
Първите сведения за отглеждането на миниатюрни шнауцери в Германия датират от края на 19 век. Техните предци са охранявали селските хамбари от плъхове и други паразити. За да се създаде миниатюрно копие на известния тогава мителшнауцер, бяха кръстосани няколко поколения малки представители на породата. При кръстосване с други породи, като афенпинчер, пудел, миниатюрен пинчер, шпиц, цветовете се появяват като страничен ефект, който не отговаря на крайната цел на развъдчиците и за стабилизиране на генофонда бяха изключени многоцветните и бели кученца от програми за развъждане. Първият миниатюрен шнауцер е регистриран през 1888 г., първата изложба е проведена през 1899 г.