Ця завзята і життєрадісна порода була вперше виведена в Німеччині в кінці 19 століття шляхом схрещування аффенпінчера і стандартного шнауцера. Це найпопулярніша порода групи шнауцерів і єдиний тер'єр, виведений за межами Британських островів.
У перекладі з німецької слово «шнауцер» означає «борода». Спочатку цвергшнауцери розводилися для лову щурів на фермах, але сьогодні їх основна мета - підтримати і порадувати людей, яким пощастило мати таку веселу собаку.
У 1993 році Американський кінологічний клуб визнав цвергшнауцера окремою породою від стандартного шнауцера. Колись вони були третьою за популярністю породою в Америці і досі є фаворитами.