Dalla metà del Settecento all'Ottocento il carlino era molto diffuso. Soprattutto tra i nobili e nel mondo femminile, il carlino era molto apprezzato dagli amanti dei cani. Il duca Alexander von Württemberg, dopo la morte del suo amato carlino, ordinò nel 1733 di erigere un monumento nel parco del suo castello Winnental, che avrebbe dovuto testimoniare ai discendenti delle proprietà di questa razza di cani.
Durante il suo periodo di fama, il carlino fu un frequente oggetto di interesse per gli artisti. Non esiste una spiegazione esatta sull'origine del nome di questa razza. Nella Germania meridionale le parole “moppen”, “mopperin” o “moeppen” significano fare una smorfia, borbottare o torcere il muso, e quindi la parola “carlino” doveva probabilmente indicare un cane con un'espressione scontenta e scontrosa. Anche i dati sulla patria del carlino sono imprecisi. Portano la Cina, ma anche l'Africa (Capo di Buona Speranza). Si ipotizza anche che, in base alla forma del cranio, possa essere considerato (in Europa) una versione nana del piccolo bulldog.