Hi ha diverses teories, cap de les quals té prou confirmació com a inequívocament correcta. La primera teoria és que cap als segles XV i XVI, com a conseqüència de l'encreuament de diverses races de gossos, entre les quals, segons els criadors de gossos, es trobaven els pastors dels Pirineus, els mastíns i els gossos d'aigua portuguesos, la raça que avui coneixem com a Va néixer Terranova.
La segona teoria ens remet als temps dels víkings que visitaven aquests llocs. Dubtós, però té dret a existir. Els víkings podrien haver portat amb ells gossos de les seves terres natals al segle XI, que posteriorment es van creuar amb el llop negre local, avui extingit. I l'última de les 11 teories disponibles ens diu que Terranova va sorgir com a conseqüència de l'encreuament entre el mastí tibetà i el llop negre americà, que ja hem comentat.
Potser, cadascuna de les teories és en part certa, però de fet, tenim un gos excel·lent, gran i amable. A finals del segle XVIII, el botànic anglès Sir Joseph Banks va comprar diversos individus d'aquesta raça, i el 18 una altra figura, George Cartwright, els va donar un nom oficial per primera vegada. A finals del segle XIX, un entusiasta criador de gossos, el professor Albert Heim de Suïssa, va donar la primera definició oficial de la raça, la va sistematitzar i la va registrar.
No obstant això, en aquell moment Terranova estava a punt de l'extinció, ja que el govern del Canadà va imposar severes restriccions a la tinença de gossos. Cada família podia tenir només un gos, pel qual, a més, s'havia de pagar un impost considerable. Un dels governadors de Terranova (àrea) anomenat Harold MacPherson a principis del segle XX va declarar que Terranova era la seva raça preferida i va oferir un suport integral als criadors. La raça es va registrar a l'American Kennel Club el 20.