Le barzoï est originaire de Russie et son nom signifie « rapide ». Dès les XIVe et XVe siècles, le barzoï était élevé pour chasser le lièvre, le renard et le loup. La race était même connue comme le chien national de la Russie jusque vers 14. Ils enrichissaient les chasses pompeuses de la noblesse avec des centaines d'animaux de leur race et apparaissaient souvent comme motifs populaires dans l'art.
Pendant la révolution russe, presque tous les chiens de la noblesse ont été détruits, ce qui a presque provoqué l'extinction du barzoï en Russie. Comme la race était déjà si célèbre à l'époque, des éleveurs en Angleterre et aux États-Unis avaient commencé à importer et à élever cette race.
La race s'appelait Russian Wolfhound aux États-Unis jusqu'en 1936, date à laquelle elle reçut finalement le nom de Barzoï (du mot russe « borzyi » signifiant « rapide »). La race est reconnue par la FCI depuis 1956.