O Sloughi originalmente descendia dos galgos dos beduínos do norte da África. Assim, sua história remonta a vários milênios.
Naquela época ele era um fiel companheiro dos habitantes do deserto e ajudava, entre outras coisas, na caça, na qual formava uma dupla de três com um falcão e o caçador, que cavalgava. Para ser mais preciso, a raça se originou na região do Magrebe, que inclui os atuais Marrocos, Argélia e Tunísia.
Como o Sloughi era capaz de caçar devido à sua velocidade e assim fornecer carne para os beduínos, era considerado “puro” na cultura árabe em contraste com outros cães. Ainda hoje, a raça galgo goza de grande popularidade em países como Marroko, embora a caça tradicional seja muito raramente praticada.