U Belgiji su krajem 1800. godine postojali brojni stočarski psi, koji su bili raznolikog izgleda i dlake. Kako bi sredili takvo stanje ljubitelji tih pasa udružili su se i zatražili pomoć profesora A. Reula s Veterinarsko-medicinske škole Cureghem, kojeg treba smatrati pravim pionirom i osnivačem ove pasmine.

           Pasmina je službeno nastala između 1891. i 1897. godine. U Bruxellesu je 29. rujna 1891. godine osnovan Klub za belgijske ovčare (Club du Chien de Berger Belge), a iste je godine u Cureghemu, 15. studenog, profesor Reul okupio 117 pasa, od kojih je izabrao najbolje primjerke. Sljedećih godina započelo se s pravim selektivnim uzgojem u bliskom srodstvu s nekoliko rasplodnjaka.

Do 3. travnja 1892. godine Klub za belgijske ovčare napravio je prvi detaljan standard pasmine. Dozvoljena je samo jedna pasmina s tri varijeteta dlake. No, kako je pasmina bila u rukama običnih ljudi nije još stekla službeni značaj. Zbog toga je prvi pas upisan u rodovnu knjigu Royal Saint-Hubert Society tek 1901. godine.

          U slijedećem razdoblju istaknuti promotori iz redova zaljubljenika pasmine bili su odlučni ujednačiti tip pasmine i ispraviti greške. Može se reći da je do 1910. godine utvrđen tip i temperament belgijskih ovčara.

Tijekom povijesti belgijskih ovčara često puta je pitanje prihvatljivih varijeteta i boja izazivalo žučne rasprave. S druge strane, pitanja morfologije, temperamenta i radne podobnosti pasmine nikad nisu bila sporna.