比利时牧羊犬在世界其他地方被称为“Groenendael”或“chien de berger”。它的起源可追溯到19世纪初，那个时候和许多其他的牧羊犬如内陆牧羊犬等被记录于血统簿。并开始参加犬展。通过血统簿，我们可以确定大陆牧羊犬不仅指比利时牧羊犬，也包括德国牧羊犬、荷兰牧羊犬、布鲁塞尔牧羊犬、特弗伦牧羊犬和布里牧羊犬。
当民族精神和自豪感在欧洲与日俱增的时候，许多人也努力寻求可以标志他们自己国家的动物。19世纪后期，比利时试图找到可以真正惟一代表比利时的牧羊犬。为此目的，1891年9月，比利时牧羊犬俱乐部组建。俱乐部成员的一项使命就是同全国各地的兽医及其他人员保持合作。1891年11月，在阿道夫·诺教授的指导下，在布鲁塞尔郊区的库瑞汉姆召开了一次集会，目的是评估本地区的牧羊犬。从参展的117只犬，阿道夫教授和他的评审团
总结出在布拉巴特(Brabant)省存在一种牧羊犬的类型。它们尽管在被毛的纹理、颜色和长度上有差异，但在解剖学上是可以确认为同一类型的。阿道夫教授描述的是一种体型为方形，中等大小并且有合适的三角形耳朵和褐色眼睛的牧羊犬。这个俱乐部在其余八个省举办了类似的展览，得出了相似的结论。1891～1901年间，圣休伯特皇家协会将比利时牧羊犬作为一个品种登记在册，同时社会各界也为制定标准，改良品性，举办犬展而努力。
长毛的黑比利时牧羊犬的存活至今归功于鲁塞尔城外的饭店老板同时又是Chateau Groenendael主人的尼可拉斯诺斯。他购买了被认为是这些长毛黑犬之鼻祖的“Picard d'Uccle”和“Petite”，还建奇了一个兴旺的犬场。这个犬场可追溯到1893年，也就是比利时牧羊犬俱乐部接受关于比利时牧羊犬最初标准的那一年。“Picard d'Uccle”与“Petite”联姻，生下了优秀的后代“pitt、“baronne”和“duc de gronendael”。它还和它的女儿及本区域的其他犬养育出了历代，形成了今天所见的血统谱系。这个谱系形成了这些美丽的黑色长毛牧羊犬的基础；1910年，官方为之定名为“Groenendael”。
比利时牧羊犬被确定为一个品种之后，人们对于它们的兴趣与日俱增。第一世界大战之前，尽管仍被称为放羊犬或牧羊犬，Groenendael已经是一种多种功能的犬，加之良好的智力和易驯服的特性，可用于多种用途。巴黎警方在20世纪的最初10年使用过这种犬；1908年，纽约警方引进了4只比利时牧羊犬与美国本地的Groenendael协同工作。
在那个时代，Groenendael被比利时海关用于边境巡逻，并因为在抓捕走私中的表现而倍受赞扬。Groenendael成为了入牧犬、看家犬、忠诚的伴侣。无论国际还是地方，它们在流行于欧洲的追踪比赛中成为了杰出的参加者。一头名为“Jules de Moulin”的Groenendael犬展示了这种多方面的能力：1908年，它在法国举行的反追踪比赛中取得了世界冠军并在1909、1910和1912年均获此殊荣，它还在1909～1912年连获四届在比利时和巴黎举行的警务追踪比赛中获得国际冠军。
第一次世界大战期间，比利时牧羊犬在战场上被用作送信犬、救护犬，甚至用来运送重机枪，从而也使它们倍受瞩日。尽管在1911年就在美国首次注册，但它们是在战后成名的。美国比利时牧羊犬俱乐部在1919年成立，1920
