Le 1er RMSM est l'héritier de l'unité du même nom qui s'illustra dans l'armée d'orient en 1917, en recevant cinq citations à l'ordre de l'armée. En 1940, stationné au levant, il sera réparti en deux groupes de reconnaissance de division d'infanterie (GRDI). Dès le 30 juin, le capitaine Paul Jourdier rallie avec son escadron la France Libre et rejoint le Soudan anglo-égyptien. Un mois plus tard, au camp de Moaskar, il constitue avec le BIM les Forces françaises libres du Moyen-Orient. Au début de 1941, les "Calots rouges*" de Jourdier sont engagés en Erythrée, avant de regagner la Syrie (mai-août 1941). Devenu Groupe de reconnaissance de corps d'armée (GRCA), à trois escadrons (dont deux à cheval), l'unité s'entraîne en vue de participer aux opération de Libye.

En décembre 1941, le 3e escadron - le seul équipé d'automitrailleuses - commandé par le capitaine de Courcel est mis à la disposition de la Brigade Kœnig et il sera utilisé dans les opérations contre les troupes de l'Axe en Libye. En mai 1942, les deux autres escadrons quittent la Syrie pour l'Egypte, où il seront affectés à la 2e BFL (général Cazaud). A l'automne, le 1er RMSM succède au GRCA ; constitué de quatre escadrons, il est confié au commandant Jean Rémy et va former, avec la 1re compagnie de chars du 501e RCC, deux groupes de reconnaissance sur le modèle des "colonnes volantes" britanniques (Flying Columns), sous les ordres des commandants Rémy et de Kersauzon : le GR 1 est dirigé sur Fayoum, le GR 2 sur Samaket-Gabalia, au sud du front de la VIIIe armée.

Le 25 septembre 1942, les deux GR reconstituent le 1er RMSM (commandant Rémy), qui va être engagé dans la bataille d'El Alamein, avant d'être rattaché, successivement, à la 44e DI britannique, à la 4e DI hindoue, puis à la 4e brigade blindée britannique. Au début de 1943, le RMSM prend part à la campagne de Tunisie**, où il est mis, le 12 mars, à la disposition de la "Force L" (l'ex-Colonne Leclerc, venue du Tchad). Après la chute de Tunis, il rejoint la 1re DFL au camp de Sabratha (Libye), avant de faire mouvement avec la 2e DFL (future 2e DB) au camp de Temara (Maroc), où il devient le régiment de reconnaissance de la 2e DB. Il comprend alors, toujours sous les ordres du colonel Rémy, six escadrons - dont quatre équipés d'automitrailleuses.

Le jour de Pâques 1944, il embarque pour l'Angleterre, d'où il partira, le 31 juillet, pour débarquer à Sainte-Mère-Eglise. Il accompagne ensuite la division Leclerc et se distingue au Mans, à Ecouché et à Argentan. Engagé dans les Vosges et sur le front de l'Atlantique, il traverse ensuite l'Allemagne et son 3e escadron sera parmi les premières troupes françaises à entrer au "Nid d'aigle" de Hitler à Berchtesgaden. Durant toute la campagne de France, les spahis auront capturé plus de 26.000 soldats ennemis et détruit vingt chars, vingt canons, 200 véhicules et même un avion. Il sera fait Compagnon de la Libération le 7 août 1945.