Après la défaite militaire et l’armistice du 22 juin, seule une poignée de volontaires décident de rester en Angleterre ; ils seront rejoints par quelques centaines d’évadés de France par des moyens de fortune (barques ou derniers bateaux quittant le continent, avions…). «Ils venaient un à un, individuellement, personnellement», écrira l’un d’eux, l’aviateur et futur écrivain Romain Gary. Beaucoup arrivaient par petits groupes, mais cela ne faisait pas encore une armée – ni même une «légion», selon le mot employé au cours des premières semaines pour qualifier la petite troupe venue se ranger sous la bannière de De Gaulle.

Les premières unités à rallier sont :

- en Angleterre, une partie de la 13e demi-brigade de Légion étrangère (13e DBLE), commandés par le lieutenant-colonel Raoul Magrin Vernerey (le futur général Monclar) et par son adjoint, le capitaine Pierre Kœnig (900 hommes environ) et une partie du 6e bataillon de chasseurs alpins (230 hommes) ; ces troupes ont participé à la campagne de Norvège et aux combats de Narvik (avril 1940). Il faut y ajouter des éléments d’une compagnie de chars de combat, des sapeurs, des artilleurs et près de 200 marins, qui constitueront le bataillon de fusiliers marins mis à la disposition des forces terrestres, commandés par le lieutenant de vaisseau Robert Détroyat. En tout, environ 1300 hommes, qui viennent tous de Norvège, où ils ont participé aux opérations contre les troupes allemandes.

- au Moyen-Orient, une compagnie du régiment d’infanterie coloniale qui se trouve au Liban, sous le commandement du capitaine Raphaël Folliot (120 hommes), et une compagnie d’un régiment d’infanterie coloniale cantonné à Chypre (350 hommes), sous le commandement du capitaine Jean Lorotte. Constitués en «bataillon d’infanterie de marine» (1er BIM), Lorotte et les «chypriotes» se rallient immédiatement à de Gaulle ; à la fin de juillet 1940, ils débarquent en Egypte, où ils seront rejoints par la compagnie Folliot, ainsi que par des légionnaires espagnols du 6e régiment étranger d’infanterie, des marins de l’escadre française d’Alexandrie (parmi lesquels le lieutenant de vaisseau Honoré d’Estienne d’Orves) et un escadron à cheval du 1er régiment de spahis marocains, commandés par le capitaine Jourdier.

- en Afrique Noire, les cinq régiments de marche des territoires de l’Afrique équatoriale française qui rallient la France Libre à la suite des «Trois Glorieuses» (26, 27, 28 août 1940) : BM1 (Gabon), BM2 (Oubangui-Chari, aujourd’hui : Centrafrique), BM3 (Tchad), BM4, BM5 (Cameroun). Ils apportent aux premières FFL le nombre qui manque encore : 16.500 hommes en tout (mais il leur manque l’entraînement et l’armement).

Le 28 juin, de Gaulle annonce : «La France Libre n’a pas fini de vivre. Nous le prouverons par les armes.» Quinze jours plus tard, il constatera, non sans optimisme : «Il existe déjà sous mes ordres une force militaire appréciable (…). Français, sachez-le, vous avez encore une armée de combat.» Le 14 juillet 1940, à Londres, il passe en revue les premières troupes dont il dispose en Angleterre : 1500 hommes en tout, mais c’est un début. À la fin de juillet, l’ensemble des FFL est estimé à 7.000 hommes – en majorité des jeunes qu’il faut encadrer, former, orienter, armer. Depuis le début du mois, de Gaulle a fait placarder une affiche qui proclame : «La France a perdu une bataille ! Mais la France n’a pas perdu la guerre !» Le 31 août, il s’embarque à Liverpool pour Dakar, en compagnie d’un corps expéditionnaire qui sera le noyau de la future 1re division française libre (1re DFL) ; l’objectif de cette opération conjointe franco-britannique (baptisée Menace) est de rallier par la persuasion l’Afrique occidentale française à la France Libre. C’est un échec total.

En septembre 1940, deux nouveaux territoires rallient la France Libre : Tahiti et la Nouvelle-Calédonie. Ils fourniront un nouveau bataillon de volontaires (600 hommes), le bataillon du Pacifique, formé et commandé par le commandant Félix Broche (qui rejoindra le Moyen-Orient en juillet 1941).