C'est à deux pas de l'usine de Sochaux-Montbéliard que Jean-Pierre Peugeot crée le F.C.S.M. en 1928, par amour du sport et volonté profonde d'offrir à la population un spectacle de bon niveau.

Très vite, Jean-Pierre Peugeot décide de créer une véritable structure, et, révolution à l'époque, de faire appel à des "professionnels". Dès 1932, le FCSM s'impose comme l'une des meilleures équipes françaises. C'est la coupe Peugeot, compétition informelle regroupant quelques clubs, qui donnera naissance en 1932 au Championnat de France.

Le FCSM va vivre des heures triomphantes : Champion de France en 1935 et 1938, second du championnat et vainqueur de la Coupe de France en 1937.

Après la guerre, le FCSM innove en formant de jeunes joueurs. En 1973, inauguration du premier Centre de Formation. Les résultats ne tardent pas : Bats, Genghini, Stopyra, Paille, Sauzée, Sylvestre font le bonheur du club. De 1973 à 1983, le FCSM ne quittera pratiquement jamais la première partie du tableau, accumulant quatre participations à la coupe de l'UEFA dont une demi-finale.