La FNMJ est organisée autour de deux collèges correspondant aux activités de jardineries et de graineteries telles que définies aux articles 4 et 5 de ses statuts.

Les membres adhérents sont inscrits dans l’un ou l’autre des collèges suivant leur activité : le collège A regroupant la vente en graineterie et points de vente spécialisés divers, et le collège B regroupant la vente en jardineries et plants centers ainsi que leurs franchiseurs et groupements d’achats.

La FNMJ est gérée par un Conseil d’administration composé de 20 membres : un représentant des graineteries, quatre représentants de jardineries indépendantes, quinze représentants des «chaînes». L’équipe de la FNMJ est composée de deux permanents.