I Versailles-traktaten af 28. juni 1919 blev det fastsat, at "Grænsen mellem Tyskland og Danmark skal fastsættes i Overensstemmelse med Befolkningernes Ønsker". Samme princip blev i øvrigt anvendt fem andre steder i Europa, nemlig grænsen mellem Tyskland og Polen i Østpreussen og i Øvreschlesien (slettet efter 1945), grænsen mellem Østrig og Ungarn og mellem Østrig og Jugoslavien samt grænsen mellem Tyskland og Frankrig i Saarland. De tre sidstnævnter folkeafstemningsgrænser eksister fortsat.

Stemmeret til folkeafstemningernei Sønderjylland havde alle personer over 20 år, født i afstemningsområdet eller bosat der siden 1. januar 1900.

Området deltes i to zoner efter den såkaldte Clausen-linie, således at  Zone 1 betragtedes som en helhed, således at det fremtidige statsforhold bestemtes ved flertallet af stemmerne i hele området. Folkeafstemningen herom blev gennemført den 10. februar 1920. I Zone 2, som omfattede Flensborg og det såkaldte Mellemslesvig, gennemførtes afstemningen den 14. marts 1920, men her kommunevis.

Afstemningerne førte til en voldsom agitation, bl.a. gennem de såkaldte afstemningsplakater. Det danske statslige oplysningskontor lod trykke 107.700 plakater. og hertil skal lægges et betydeligt antal fra Mellemslesvigsk Udvalg. Fra tysk side blev der trykt ca. 200.000 plakater. Navnlig i Flensborg blev der udkæmpet en voldsom krig på plakater. Nogle af tidens bedste plakattegnere var i arbejde på dansk side, bl.a. Rasmus Christiansen, Thor Bøgelund og Harald Slott-Møller.

Selve inddelingen vakte stor diskussion, men blev fastsat i overensstemmelse med den såkaldte Aabenraa-resolution af 17. november 1918, som stort set følger den aktuelle grænse.

I Zone 2 var der 70.854 stemmeberettigede, hvoraf 64.524 afgav deres stemme, svarende til en stemmeprocent på 91. Afstemningsresultatet i Zone 2 var et tysk flertal på ca. 80% i Flensborg og stort set alle sogne. Stemmetallene var 51.724 tyske stemmer og 12.800 danske stemmer.