Friedrich Ahlefeldt blev født på godset Søgård øst for Kliplev, som hans forældre hver for sig havde delvis arveret til, og som det lykkedes Frederik Ahlefeldt at samle. Faderen ejede endvidere de to ladegårde Grøngrøft og Aarup.

Allerede som 9-årig mistede Friedrich sin mor, og da han var enebarn blev der intet sparet på hans opdragelse og uddannelse. Han kom over en 6-årig periode til at studere på universiteter i både Jena, Bologna, Paris og Amsterdam. Straks efter sin hjemkomst i 1651 begyndte han en karriere i samfundets højeste kredse og tæt på kongehuset via den tyskfødte dronning Sophie Amalie.

Friedrich Ahlefeldt pådrog sig i 1656 Frederik 3.'s vrede, da han uden svigerfaderens samtykke giftede sig med Margarethe Dorothea Rantzau, datter af hertugdømmernes mægtigste mand, grev Christian Rantzau til Breitenburg.

I 1662 købte han Gråsten og det tilhørende Fiskbæk af den fallerede hertug Philipp af Glücksborg. Gråsten Slot blev herefter hans foretrukne opholdssted.

Friedrich Ahlefeldt var en varm tilhænger af enevælden. Efter svigerfaderen grev Christian Rantzaus død i 1663 udnævnte Frederik 3. Ahlefeldt til statholder i hertugdømmerne, og i denne egenskab bidrog han i 1667 til udsoning mellem kongen og hertugen af Gottorp.

I tæt samarbejde med kongens halvbror Ulrik Frederik Gyldenløve og Peder Schumacher (Griffenfeld) udmanøvrerede han efter Frederik 3.s død i 1670 den magtfulde Christoffer Gabel til fordel for Griffenfeld. Selv fik Friedrich Ahlefeldt i denne periode afgørende indflydelse på udenrigspolitikken.

Efter Griffenfelds fald i 1676 blev Friedrich Ahlefeldt storkansler og støttede en forsigtig inddæmningspolitik over for Gottorp, der dog blev forladt straks efter Ahlefeldts død.

Friedrich Ahlefeldt er begravet i Tranekær kirke på Langeland.