Károly Gusztáv herceg 1946. április 30-án született Stockholmban Gusztáv Adolf svéd királyi herceg és Szibilla szász–coburg–gothai hercegnő ötödik, utolsó gyermekeként. Édesapja 1947-ben halt meg, mielőtt trónra léphetett volna. Édesanyja, aki 1972-ben hunyt el, nem érte meg fia trónra lépését. A fiatal herceg nyilvános iskolába járt, gimnazista éveit a Stockholm melletti Sigtunában töltötte. 1966-ban érettségizett le, ezután két évig a hadseregnél szolgált, és körbeutazta a világot. Tanulmányait az Uppsalai Egyetemen folytatta, ahol közgazdaságot, 
politológiát és történelmet tanult. A herceg azonban nem jeleskedett tanulmányaiban, helyette sokkal szívesebben sportolt: evezett, búvárkodott, horgászott és lovagolt.
Az 1970-es évektől kezdve a trónörökös herceg egyre többet szerepelt a nyilvánosság előtt, például ő vezette a svéd küldöttséget az oszakai világkiállításon, és 1972-ben ő osztotta ki a Nobel-díjakat akkor már beteg nagyapja helyett. 1973. szeptember 15-én, huszonhét évesen lépett trónra, szinte azonnal nagy népszerűségre tett szert. 1972-ben, a müncheni olimpián a király megismerkedett Silvia Renate Sommerlath-tal, egy német üzletember lányával, aki Brazíliában nőtt fel és korábban egy rövid ideid légiutas kísérőként is dolgozott.
A polgári családból származó Silvia több nyelven beszélt (angol, francia, spanyol, portugál, olasz), Károly Gusztáv mellé osztották be hostessnek, első látásra beleszerettek egymásba, de sokáig titokban tartották, mert Silvia megígérte a Nemzetközi Olimpiai Bizottság elnökének, Lord Killanin-nak, hogy az innsbrucki téli olimpián is dolgozik majd fontos emberek segítőjeként. 1976. június 19-én volt az esküvőjük a stockholmi Storkyrkan katedrálisban. Silvia a világsajtó szerint „ az olimpiák legszebb, legokosabb hostesse”, a modern történelem legnépszerűbb királynője lett. Alapítványt hozott létre a mozgássérült gyerekek gyógyításáért, megtanulta a siketnémák jelbeszédét, hogy kommunikálhasson a beteg gyerekekkel. A királyi párnak három gyermeke született: Viktória (1977. július 14), Károly Fülöp (1979. május 13.), aki születésétől 1980. január 1-jétől svéd trónörökösnek számít, valamint Magdolna (1982. június 10.) hercegnő.
Érdekesség, hogy lányuk Viktória hercegnő, édesapjához hasonlóan szintén közembert választott párjául, személyi edzőjével Daniel Westlinggel 2010. június 19-én volt az esküvőjük.