Prvu suprugu Mirtu Díaz-BalartFidel Castro prevario je s ljepoticom iz Havane Natalijom Revueltom, a drugu suprugu Daliju Soto del Valle prevario je s 'drugaricom' Celiom Sanchez, svojom osobnom tajnicom, koja mu je bila osoba od povjerenja dugih tridesetak godina.
Dalia Soto del Valle bila je najvažnija, ali i najmanje poznata Fidelova žena. Upoznali su se 1961. godine na jednom javnom događanju u pokrajini Villa Clara, a baš kao i njezine prethodnice, Dalia je Castra osvojila svojom ljepotom, plavom kosom i očima.
Nakon samo tri susreta, Fidel je predložio da se Dalia preseli u Havanu, gdje ju je diskretno smjestio u kuću na periferiji grada. Castro i Dalia uskoro su postali roditelji petero sinova, a svima su imena počinjala slovom 'A' - Alexis, Alex, Alejandro, Antonio i Angelito. Prva tri imena bila su varijacije imena Alexander, pseudonima kojeg je Castro koristio tijekom gerilskog ratovanja.
A onda je 1984. Castro saznao da ga Dalia vara s Jorgeom, članom pratnje. Jednog je dana Dalia poslala njihova službenog vozača Renéa da joj ode nešto kupiti, a za vrijeme njegova odsustva našla se s Jorgeom i zamolila ga da je odveze kod njezine majke. Kada se vozač vratio do njezine majke, vidio je Daliu kako pleše u dnevnom boravku s Jorgeom. Rekao je njezinoj baki, koja je otvorila vrata, da javi Daliji da je stigao, a nekoliko trenutaka kasnije, gospođa Castro pojavila se na vratima i upitala ga što radi ovdje jer ga nitko nije zamolio da dođe.
René je cijeli slučaj povjerio svom kolegi te se konzultirao s njime. Shvatili su da ako Fidel sazna za aferu, loše im se piše. Odlučili su otići Castru, a njihov privatni sastanak trajao je nekih pola sata. Castro im je tada naredio da sva njihova komunikacija s Dalijom od toga dana završava. Kubanski predsjednik mjesec dana nakon toga nije dolazio kući k Daliji, već je putovao zemljom i spavao u svojih dvadesetak kuća koje je posjedovao diljem zemlje. Svi su mislili da je njegov brak s Daliom gotov, no prevarili su se. Nakon četiri tjedna, bez upozorenja se vratio u Punto Cero, a njihov bračni život se nastavio kao da se ništa nije dogodilo.
Što se tiče Jorgea, on je preko noći nestao i nikada više nitko nije čuo za njega. A nije nitko ni pitao niti je želio znati.
Možda je Castro oprostio Daliji baš zato što je i sam redovito uskakao u krevete brojnih ljepotica. Naime, kubanski zavodnik nije stao samo na dvije ljubavnice. Navodno je Castro spavao s više od 35 tisuća žena, a svakog bi dana spavao s najmanje dvije žene - jednom za ručak i jednom za večeru, i tako dugih 40 godina. Da je to uistinu točno potvrdio je i njegov suradnik.