Początki (1899-1920)
Klub został założony w 1899 roku, pod nazwą Riverside AFC , po spotkaniu w domu Bartleya Wilsona w miejscowości Cardiff[5]. W roku 1905 Cardiff otrzymał status miasta od króla Edwarda VII, w wyniku czego klub zwrócił się do Południowej Walii i Monmouthshire Football Association o zmianę nazwy na Cardiff City, ale prośba ta została odrzucona. Dopiero w 1908 roku drużyna dostała pozwolenie na zmianę tej nazwy[4]. Przez następne dwa lata, Cardiff rozgrywał mecze towarzyskie z najlepszymi brytyjskimi drużynami, w tym z Middlesbrough F.C., Bristol City i Crystal Palace, a mecze rozgrywane były na różnych boiskach w miejscowości Cardiff i pobliskich miastach. Ostatecznie klub zabezpieczył grunt pod budowę własnego stadionu, przeniósł się na Ninian Park w 1910 roku.
Cardiff dołączył do Southern Football League[6] , a pierwszym trenerem został Davy McDougall[7]. Ukończyli sezon na czwartym miejscu w pierwszym roku w lidze, ale zarząd postanowił zwolnić McDougalla, i zastąpił go Fredem Stewartem, który wcześniej miał doświadczenie menedżerskie w Stockport County. Stewart zdecydował się na bardziej profesjonalne podejście, podpisując kilku graczy z doświadczeniem piłkarskim, i poprowadził drużynę do awansu w swoim drugim sezonie, zdobywając tytuł drugiej ligi. Pozostali w pierwszej lidze przez następną dekadę, dwukrotnie kończąc w pierwszej czwórce, chociaż liga została zawieszona z powodu wybuchu I wojny światowej w latach 1915-1919.
Okres międzywojenny i II wojna światowa
W 1920 roku klub złożył pozytywną aplikację, aby dołączyć do Football League i został umieszczony w drugiej lidze na sezon 1920-21. Stewart sprowadził kilku zawodników, dwukrotnie bijąc rekord transferowy klubu. Był to Jimmy Gill, oraz Jimmy Blair. Pierwszy mecz rozegrali 28 sierpnia 1920 roku, pokonując Stockport County 5:2, a sezon zakończyli na drugim miejscu, co skutkowało awansem[8]. W 1925 roku Cardiff City po raz pierwszy zagrał na stadionie Wembley, rozgrywając finał Pucharu Anglii, przegrywając 0:1 z Sheffield United. W dzień Świętego Jerzego, 23 kwietnia 1927 roku, Cardiff stał się pierwszym klubem z poza Anglii, który wygrał Puchar Anglii pokonując Arsenal 1:0 w finale. Klub wygrał także Puchar Walii w 1927 roku pokonując Rhyl 2:0 i zdobył FA Charity Shield po pokonaniu amatorskiej drużyny The Corinthians 2:1 na Stamford Bridge. Jednak coraz większy kryzys, sprawił, że po zwycięstwie w Pucharze Anglii, drużyna spadła w sezonie 1928-29, mimo że stracił najmniejszą liczbę bramek w całej lidze, i dwa lata później doznał kolejnego spadku, po raz pierwszy od czasu wstąpienia do Football League. Po zakończeniu sezonu 1932-33 na 19. miejscu w ligowej tabeli, menedżer Fred Stewart złożył rezygnację ze stanowiska po 22 latach. Cardiff pozostał w trzeciej lidze Południowej do czasu zawieszenia Football League w związku z wybuchem II wojny światowej.
Po II wojnie światowej (lata 1945-2000)
W swoim pierwszym sezonie od powrotu do Football League, Cardiff ukończył sezon 1946/47, jako mistrz trzeciej ligi Południowej pod kierownictwem nowego menedżera Billy’ego McCandlessa i wrócił do drugiej ligi. McCandless wkrótce opuścił klub i został zastąpiony przez Cyryla Spiersa, który doprowadził drużynę do awansu w sezonie 1951-52, a także po raz pierwszy od 23 lat przywrócił klub na najwyższy poziom rozgrywkowy w Anglii. Jednak pomimo spędzenia pięciu sezonów w pierwszej lidze, zespół nieustannie walczył o utrzymanie i ostatecznie spadł w 1957 roku. Uzyskali kolejny awans dwukrotnie w latach 1960-1966, w międzyczasie grając na zapleczu pierwszej ligi. W latach XX. wieku, Cardiff po raz pierwszy zakwalifikował się do europejskich rozgrywek dzięki triumfie w Pucharze Walii. Pierwszy mecz na arenie międzynarodowej odbył się w rozgrywkach Pucharu Zdobywców Pucharów w sezonie 1964-65 przeciwko duńskiej drużynie Esbjerg fB. Walijczycy awansowali do ćwierćfinałów, zanim zostali wyeliminowani przez Real Saragossa. Pomimo dobrych wyników w Europie, zespół wciąż walczył w rozgrywkach ligowych pod wodzą Jimmy’ego Scoulara, zajmując 20 pozycję w drugiej lidze. Dwa lata później drużyna dotarła do półfinału Pucharu Zdobywców Pucharów, po zwycięstwach nad Shamrock Rovers, NAC Breda i Torpedo Moskwa. W sezonie 1970/71 Cardiff dotarł do ćwierćfinału tych rozgrywek, gdzie zmierzył się z hiszpańską drużyną – Realem Madryt. Pierwsze starcie miało miejsce na stadionie Ninian Park, gdzie 47 tysięcy kibiców oglądało jedno z najsłynniejszych zwycięstw w historii Cardiff, jednak zostali wyeliminowani, przegrywając w rewanżu 0:2. Klub grał w drugiej lidze przez 19 z 20 sezonów w latach 1962-1982, ale w sezonie 1975/76 nie udało się uniknąć spadku do trzeciej ligi na jeden sezon. Zostali zdegradowani do czwartej ligi w sezonie 1985-86, i pomimo dwukrotnego powrotu na wyższy poziom rozgrywek w 1996 roku, sezon ukończyli na 22 miejscu w tabeli. W 1995 roku, Cardiff i inne walijskie kluby rywalizujące w ligach angielskich otrzymały zakaz udziału w Pucharze Walii przez Football Association of Wales.
Od 2000 roku
W sierpniu 2000 roku, Libański biznesmen Sam Hammam przejął kontrolę nad klubem[9]. Wkrótce Hammam kontrowersyjnie zobowiązał się, że wszyscy kibice klubu poprą jego pomysł, zmieniając nazwę klubu na „The Cardiff Celts”, a także inne barwy klubowe, jakimi miały być kolory: zielony, czerwony i biały[10]. Jednak po długich rozmowach z seniorami i fanami zdecydował, że najlepszym wyjściem jest zmiana herbu, a nie nazwy klubu. Nowy projekt herbu zawierał bluebird z Cardiff City przed flagą Świętego Dawida, a na górze widniał przydomek drużyny[11]. Hammam zainwestował bardzo dużo pieniędzy w zespół, finansując transfery kilku nowych graczy, a w 2003 roku udało się wywalczyć awans do Division One po 18 latach nieobecności. W dniu 9 marca 2008 roku klub po 81 latach awansował do półfinału Pucharu Anglii, pokonując Middlesbrough 2:0. W finale ulegli Portsmouth 0:1.
W maju 2010 roku. Maleian Datuk Chan Tien Ghee objął funkcję prezesa klubu, a Vincent Tan również dołączył do zarządu. W następnym roku klub mianował Malky’ego Mackaya na stanowisko trenera, który po raz pierwszy w historii klubu awansował do finału Pucharu Ligi Angielskiej. W następnym sezonie Cardiff zdobył tytuł mistrzowski Championship, a po raz pierwszy uzyskał awans do Premier League, wracając na szczyt po 52 latach. W dniu 18 sierpnia 2013 roku, klub rozegrał pierwszy mecz w Premier League z West Hamem, przegrywając 0:2. 27 grudnia 2013 roku, Mackay został zwolniony przez Vincenta Tana i zastąpiony przez Ole Gunnara Solskjæra. Pomimo zmiany menedżera, drużyna została zdegradowana do Championship po zaledwie jednym sezonie. Sam Solskjær został zwolniony w dniu 18 września 2014 roku, a zastąpił go menedżer Leyton Orient, Russell Slade.
W październiku 2016 roku Neil Warnock został mianowany na trenera. W sezonie 2017/18 przywrócił drużynę do Premier League po czterech latach przerwy.