Otac mu je Srbin, a majka Čehinja. Iako rođen u Čikagu, odrastao je u obližnjem gradu Geriju, u Indijani. U životu je snimio 65 filmova, a neki od najpoznatijih su: „Tramvaj zvani želja“, „Na dokovima Njujorka“ i „Paton“. U Beogradu je glumio u filmu „Suton“. Značajna je i njegova uloga u TV seriji iz 1970ih, „Ulice San Franciska“. Maldenov otac, Petar Sekulović, napustio je rodno Podosoje kod Bileće i „trbuhom za kruhom“ došao u Čikago. Tu je rođen Mladen, kao najstariji od trojice braće. Njegova majka je bila Mini Sekulović, Čehinja, zaposlena u tekstilnoj industriji. U Holivudu je bio vrlo cijenjen; trač rubrike o Karlu Maldenu je uvijek bilo teško ili nemoguće sresti. Od malih nogu je govorio srpski. Rado je pričao o svojoj prošlosti i porijeklu. Spominjao je kako mu je otac radio težak posao u čeličani u Geriju, kao i on kasnije. I pored teškog rada, njegov otac je osnovao najstarije pjevačko društvo u Americi, zvano „Sokol Grupa-Branko Radičević“. Tako se mladi Malden još u porodici upoznao sa srpskom kulturom i običajima.
Malden, tada još uvijek Mladen Sekulović, napustio je Geri i rad u čeličani 1934. godine, radi pohađanja „Gudmenove škole“ u okviru „Gudmen teatra“ u Čikagu. Tada je promijenio ime u Karl Malden, na nagovor pozorišta. Nije imao dovoljno novca za školovanje, ali je ubrzo dobio stipendiju. Nastupao je u pozorištu 3 godine, a onda ostao bez posla i novca, pa se vratio kući. Otputovao je u Njujork 1937. i glumio u „Brodvej teatru“. Bio je kratko angažovan na radiju i dobio nezapaženu ulogu u svom prvom filmu They Knew What They Wanted. Nakon toga se pridružio „Grup teatru“, gdje je upoznao reditelja Elija Kazana, u čijim je filmovima kasnije stekao popularnost. Učestvovao je u Drugom svjetskom ratu i za to vrijeme dobio malu ulogu u predstavi i filmu američke vojske Winged Victory. Po završetku rata, dobio je još jednu malu ulogu u predstavi Truckline Cafe, sa tada nepoznatim Marlonom Brandom .
Karl Malden kao sveštenik Beri u filmu Na dokovima Njujorka (1954). Uspon u karijeri otpočeo je 1950. godine, ulogama u filmovima The Gunfighter i Pakao Montezume (Halls of Montezuma). U prvom filmu se pojavljuje u ulozi Meka (vlasnika bara), a u drugom u ulozi doktora Džonsa. Najveći uspjeh je postigao glumeći u filmovima režisera Elije Kazana. U filmu Tramvaj zvani želja (A Streetcar Named Desire) iz 1951. godine, glumi Miča (Harold Mičel), najboljeg prijatelja Stenlija Kovalskog (Marlon Brando), koji upada u romansu sa Blanš Diboa (Vivijen Li). Taj film mu je donio Oskara za najbolju sporednu mušku ulogu. Bio je takođe nominovan za Oskara za najbolju sporednu ulogu u filmu Na dokovima Njujorka (On the Waterfront) iz 1954. godine. Tu je glumio katoličkog sveštenika Berija, koji utiče na Terija Maloja (Marlon Brando) da svedoči protiv mafije. Ova dva filma sa njegovim nominacijama za Oskara, režirao je Elija Kazan, sa Marlonom Brandom u glavnoj ulozi. Baby Doll (1956) je zadnji film Elije Kazana u kojem je Karl Malden glumio. To je bila uloga Arčija, čoveka željnog moći i oženjenog tinejdžerkom koja mu zadaje probleme. Naredni filmovi koje je snimio, bili su između ostalih: Fear Strikes Out (1957), Pollyanna (1960), Jednooki Džek (One-Eyed Jacks 1961.), Birdman of Alcatraz (1962), Gypsy (1962), How the West Was Won (1962), The Cincinnati Kid (1965). U filmu Paton iz 1970. glumi generala američke vojske, Omara Bredlija. Veliku popularnost mu je donela TV serija Ulice San Franciska, koja se prikazivala od 1972. do 1977. godine. Glumio je policajca veterana, poručnika Majka Stouna. Majkl Daglas, koji se probio na glumačkoj sceni u ovoj seriji, glumio je njegovog mlađeg partnera Stiva Kelera. Karl Malden je ostavio traga i u jugoslovenskoj kinematografiji, glumeći u filmu Suton, Gorana Paskaljevića, iz 1982. godine. To je bila uloga srpskog imigranta u SAD, Marka Sekulovića, a film je snimljen na engleskom jeziku. Glumio je i u italijanskom filmu Mačka sa devet repova (Il gatto a nove code 1971), slepog čoveka (Franko Arno) koji razrešava ubistvo. Snimao je filmove sve do 1993. godine, kada se povukao. Posle toga se pojavio kao glumac još samo jednom, u 14. epizodi serije „Zapadno krilo“ 2000. godine, glumeći katoličkog sveštenika (Tomas Kavano). Bio je reditelj samo jednog filma — Time Limit (1957) — vezanog za Korejski rat, a režirao je i delimično The Hanging Tree (1959), zbog bolesti pravog reditelja (Delmer Dejvs). Nagradu za životno delo Američkog glumačkog udruženja uručio mu je Majkl Daglas 11. novembra 2004. godine.
Karl Malden se oženio Monom Grinberg 1938. godine. Upoznao ju je za vreme angažmana u „Gudmenovom teatru“. Sa njom je bio u braku preko 70 godina i dobio dvije kćerke, Monu i Karlu. U Kaliforniju je stigao 1960. godine. Živio je u blizini Santa Barbare. U glumačkoj industriji je bio 61 godinu, a 1993. se penzionisao. Pet godina je bio predsednik Filmske akademije u Los Anđelesu, a osnovao je i umetničku biblioteku u Beverli Hilsu, koja je najveća u Americi. Napisao je knjigu When do I start 1997. godine, uz pomoć svoje kćerke Karle. Karl Malden je umro 1. jula 2009. u Los Anđelesu u 97. godini života. Dugovečnost je nasledio od svoje majke (umrla u 102. godini), a iza sebe je ostavio ženu Monu, dvije kćerke, 3 unuka i 4 praunuka. U filmovima je koristio svaku priliku da spomene prezime Sekulović. Tako u filmu Paton, u ulozi generala Omara Bredlija kaže jednom vojniku: Dodaj mi taj šljem Sekuloviću! U filmu Dead Ringer, kao policijski detektiv kaže drugom detektivu: Daj mi moju kapu Sekuloviću! Takođe, u njegovom filmu Fear Strikes Out, pojavljuje se bejzbolski skaut Sekulović. Kao zatvorski čuvar u filmu Birdman of Alcatraz, čita listu zatvorenika, među kojima se nalazi i jedan Sekulović. Najpoznatiji primer toga je u TV seriji Ulice San Franciska, u ulozi policijskog poručnika Majka Stouna, kada zaposli pomoćnika Sekulovića. U jugoslovenskom filmu Suton je glumio Marka Sekulovića. Omiljeni glumci Karla Maldena iz prošlosti su bili Pol Mjuni i Edvard G. Robinson, a u šali je govorio da mu je pored njih omiljen i Karl Malden.

Највећи успјех је постигао глумећи у филмовима режисера Елије Казана. У филму Трамвај звани жеља (A Streetcar Named Desire) из 1951. године, глуми Мича (Харолд Мичел), најбољег пријатеља Стенлија Ковалског (Марлон Брандо), који упада у романсу са Бланш Дибоа (Вивијен Ли). Тај филм му је донио Оскара за најбољу споредну мушку улогу. Био је такође номинован за Оскара за најбољу споредну улогу у филму На доковима Њујорка (On the Waterfront) из 1954. године.