Falk se je rodil 16. septembra 1927 v New Yorku in odraščal v Ossiningu v zvezni državi New York. Pri treh letih so mu zdravniki zaradi raka odstranili eno oko. Ko je pričenjal svojo igralsko kariero, mu je njegov agent dejal, da zaradi očesa ne bo nikoli primeren za televizijskega igralca. Falk je bil kasneje dvakrat nominiran za prestižno filmsko nagrado oskar (za vlogi v "Murder, Inc." leta 1960 in "Pocketful of Miracles" leta 1961) ter osvojil pet televizijskih nagrad emmy.

Falk je policijskega poročnika Columba prvič odigral v filmu leta 1968, ki je bil tako uspešen, da so o čudaškem, malce zanikrnem, a briljantnem detektivu posneli tudi serijo, ki se je nadaljevala do leta 1978, po njeni zaustavitvi pa je Falk tu in tam posnel še kakšen film o Columbu, čigar zaščitni znak je bil njegov prevelik in pomečkan dežni plašč.