Duchovny se je rodil na današnji dan leta 1960 v New Yorku. Njegov oče je jud, ki je migriral iz Rusije, njegova mama pa je luteranka s Škotske. Zanimivost Duchovnyja je ta, da je bil svoje celotno življenje obkrožen z znanjem. Njegova mama je bila učiteljica, oče pa novinar in publicist. Vse skupaj je botrovalo, da se je tudi sam izobrazil. Najprej je obiskoval srednjo šolo v Manhattnu in se kasneje vpisal na Princeton, kjer je tudi diplomiral iz angleške literature. Kasneje se je vpisal na Yale, kjer je naredil magisterij iz istega področja. Zatem je hitro nadaljeval z doktoratom. Tema njegovega doktorskega dela je bila Magija in tehnologija v sodobni poeziji in prozi, ki pa ga še ni končal. Tudi sam je pisal poezijo, za kar je bil nagrajen s strani akademije ameriških pesnikov.

Preden je začel s svojimi veliki vlogami, je najprej snemal reklame, nastopal kot statist v manjših nadaljevankah in filmih ter bil govorec v erotični nadaljevanki Red shoe diaries. Leta 1992 je sprejel vlogo v Rollija Totheroha, agenta v biografskem filmu Chaplin, istega leta pa je David sprejel vlogo, ki mu je spremenila življenje. Kljub temu, da je kasneje vedno veljal za igralca v nadaljevankah, si je z vlogo Briana Kesslerja v filmu Kalifornija prislužil zlati globus. To pa je tudi bila ključna vloga za kasnejšo kariero.

Njegova filmska kariera se je kasneje malce upočasnila. Leta 1993 je v glavni vlogi uprizoril posebnega agenta Foxa Mulderja v Dosjejih X. Ta je z Dano Scully pomagal rešiti uganke o paranormalnih dohajanjih po Ameriki. Nadaljevanka si je nemudoma prislužila naziv kultne, na sporedu je bila skoraj deset let, produkcijska hiša Fox pa je z njo prvič dosegla takšne velike uspehe v nadaljevankah. Duchovny si je s to vlogo prislužil zlati globus in dvakratno nominacijo za emmija.

Po končanih Dosjejih X je začel novo uspešno nadaljevanko

Njegova tretja največja vloga pa je Hank Moody v Kaliforniciranju. Nadaljevanka je bila takojšen uspeh. Zgodba govori o pisatelju, ki želi nadaljevati svojo kariero. Medtem želi rešiti svoj odnos s partnerico in hčerko. Na poti pa mu načrte križajo alkohol, droge in obsedenost z ženskami. Igralec si je s to vlogo prislužil zlati globus, z vključno štirimi dodatnimi nominacijami za to prestižno nagrado. Poleg glavnih vlog se je 52-letni Duchovny pojavljal tudi v stranskih vlogah v številnih drugih znanih nadaljevankah, kot so Fraser, The Simpsons in Sex v mestu.

Leta 1997 se je poročil z igralko Teo Leoni, s katero ima dva otroka. Leta 2008 sta se ločila. Duchovny je še vedno aktiven. Kaliforniciranje bo na sporedu še leta 2013. Očitno se bo igralec nekoliko odmaknil od nadaljevank, saj ravno zdaj zaključuje dva nova filma.