Rumsfeld az Új-Mexikó államban található Taosban hunyt el.
Ő volt az Egyesült Államok történetének legfiatalabb, később pedig legidősebb védelmi minisztere: 1975 és 1977 között Gerald Ford akkori elnököt szolgálta, 2001 és 2006 között pedig George W. Bush elnök kormányának tagja volt.
Bush védelmi minisztereként eredeti terve az volt, hogy átalakítja a hadsereget, de erőfeszítését beárnyékolták a 2001. szeptember 11-i terrortámadások, majd az afganisztáni és az iraki háború.
Bush 2006 novemberében vált meg Rumsfeldtől, miután az amerikaiak szemében jelentősen csökkent a kormány népszerűsége az iraki háború elhúzódása miatt, és a kongresszusban a demokraták vették át az uralmat a félidős választásokat követően.
Rumsfeldet sokan bírálták, többek között John McCain néhai republikánus szenátor, aki azt mondta, hogy párttársa "a világ egyik legrosszabb védelmi minisztereként vonul majd be a történelembe".
Az amerikai szenátus 2008-ban emberiesség elleni bűncselekményekben való bűnrészességgel vádolta meg a volt tárcavezetőt az amerikai fogolytáborokban uralkodó állapotok miatt. Különösen az iraki Abu Graibban található börtön körüli botrány volt kedvezőtlen hatással Rumsfeld hírnevére, miután a védelmi miniszter személyesen adott felhatalmazást durvább kihallgatási technikák bevetésére a foglyokkal szemben.
Rumsfeld négy elnököt szolgált különféle beosztásokban, és csaknem 25 évet töltött az üzleti életben.