A tveri kormányzóságbeli Prjamuhinóban látta meg a napvilágot művelt nemesi családban. A pétervári Tüzértiszti Akadémiát végezte el, a hadsereget néhány év után elöljáróival támadt konfliktusai miatt, betegségére hivatkozva hagyta ott. Moszkvában csatlakozott Nyikolaj Sztankevics értelmiségi köréhez, melyben későbbi szlavofilok, nyugatosok és forradalmi demokraták egyaránt megfordultak. A filozófia iránt vonzódó Bakunyin német bölcselők, Kant, Fichte és Hegel munkáit tanulmányozta, majd 1840-ben az író, filozófus Herzentől kapott pénzen Berlinbe utazott. A bürokratikus porosz államgépezetről és az oroszországi valóságról alkotott kritikus felfogása az ifjú hegeliánusokhoz közelítette, ekkor írt cikkei, brosúrái, levelei hozták meg számára az ismertséget. Ekkor jelent meg első forradalmi hitvallása, amely így végződött: "a pusztítás szenvedélye teremtő szenvedély".

1843-ban Svájcba költözött, ahol már nemcsak értelmiségiekkel, hanem a Weitling-féle kommunisztikus közösségek tagjaival is kapcsolatot talált. Az orosz kormány azonnali hazatérésre felszólító parancsát megtagadta, erre megfosztották nemesi címétől, állampolgári jogaitól és vagyonától, s szibériai száműzetésre is ítélték. A Párizsban letelepedő Bakunyin kapcsolatba került Proudhonnal, Marx-szal és lengyel emigránsokkal, az ő hatásukra kezdett érlelődni benne a gondolat, hogy a társadalmi forradalmat össze kell kötni a szláv nemzetek felszabadításával. Az 1848-as párizsi forradalom idején részt vett az utcai harcokban, majd útra kelt, hogy a forradalom tüzét német és lengyel földön is felszítsa. 1848 júniusában részt vett a prágai felkelésben és a cseh fővárosban rendezett szláv kongresszuson. A felkelés vereségét követően Németországba vonult vissza, s megírta Üzenet a szlávokhoz című kiáltványát, amelyben a Habsburg-monarchia megdöntése és a szabad szláv népek föderációja mellett érvelt.

1849 májusában a drezdai felkelés leverése után elfogták és halálra ítélték, de végül kiadták Ausztriának, Bécs pedig 1851-ben Oroszországnak. I. Miklós a Péter-Pál erődbe záratta és választás elé állította: vagy vallomást tesz, vagy élete végéig raboskodik. Így született meg Bakunyin híres Gyónása, amelyben megbánta "bűneit", bocsánatért esedezett, kifejtve egyúttal a forradalmi mozgalomra és a szláv kérdésre vonatkozó nézeteit.

A cár mégsem engedte szabadon, csak 1857-ben, Bakunyin családjának közbenjárására döntött a szibériai száműzetés mellett. Tomszkban elvette egy lengyel nemes lányát, majd rokonának, Kelet-Szibéria kormányzójának közbenjárására Irkutszkba került. Innen 1861-ben rejtélyes körülmények között megszökött, s Amerikán keresztül érkezett Londonba. Itt Herzen Kolokol című folyóiratának dolgozott, részt vett egy narodnyik szervezetben és az 1863-as lengyel felkelés előkészítésében. 1864-től négy évig Firenzében és Nápolyban élt, szocialista szervezeteket hozott létre. 1865-66-ban írta meg a Forradalmi katekizmust, lefektetve anarchista hitvallásának alapjait, követelve valamennyi vallási, politikai, gazdasági és hatalmi szerv eltörlését.

1868-ban anarchista titkos társaságot alapított, s csatlakozott a Marx és Engels által 1864-ben létrehozott I. Internacionáléhoz. Marx nézeteit ugyanakkor bírálta, az általa hirdetett proletárdiktatúrában egy másik népelnyomó rendszer, a centralizált, tekintélyuralmi munkásállam létrehozásának lehetőségét látta. Bakunyin a szociális forradalom fő feladatának a centralizált államok lerombolását tekintette, s felváltásukat a kommunista elveken alapuló közösségek szabad föderációjával. Zürichben kiadott Narodnoje Gyelo című folyóiratában államellenes programot tett közzé, követelve a magántulajdon eltörlését, a föld átadását a gazdák közösségeinek, a termelőeszközök átadását a munkások társulásainak, a nők egyenjogúsítását a férfiakkal, a házasság és a család intézményének eltörlését. Marxszal folytatott vitája 1872-ben jutott a kenyértörésig, s végül Bakunyint - ha csekély különbséggel is - kizárták az Internacionáléból.

Ezután Svájcban élt és szervezte az olaszországi forradalmi csoportokat. Itt adták ki 1873-ban Államiság és anarchia című művét, melyben összegezte államellenes eszméit, az emberek szabad, független, föderalista szerveződését hirdette a proletárdiktatúra ellenében, egyben végleg szembefordult korábbi demokratikus pánszlávista elképzeléseivel.

Utolsó éveiben egészsége és pénzügyi helyzete egyre romlott, barátai tartották el, de forradalmi hitét 1876. július 1-jén Bernben bekövetkezett haláláig megőrizte. Kollektivista anarchista nézetei nagy hatással voltak a dél-európai, valamint a szláv államok mozgalmaira, annál inkább, mivel ezekben az országokban még elevenen hatott a falusi földközösség hagyománya.