Rossi a Torino neveltje volt, 1982–1983-ban országos ifjúsági bajnokságot, 1984-ben a nagy presztízsű viareggiói tornát is megnyerte a „Bikák” fiataljaival. Néhány kisebb klubot érintve 1988-ban a Bresciához került, az acélváros csapatával megnyerte 1992-ben a Serie B-t.
Egy évvel később a Sampdoriához igazolt, ami óriási ugrást jelentett. A Samp, az előző fél évtizedet tekintve 1988-ban Olasz Kupa-győztes, a következő idényben újra Olasz Kupa-győztes, valamint KEK-döntős lett. 1990-ben megnyerte a Kupagyőztesek Európa-kupáját.
1991-ben aztán még nagyobb sikert ért el a gárda. Vujadin Boskov – az első bajnoki címet nyerő külföldi edző a calcióban Nils Liedholm 1983-as sikere óta – irányításával bajnok lett. A szerb edző mindössze ennyit engedett meg magának a bajnokság előtti nyilatkozatháborúban, hogy: „A Samp egyetlen vetélytársánál sem rosszabb!’’ Neki lett igaza!
Az 1990–1991-es bajnokság legjobb csapata ugyanis vita nélkül a Sampdoria lett. Nemcsak története első bajnoki címe miatt, amelyet megfejelt az Olasz Kupa döntőjébe jutással, hanem mert valamennyi vetélytársa közül a legegyenletesebb produkciót mutatta. Bár Ligurián (ebben a tartományban van Genova) kívül a Samp nem különösebben népszerű Itáliában, az mégis „általános” örömet keltett, hogy a bajnoki címre aspirálók közül Boskov csapatában játszották a legkisebb szerepet a külföldiek. Vagyis a Doria – a menők közül – a leginkább „olasz” csapat volt. A sérülése miatt az első hét mérkőzésről hiányzó Gianluca Vialli lett nemcsak a klub, hanem az egész bajnokság gólkirálya, 19 találatával. Roberto Mancininál – legalábbis a Guerin Sportivo című hetilap által összesített, saját, valamint a három legnagyobb sportnapilap értékeléseit tömörítő osztályozókönyve alapján – nem akadt jobb futballista a campionatóban. Gianluca Pagliuca végig szenzációsan védett, az Inter elleni „döntőn” még Lothar Matthäus tizenegyesét is kifogta.
A Sampdoria bajnokcsapatának tagjai voltak: Gianluca Pagliuca (32) – Moreno Mannini (26/2), Marco Lanna (26), Pietro Vierchowod (30/3), Srečko Katanec (26/2) – Fausto Pari (33), Alekszej Mihajlicsenko (24/3) – Attilio Lombardo (32/3), Giuseppe Dossena (34/1) – Gianluca Vialli (26/19), Roberto Mancini (30/12), valamint Giovanni Invernizzi (31/2), Ivano Bonetti (25), Marco Branca (20/5), Luca Pellegrini (15), Toninho Cerezo (12/3), Umberto Calcagno (2), Giulio Nuciari (kapus, 2), Michele Mignani (1).
Egy évvel később, 1992-ben, a Bajnokcsapatok Európa-kupája londoni döntőjébe jutott a Samp, s csak a hosszabbításban kapott ki a Barcelonától. 1993-ban kisebb hullámvölgyet ért meg, de 1994-ben ismét, hat éven belül harmadszor is megnyerte az Olasz Kupát.
A Sampdoria az 1993–1994-es idényben. Állnak, balról: Gullit, Marco Rossi, Platt, Pagliuca, Mancini. Elöl: Lombardo, Mannini, Evani, Vierchowood, Serena, Sacchetti.
Ennek a keretnek már Marco Rossi is tagja volt. Sven Göran Eriksson vezette edzőként a csapatot, Rossi 16 találkozón játszott. A legtöbbet játszók csapata így festett: Pagliuca – Mannini, Vierchowod, M. Serena, Sacchetti – Jugovics, Platt, Evani – Lombardo, Gullit, Mancini. A többiek közül Marco Rossi játszott a legtöbbet a kezdő tizenegyben, ha úgy tetszik ő volt az első számú tartalék.
A következő szezonban Walter Zenga volt már az első számú kapus, érkezett Riccardo Ferri és Szinisa Mihajlovics, Rossi már kevesebbet, „csak” kilenc mérkőzést játszott.
A sampos társak közül most Roberto Mancini az olasz szövetségi kapitány, Alberico Evani – nevét sokan ismerhetik a Milan rajongói közül is – az első számú segítő, de a stáb fontos tagja Attilio Lombardo és az 1993 és 1998 között ugyancsak a Sampban futballozó Fausto Salsano is, aki egyébként állomáshelyről állomáshelyre követi Mancinit, valamint kapusedzőként az akkori második számú kapus, Giulio Nuciari is.
Apropó, Mancini! Egyik fia, Andrea játszott a magyar élvonalban is, a Budapest Honvédban és a Haladásban is. Akkor szerződött az NB I-be, amikor Marco Rossi volt a kispestiek vezetőedzője.