Mariano Piccoli inizia a correre giovanissimo (7 anni) nel Moser Club di Trento per passione del padre, buon dilettante degli anni '60.
Da esordiente con la S.C. Lavis ottiene solo piazzamenti. Le prime vittorie arrivano solamente nel 1986 (16 anni!) da allievo con la squadra creata dal padre e che porta il nome del locale che gestisce: S.C. Pizzeria Rosalpina. Vince due corse: il Campionato Provinciale e quello Regionale. Al primo anno da junior ottiene quattro vittorie tra le quali il Campionato Provinciale; al secondo anno le vittorie sono nove e tra queste l'Internazionale di Monte Baldo Verona.
Passa dilettante e corre per la Bata Moser dal 1989 al 1991 ottenendo in tutto 13 vittorie, tra le quali spiccano le due tappe della Settimana Bergamasca Open e il Palio del Recioto.
Nel 1992 cambia squadra ed entra a far parte della Zalf Fior; vi rimane però solo sette mesi, poichè il 2 agosto 1992 debutta con la Mercatone Uno tra i professionisti nel Trofeo Matteotti, ma fa in tempo a vincere comunque 6 corse (fra queste due tappe al Giro del Veneto e una tappa al Giro d'Italia).
Dopo due anni ('93 e '94) di ambientamento sempre con la Mercatone Uno, nel 1995 passa alla Brescialat e ottiene la prima vittoria centrando la 15° tappa del Giro d'Italia con arrivo a Lenzerheide Valbella. Sempre nel 1995 vince una tappa alla Bicicletta Basca, due tappe al Giro di Polonia e la maglia verde del Gp della Montagna al Giro, classifica nella quale si ripete l'anno successivo, mentre nel 1997 è secondo.
Nel 1997, sempre in maglia Brescialat, vince una tappa alla Vuelta di Spagna ad Almendralejo ed il Gran Premio Industria e Commercio a Prato. Il 1998 è l'ultimo anno con la Brescialat e conquista una tappa al Giro d'Italia, a Cuneo, la maglia ciclamino e una tappa al Giro di Germania.
Nel 1999 passa alla Lampre e in questa stagione Mariano corre tutti e tre i grandi giri: Giro d'Italia, Tour de France e Vuelta di Spagna portandoli tutti a termine. Nel 2000 ottiene la terza vittoria in carriera al Giro d'Italia, a Milano, e due tappe alla Vuelta di Spagna. Rimane alla Lampre fino alla fine del 2004, ma non riesce più ad esprimersi ad alti livelli e per la stagione successiva non trova squadra. Nella primavera 2005 gli viene offerto un contratto dall'Acqua&Sapone ma la squadra non partecipa al Giro d'Italia e per Mariano non poter prendere il via nella sua corsa è un grosso dispiacere.
A fine stagione non riesce a trovare una squadra che gli permetta di correre il suo tredicesimo Giro d'Italia e dopo 14 stagioni da professionista preferisce abbandonare l'attività iniziando con entusiasmo la carriera di direttore sportivo. Accetta la proposta di Rino Baron per tornare alla Bata Seep, la società padovana che lo aveva lanciato, per porterà così la sua esperienza al servizio dei giovani della squadra under 23.