Pioli ma za sobą długą karierę piłkarską. Jest wychowankiem Parmy. Dzięki dobrym występom w Serie C oraz oraz młodzieżowych reprezentacjach Włoch, został dostrzeżony przez Juventus Turyn, w którym grał przez trzy lata. Z zespołem "Starej Damy" wywalczył mistrzostwo Włoch i Puchar Europy, choć nie był w nim podstawowym piłkarzem drużynyu. W dalszej części kariery najdłużej grał w ACF Fiorentina, w której spędził aż sześć lat. W 1993 roku spadł z tym klubem do Serie B, a po roku wrócił do Serie A. Karierę zakończył w Colorno.

 

W 1999 roku rozpocżął karierę trenerską, prowadząc juniorów w Bologni. W 2001 roku doprowadził zespół do lat 17 do mistrzostwa Włoch. Następnie był trenerem młodzieżowego zespołu Chievo Werona, a później rozpoczął pracę z seniorami Salernitana Calcio 1919.

 

Milan jest jego trzynastym klubem w trakcie 16-letniej kariery szkoleniowej, co pokazuje jak często Pioli zmieniał pracodawców. W 2006 roku będąc trenerem Modena FC oraz w 2010 roku prowadząc US Sassuolo grał w barażach o awans do Serie A, ale w obu przypadkach jego zespół odpadał w półfinałach. W sezonie 2016/17 pracował w zespole lokalnego rywala - Interze Mediolan i sam określił się jako... kibica tego klubu. W ostatnich dwóch latach prowadził Fiorentinę. 

 

Na stanowisku trenera Milanu Pioli zastąpił zwolnionego Marco Giampaolo - włoskiego trenera szwajcarskiego pochodzenia, który funkcję szkoleniowca "Rossonerich" objął w czerwcu po Gennaro Gattuso.

 

Zdaniem dziennikarzy "La Gazzetta dello Sport" zmiana trenera i ewentualna zmiana systemu gry może być dobrą wiadomością dla Krzysztofa Piątka, który u Giampaolo zatracił ostatnio skuteczność.