El hombre que infundía tanto respeto o temor que una red de colaboradores, entre ellos empresarios y políticos (como denunció el propio fiscal nacional antimafia, Pietro Grasso), lo mantuvo fuera de la cárcel 43 años empezó su carrera criminal en la década de 1950. Junto a Toto Riina y a Calogero Bagarella- se convirtió en el más fiel lugarteniente de Luciano Liggio, jefe de la mafia corleonesa.
Su llegada a la cúpula de Cosa Nostra se produjo entre finales de la década de 1970 y principios de la de 1980. Tras infiltrar a sus hombres de confianza y eliminar a todos los adversarios a golpe de kalashnikov, Provenzano y Riina se convirtieron en los "padrinos" absolutos de Cosa Nostra.
De Provenzano hablaron todos los pentiti (arrepentidos) de la mafia, desde Giuseppe Di Cristina, quien reveló la compleja relación de amor-odio que lo vinculó durante más de 25 años a Riina. Según el pentiti Gioacchino Pennino, Provenzano siempre tuvo un papel de primer plano en Cosa Nostra. Mientras Riina era el jefe militar, él era la "mente" política.
Relacionado: Cae el fantasma de Corleone