Mafia II'nin hikayesi, sert bir drama ve Sicilyalı göçmenlerin oğlu Vito Scaletta'nın yükselişini konu alıyor. Oyun ilerledikçe Vito, Falcone suç ailesine katılıyor ve en yakın arkadaşı Joe Barbaro ile birlikte "kadrolu bir adam" haline geliyor.