Ciao,

quando salvi in TIF, controlla fra le opzioni avanzate di salvataggio, secondo me hai salvato senza alcuna compressione oppure hai dei dpi altissimi, motivo per cui hai ottenuto dei files abnormi.

Inoltre, sono curioso di conoscere la qualità dello shape che hai ottenuto col wintopo, non hai ottenuto uno shape molto "sporco"?
Se poi devi digitalizzare mappe catastali (che esigono una certa precisione), non so se questi software possano andare bene, personalmente sono abbastanza contrario al loro utilizzo, a meno che non hai un raster estremamente semplice, spesso si ottengono delle schifezze.