Eu recomendaria os lugares mais da "alma" da cidade, no eixo que vai do Belém, passando pela Mooca, Brás, Centro, Campos Elíseos/Luz, Barra Funda, até a Lapa. Expandindo um pouco pra Bela Vista/Bixiga.
Esse eixo é a 2a (ou 3a?) cidade, mas tem muito a ver com as levas de imigrantes que moldaram a cidade, especialmente os italianos. Pra bem e pra mal - mostram uma cidade muito mais caipira/provinciana e menos "pujante" que a parte do centro novo (República) até a Paulista. E no fim, a alma paulistana é, sem dúvida, "caipira metida".
Nesses bairros tem muita coisa perdida ou a perder-se em termos de história da cidade e, principalmente, da história dos habitantes que fizeram e fazem a cidade, e que fogem os lugares batidos - Paulista, museus, prédios como o Itália e Banespa... eu sempre acho que esses lugares "tradicionais" são a SP da Globo e de quem não conhece a cidade.
E principalmente, na maioria desses lugares, pode-se andar sem medo - ao contrário dos bairros metidos (Campo Belo, Moema, Brooklyn novo, etc).