Alex,
Como a sua pergunta foi muito genérica e bem ampla, algumas considerações.
Para fotografia de flores e outros objetos estáticos recomendo o uso de um bom tripé e se possível um cabo disparador, tudo isto em conjunto com a técnica de MLU (mirror lock up).
O tripé vai lhe permitir utilizar ISO's baixos, pois poderá expor por mais tempo o objeto a ser fotografado. Com ISO's baixos temos menos ruído nas fotos.
O uso do cabo disparador + MLU fazem parte de técnicas para garantir nitidez nas fotos.
MLU é um recuros que algumas câmeras possuem que ao clicar para bater a foto, o espelho sobe, e depois clicar novamente para iniciar a exposição. Como isto eliminamos a vibração na câmera gerada pelo movimento do espelho. E o cabo disparador serve para eliminar a vibração na câmera que introduzimos ao pressionar o botão disparador da mesma.
Neste ponto vc deve somar técnicas de composição , domínio da profundidade de campo (ou DOF) e criatividade nas fotos, para saber posionar a plano do sensor paralelamente a um plano da flor a fim garantir que a flor esteja dentro da profundidade de campo ajustada. Ou se vc vai ajustar um profundidade de campo menor e ter uma maior área em desfoque. As combinações aqui são diversas e como disse vai da criatividade de cada um descidir quais elementos trabalhar.
Neste vc pode descidir se irá utilizar flash ou não, e mais opções são acrescentadas.
Fotografando flores no campo ou área externa, ainda tem a influencia do vento. Que pode exigir velocidades de obturador mais rápidas, então podemos aumentar o ISO para compensar, auxiliar a congelar o movimento com flash, emfim mais um gama de opções.
Insetos já é um pouco mais complicado, pois os mesmo podem movimentar bastane, tem a questão do quanto eles irão deixar vc aproximar.
Não é facil descrever uma receita de bolo para fotos de macrofotografia ou qualquer outro tipo de fotografia. O interessante é estudar a fotografia em si, entender os conceitos de ISO, abertura, velocidade e sua influencia, detalhes estes que um bom livro de fotografia pode ajudar bastante. E partir para a prática.
Selecione uma assunto, faça fotos variando a abertura, ISO, etc, e veja os resultados no computador.
Configurar a câmera no modo de prioridade de abertura ou no modo manual? Depende do que vc quer e da maneira que goste de trabalhar. Pode ser bem pessoal esta resposta.
Exemplo: a Canon EF 100mm f2.8 macro, (estou citando Canon pois é a que tenho) possui a indicação da distância de foco em metros e mais uma escala indicando o fator de ampliação. Como é uma lente 1:1. Posso colocar no foco manual, ajustar para 1:1 para ter a maior ampliação possivel e posionar a câmera em função disto.
Vou parando por aqui, pois não sei qual o seu conhecimento de fotografia, então poderei estar seguindo em um caminho cujas informações vc já conhece.
[]'s