No método de detecção da inclinação o cantilever é movimentado por um elemento piezelétrico a uma amplitude típica da ordem de 1 a 10 nm, a uma freqüência fixa, perto da freqüência de ressonância. A variação da amplitude ou o deslocamento de fase da vibração, resultante da interação ponteira amostra, mede-se com um sensor de deflexão (em geral um interferômetro ótico) e um amplificador lock-in. Um loop de realimentação ajusta a separação entre a ponteira e a amostra mantendo sempre um gradiente de força constante.
Na detecção por modulação de freqüência (FM) a amplitude de oscilação do cantilever é mantida por um loop de realimentação, usando o sinal do sensor de deflexão. As mudanças na freqüência de oscilação, resultantes da variação do gradiente de força, são diretamente medidas por um contador de freqüência ou um discriminador de FM. O equipamento do laboratório de Nanoscopia do CBPF não tem possibilides de fazer este tipo de medida.
Para cantilevers com k pequeno, o mínimo gradiente de força detectável está determinado pela amplitude de vibração térmica do cantilever. Esta amplitude de rms pode ser derivada do teorema de equipartição:
(k/2) <(Dz)2> = kBT/2 ;
[<(Dz)2>]1/2 = (kBT/k)1/2
onde T é a temperatura e kB a constante de Boltzman. Para uma constante de mola de 1 N/m, a menor amplitude de vibração térmica medível à temperatura ambiente, resulta aproximadamente 0,6 Å.
Para o método de detecção por FM, o mínimo gradiente de força detectável Fmin é dado por
Fmin = (1/A)(4k kB TB/w0Q)1/2 ,
onde A é a amplitude rms da oscilação do cantilever, Q é o fator de qualidade do cantilever e B é a largura de banda de detecção. Para atingir a mais alta sensibilidade de detecção possível para uma dada amplitude de oscilação A e uma dada largura de banda de detecção B, da equação anterior podem ser deduzidas as seguintes regras gerais.
À temperatura ambiente, o mínimo gradiente de força detectável, resulta da ordem de 10-4 a 10-5 N/m. Supondo uma lei de forças inversamente proporcional ao quadrado da distância e com sinal negativo, temos
½ F(s)½ = sF(s)/2.
Para uma separação ponteira-amostra s = 10 nm (100 nm), um gradiente de força F= 10-4 N/m (10-5 N/m) corresponderá a uma força de 5 x 10-13 N. Usando um cantilever com k = 1 N/m, esta força causará uma deflexão estática de apenas 5x10-3 Å, que será difícil de detectar com a maioria dos sensores de deflexão, ou seja, não influirá na detecção. Isto mostra que o método de detecção ac baseado na vibração do cantilever oferece uma vantagem significativa em relação à sensibilidade de detecção, se comparado com as medições das deflexões quase estáticas do cantilever, quando se estudam forças de longo alcance.