目前現有三種基本操作模式，可區分為接觸式（contact）、非接觸式（non-contact）及輕敲式（tapping）三大類。接觸式及非接觸式易受外界其它因素，如水分子的吸引，而造成刮傷材料表面及分辨率差所引起之影像失真問題，使用上會有限制，尤其在生物及高分子軟性材料上。以下簡單介紹三種基本形式的基本原理：
（1）接觸式(Contact mode)：利用探針的針尖與待測物表面之原子力交互作用(一定要接觸)，使非常軟的探針臂產生偏折，此時用特殊微小的雷射光照射探針臂背面，被探針臂反射的雷射光以二相的photo diode(雷射光相位偵檢器)來記錄雷射光被探針臂偏移的變化，探針與樣品間產生原子間的排斥力約為10-6 至10-9 牛頓。但是，由于探針與表面有接觸，因此過大的作用力仍會損壞樣品，尤其是對軟性材質如高分子聚合物、細胞生物等。不過在較硬材料上通常會得到較佳的分辨率。
（2）非接觸式(Non-contact mode)：為了解決接觸式AFM 可能損壞樣品的缺點，便有非接觸式AFM 被發展出來，這是利用原子間的長距離吸引力─范德華力來運作。Non-contact mode 的探針必需不與待測物表面接觸，利用微弱的范德華力對探針的振幅改變來回饋。探針與樣品的距離及探針振幅必需嚴格遵守范德華力原理，因此造成探針與樣品的距離不能太遠，探針振幅不能太大(約2 至5nm)，掃描速度不能太快等限制。樣品置放于大氣環境下，濕度超過30%時，會有一層5 至10nm 厚的水分子膜覆蓋于樣品表面上，造成不易回饋或回饋錯誤。
（3）輕敲式AFM(Tapping mode)：將非接觸式AFM 加以改良，拉近探針與試片的距離，增加探針振幅功能(10～300KHz)，其作用力約為10-12 牛頓，Tapping mode 的探針有共振振動，探針振幅可調整而與材料表面有間歇性輕微跳動接觸，探針在振蕩至波谷時接觸樣品，由于樣品的表面高低起伏，使得振幅改變，再利用回饋控制方式，便能取得高度影像。Tapping mode AFM 的振幅可適當調整小至不受水分子膜干擾，大至不硬敲樣品表面而損傷探針，XY 面終極分辨率為2nm。Tapping mode AFM 探針下壓力量可視為一種彈性作用，不會對z 方向造成永久性破壞。在x y 方向，因探針是間歇性跳動接觸，不會像對Contact mode 在x y 方向一直拖曳而造成永久性破壞。但由于高頻率探針敲擊，對很硬的樣品，探針針尖可能受損