X 射線顯微鏡的成像原理與光學顯微鏡基本上是一樣的，遵從幾何光學原理，其關鍵部件是成像和放大作用的光學元件，在光學顯微鏡中為透鏡。由于X 射線的波長很短，在玻璃和一般物質界面上的折射率均接近1，故其成像放大元件不能用玻璃透鏡，一般用波帶片。
此外，它們同樣利用吸收襯度和位相襯度成像，同樣要求有強光源及像探測器。對光學顯微鏡，一般用肉眼觀察，故常加一目鏡起進一步放大的作用。在X 射線顯微鏡中當然不能用眼晴直接觀察，可用CCD 等面探測器探測。顯微鏡的重要性能指標兩者是相似的，有放大倍數、分辨力、像差等幾個。X 射線顯微鏡的一般構造:從強光源來的光束先經聚焦元件( 在此為毛細管透鏡聚焦) 使光斑尺寸變小、亮度加大，然后射到樣品上，透過樣品的光，再經成像放大元件( 在此為波帶片) 而到達探測器( 在此為閃爍體加CCD)。成像波帶片和探測器之間有一個Au 位相補償環，在相襯成像時用。如吸收襯度成像，可移走 。
聚焦放大元件
常用的聚焦鏡是多層膜反射聚焦鏡和波帶片，成像放大元件是波帶片。
1 多層膜反射聚焦鏡
多層膜是在基板上重復涂上兩種不同的材料制成的人造一維晶體。通常，一種材料是高原子序數的重金屬（H），另一種是低原子序數的非金屬（L）。這兩個層的厚度之和dH + dL構成這多層膜的重復周期d。dH 和dL 的大小與其比值及多層膜的性質有關。需按實驗的要求來設計、制造，因此品種很多。最簡單的是膜厚d 均勻的鏡子，但也有膜厚d 是逐漸變化的鏡子。鏡面可以是曲面，可以是一維彎曲的（如圓筒面、拋物面或橢圓面等），也可以二維彎曲的（如球面或橢球面等）。發散光源放在橢圓的一個焦點上，反射光聚焦在另一個焦點上。
這種一維彎曲的聚焦鏡只能在一個平面內起聚焦作用，得到的是線焦點，與此平面垂直的方向，射線仍保持原發散情況。若要兩個方向都聚焦獲得焦點可用兩種方法：一是在兩個方向上做二維彎曲；另一是將兩塊聚焦鏡轉過90° 先后放置，構成所謂的Kikpatrick-Baez (K-B)系統。K-B 系統有較多的實際應用。
2 Fresnel 波帶片
Fresnel 波帶片的原理早在100 多年前就已提出，但將其用于X 射線卻是近十幾年的事。是由兩套不同材料制成的同心圓環交替排列構成的，其中一種材料透光，另一種不透光。
波帶片稱振幅波帶片，其效率較低。為了提高效率，要將不透光的部分也變成透光這種波帶片稱相位波帶片。理想的相位波帶片，對一級聚焦，比振幅波帶片提高了幾倍。
3 毛細管
毛細管的聚焦作用是基于X 射線在毛細管內壁上的全反射，來改變X 射線的前進方向實現的。毛細管若是彎曲的，則會引導X 射線改變方向。毛細管不是等徑而是錐狀的，則X 射線就會在靠近出口處聚焦。它既可以聚焦單色X 射線，也可以聚焦白色X 射線。可聚焦的X 射線能量范圍約從200 eV 至80 keV。
利用單根毛細管聚焦X 射線束的實物在20世紀80 年代已被實際應用。美國康奈爾大學用硼硅玻璃做的一根毛細管，長為1.6 m，粗頭直徑為470 μm，細頭直徑為110 μm。此管的反射效率對8 keV 的射線是49%，對13 keV 的射線為54%，對20 keV 的射線為34%。反射效率低于100%是因為毛細管的表面并不平整，一定的起伏和粗糙度會損失部分射線。從單根毛細管射出的光束的直徑在出口處為最小，以后會慢慢增加。若毛細管出口直徑為r，則工作距離為20 μm 至100 μm，此值是比較小的。Heald 等研究過毛細管的長度、進出口直徑等參數與毛細管的透過率、強度增益倍數等性能的關系。
毛細管除了單根利用外，還可以集束應用。毛細管束，就是將數千根毛細管平行聚集在一起的元件，整體呈圓錐狀。一個由336 根直徑為17 μm 的玻璃毛細管組成的毛細管簇，可使光斑面積縮小至約1/20，功率密度可提高5 倍。
若入射光從毛細管錐體的大頭入射，則從小頭射出的光被聚焦；如入射光從較小的一頭進去，則從較大的一頭射出的光為平行光。與單毛細管相比，毛細管束的長度可以短，其焦點的面積會比單毛細管大一些，但焦點的位置離管口的距離也會大一些（有幾公分），使用起來比較方便。毛細管束還可以是中間大兩頭小的雙圓錐形。聚焦元件還有用單晶體做的和所謂的折射透鏡，不過，它們在X 射線顯微鏡中用得不多 。
光源
三類X 射線光源：實驗室X 射線光源(X 射線管)、直線加速器和同步輻射裝置。同步輻射是既近平行又高強度，且波長可調而成為最理想的光源。未見有將直線加速器用于X 射線顯微鏡，實驗室光源有使用的，但不能用焦點在10 mm×1 mm 左右的封閉X 射線管，可以用高功率的旋轉陽極X 射線管。另外，可用焦點尺寸在數十微米的細聚焦X 射線管，該管焦點小，但光亮度大，可達2×1011~1.2×1012 photos/s · sr，已接近同步輻射的光亮度，而且功耗很小，一般只有數十瓦，整機體積也小，適合作為實驗室X 射線顯微鏡的光源。此外，還有用等離子X 射線源的。
從光源發射出的X 射線一般需先經聚焦使光斑進一步縮小，光亮度進一步增加才照到樣品上。總的來說，實驗室光源的光亮度比較低，儀器的分辨力也低，故實驗室X 射線顯微鏡應用面不廣，而同步輻射顯微鏡卻發展得很快，做出了許多很有價值的工作。
探測器
各種探測器都可用，如感光膠片、影像板(Image plate, IP)、影像增強器、半導體探測器(CCD，電荷偶合器) 等。當然，宏觀用的和微觀用的在結構和參數上是不同的。
X 射線顯微鏡可按使用的X 射線能量的高低分為軟X 射線顯微鏡和硬X 射線顯微鏡。其構造基本相同，但研究對象有側重。前者較多應用于生物醫學體系，后者較多應用于材料醫學體系。如按其技術或原理來分類，則有透射式或掃描式顯微鏡、光譜顯微鏡、全息顯微鏡等多種 。