浮式起重機一般由下部浮船和裝在浮船甲板上的上部建筑兩大部分組成。其中浮船用來支持起重機的自重和起吊的重量，再通過自身的船殼把它們傳遞給水面，使得浮式起重機能夠獨立地浮在水面上工作。此外，浮船還可以使起重機沿著水道從一個工作地點航行到另外一個工作地點，或者在同一個工作地點內做水平移動，以滿足起重機對準裝卸點或完成貨物水平移動的要求等。上部建筑是浮式起重機的起重裝置部分，用來裝卸或吊裝貨物。