利用隔油池与沉淀池处理废水的基本原理相同，都是利用废水中悬浮物和水的比重不同而达到分离的目的。隔油池的构造多采用平流式，含油废水通过配水槽进入平面为矩形的隔油池，沿水平方向缓慢流动，在流动中油品上浮水面，由集油管或设置在池面的刮油机推送到集油管中流入脱水罐。在隔油池中沉淀下来的重油及其他杂质，积聚到池底污泥斗中，通过排泥管进入污泥管中。经过隔油处理的废水则溢流入排水渠排出池外，进行后续处理，以去除乳化油及其他污染物。
隔油池多用钢筋混凝土筑造,也有用砖石砌筑的在矩形平面上，沿水流方向分为2～4格，每格宽度一般不超过6米，以便布水均匀。有效水深不超过2米，隔油池的长度一般比每一格的宽度大4倍以上。隔油池多用链带式的刮油机和刮泥机分别刮除浮油和池底污泥。一般每格安装一组刮油机和刮泥机，设一个污泥斗。若每格中间加设档板，挡板两侧都安装刮油机和刮泥机，并设污泥斗,则称为两段式隔油池(见图[两段式隔油池]),可以提高除油效率，但设备增多，能耗增高。若在隔油池内加设若干斜板，也可以提高除油效率，但建设投资较高。在寒冷地区，为防止冬季油品凝固，可在集油管底部设蒸汽管加热。隔油池一般都要加盖，并在盖板下设蒸汽管，以便保温，防止隔油池起火和油品挥发，并可防止灰沙进入。