应该从源头上加以控制，大力开发和推广节能降耗的建筑新技术和新工艺，从而减少建筑垃圾的产生。在建筑物的设计过程中，考虑提高建筑物的耐久性，采用尽量少产生建筑垃圾的结构设计，使用环保型建筑材料，考虑建筑物将来进行维修和改造时尽可能减少建筑垃圾产生量，考虑建筑物在将来拆除时的再生问题。
建筑垃圾并不是真正的垃圾，而是放错了地方的“黄金”，建筑垃圾经分拣、剔除或粉碎后，大多可以作为再生资源重新利用如：废钢筋、废铁丝、废电线等金属，经分拣、集中、重新回炉后，可以再加工制造成各种规格的钢材。
大多数城市建筑垃圾堆放地的选址在很大程度上具有随意性，留下了不少隐患。施工场地附近多成为建筑垃圾的临时堆放场所，由于只图施工方便和缺乏应有的防护措施，在外界因素的影响下，建筑垃圾堆出现崩塌，阻碍道路甚至冲向其他建筑物的现象时有发生。在郊区，坑塘沟渠多是建筑垃圾的堆放地，这不仅降低了对水体的调蓄能力，也将导致地表排水和泄洪能力的降低。
绝大部分建筑垃圾未经任何处理，便被施工单位运往郊外或乡村，露天堆放或填埋，耗用大量的征用土地费、垃圾清运费等建设经费，同时，清运和堆放过程中的遗撒和粉尘、灰砂飞扬等问题又造成了严重的环境污染。