明永樂年間形成村落，名灰堤（明天啟年間河間府經歷司經歷趙銘《天津衛屯墾條款·附圖》有“灰堤”，蓋取灰土河堤之意），後諧音改為灰堆（清道光年間的《津門保甲圖說》有“灰堆”）又有人稱其村名爲輝德村（見清道光年間的《津門保甲圖說》，蓋因求雅遂以音近字取此別名，此地後形成的市鎮也曾稱輝德鎮，民國《天津國民黨軍防禦配係要圖》便有輝德鎮，即灰堆鎮）。明代至清雍正三年九月卅日（年11月4日），屬河間府靜海縣（即原元代靖海縣）。
清雍正三年九月卅日（年11月4日），清廷將直隸省河間府天津州（清雍正三年三月初三年4月15日，將位於河間府靜海縣北直沽的天津衛順治九年由原天津三衛合併而來改制為河間府天津州散州）改為直隸省天津直隸州同時將靜海縣劃歸天津直隸州後，歷屬直隸省天津直隸州靜海縣、直隸省天津府天津縣（清雍正九年二月廿三年3月30日，升直隸省天津直隸州為天津府同時附郭新設天津縣同時靜海縣一部分本村即在此部分內劃歸新設的天津縣）。
民國，先後屬直隸省天津府天津縣、直隸省天津府、直隸省渤海道天津縣、直隸省津海道天津縣、直隸省天津縣、河北省天津縣、河北省天津行政區天津縣、河北省天津縣、河北省[第四行政督察區（非行政區）]天津縣、河北省[第四行政督察區（非行政區）]天津縣[“鄉區第五所”警區（非行政區）]、淪陷初期河北省淪陷區天津縣、日偽民國臨時政府（後改日偽華北政務委）偽河北省天津縣、偽河北省津海道天津縣、偽河北省直轄天津縣、偽河北省津海道天津縣、民國政府河北省[第三行政督察區（非行政區）]天津縣第九區灰堆鄉、民國河北省[第二行政督察區（非行政區）]天津縣第九區灰堆鄉、解放區中共華北（人民政府）行政區冀中（行政）區（八專區）天津縣、解放區中共華北（人民政府）行政區河北省天津專區天津縣第四區。
人民共和國建立後，先後屬河北省天津專區天津縣第四區（年12月，河北省天津專區天津縣縣委、縣政府辦公地址由鹹水沽遷往灰堆）、河北省天津專區天津縣第一區、天津直轄市天津縣第一區（河北省天津專區天津縣於年4月劃歸天津直轄市）、天津直辖市市區第六區（年10月天津縣第一區的灰堆、下河圈劃歸天津市區，灰堆劃歸第六區後的年5月，撤銷天津縣建置，建立津東、津西、津南、津北4個郊區。此前，灰堆已劃入市區第六區，位於灰堆的天津縣政府自然撤銷，但灰堆原天津縣政府所在地卻改為新成立的津東郊區政府，年，天津市東郊區政府從灰堆遷入張貴莊地區）、天津直轄市河西區、河北省轄天津市河西區、河北省轄天津市紅旗區、天津直轄市紅旗區、天津直轄市河西區。
灰堆村規模擴大後，其範圍內出現了小何莊（其爲臨近東側何莊的一里巷小片，故名）、田家臺（此里巷小片為一高臺，住戶主要為田姓，故名）、李家臺（此里巷小片為一高臺，住戶主要為李姓，故名）等新的居住里巷(小片)名。
灰堆村併入天津市區由街道管轄後，其所在地一帶習稱灰堆片、灰堆地區。
為民國河北省天津縣光復後於灰堆村一帶始設，隸屬民國河北省天津縣第九區，下轄灰堆、何家莊、宋家莊、黄家莊、盧家莊、李家樓、北馬集、南馬集、郭黄莊、上河圈、下河圈11個村。
（圖片源自網絡，版權歸屬原作者，此僅為引用）
“
”
灰堆鄉後也曾稱灰堆鎮（一稱輝德鎮）。
年，人民共和國天津直辖市第六區將灰堆村一帶的街道命名為灰堆街道。曾取消，後恢復。年，灰堆街道更名為柳林街道。
年4月，時河北省轄天津市的河西區（撤郊區後設的）設立毗鄰該區小站人民公社的灰堆人民公社。它是以國營天津造紙總廠為中心，包括灰堆地區的工業、農業、商業、文教衛生事業以及機關、郵局、銀行等十三個單位組成的工農商學兵五位一體和政社合一的人民公社。
年10月，時河北省轄天津市的南郊區建立長青人民公社（前身為河西區[撤郊區後設的]的三合一小站人民公社下轄的市內管理區），下轄位於河西區的灰堆、萬年紅、星光、東方紅、黑牛城、和平之路、西樓、東樓、掛甲寺、向陽、楊莊子等11個大隊（村）。後來長青人民公社改制爲長青農工商聯合總公司，年11月，津南區設區人民政府長青辦事處，為行政機構。長青農工商聯合總公司繼續保留，改為經濟實體。原長青農工商聯合總公司灰堆大隊及下轄組織成為長青辦事處下轄的灰堆管委會及灰堆社區。
以灰堆命名的還有（含曾有）灰堆第一小學、灰堆第二小學（後與灰堆一小合併）、灰堆第一中學、公交灰堆場站、公交灰堆中途站、公交灰堆南中途站、灰堆門診部、天津中國建設銀行灰堆分理處、天津農商銀行灰堆分理處、天津中國工商銀行灰堆分理處、天津市公路養路費征稽處灰堆征稽所等。
柳林野甿趙蘆邨
