用竹作凉亭，唐代已有。诗人独孤及曾作有《卢郎中寻阳竹亭记》：“伐竹为亭，其高，出于林表。”到后来，桥凉亭亦有以竹为之者。《扬州画舫录》中载；“梅岭春深即长春岭，在保障湖中。岭在水中，架木为玉板桥，上筑方亭。柱、栏、檐、瓦皆镶以竹，故又名竹桥。”
有些石亭，甚至简单到只用四根石柱顶起一个石质的凉亭盖。这种石块砌筑的凉亭，简洁古朴，表现了一种坚实、粗犷的风貌。然而，有些石凉亭，为了追求错彩镂金、精细华丽的效果，仍然以石仿木雕刻斗拱、挂落，屋顶用石板做成歇山、方攒尖和六角攒尖等等。
中国建筑是木结构体系的建筑，所以凉亭也大多是木结构的。木构的凉亭，以木构架琉璃瓦顶和木构黛瓦顶两种形式为常见。前者为皇家建筑和坛庙宗教建筑中所特有，富丽堂皇，色彩浓艳。而后者则是中国古典亭榭的主导，或质朴庄重，或典雅清逸，遍及大江南北，是中国古典凉亭的代表形式。此外，木结构的凉亭，也有做成片石顶、铁皮顶和灰土顶的，不过一般比较少见，属于较为特殊的形制。