廣州市南武中學位于秀麗的珠江南岸、同福中路海幢公園旁。1901年春,在河南龍溪首約成立"群學書社",后轉遷于海幢寺園照堂,易名為"南武公學會"。"公學會"在園照堂附殿開一課堂,招收"公學會"同仁子女共12人就讀,取校名為"南武兩等小學堂"(這也是廣州歷史上第一間男女同校學習的學堂),這便是南武中學的前身。1905年3月3日"小學堂"開學,并向廣東省學務處呈請備案,1906年10月28日正式批準,首任校長為謝國華先生。
解放后于1952年學校由廣州市人民政府接辦,先后改辦 "廣州市財經技術學校"、"廣州市財政學校"。1954年復辦完全中學,定名為"廣州市第十九中學"。1960年經市政府批準,與"市33中學"、"龍溪南小學"兩校合并,定名為"廣州市實驗學校"(當時全國十間實驗學校之一)。"文革"期間學校易名為"廣州市第58中學"。1984年11月復名為"廣州市南武中學"。1996年2月學校被批準為"廣州市一級學校"。2002年12月評為“廣東省一級學校”。
學校以"南武"命名,其理由有:①"南武城"是周代文章典制,代表古代文明;②"南武"是廣東省城最古的名稱,是廣東人親手建立的名城;③"南武"二字最能代表粵人英爽、文明、勤勞、勇敢、堅忍等優良性格。