中山榄镇人士，侨居香港者，以当时估计，约有一万余人。然多各行其道，各事其业，平日既少往来，遇事无法联络，其隔阂情形，有如散沙。有鉴于此，乡彦何西林、黎瑞泉、麦任廷诸君，本其爱乡之热情，以组织同乡会为急务，经月余奔走呼吁，征得发起人40，续有52人响应，于1921年春，假座洋务职工联合会举行第一次筹备会议，筹商一切事宜。公推乡人谭伟生为临时主席，黎耀泉为临时司库，李达人为临时秘书，议决暂租大道中74号4楼洋务职工联合会为临时办事处，并通过何西林君所拟之筹办本会简章。于是年租得大道西61号3楼为会址，并于8月31日在会所举行成立典礼暨第一届董事就职。

　　该会发起人：麦杨阶、谭伟生、何西林、麦任廷、谭俊臣、黎瑞泉、黎耀泉、何月流、周颂居、何大经、李达人、李永镏、陆协棠、方霭云、许玉泉、谭勉愚、高文晃、吴兆衡、何瑞生、麦炳、李丽藻、张凤池、何广廷、李润生、刘汉桥、麦汉三、邓耀宗、麦鲁义、李炳南、黎蕃卿、李东田、李明生。

　　该会的宗旨是：联络同乡感情，共谋互助互利，团结乡人力量，致力服务社会，促进家乡发展，以尽敬恭桑梓之诚，联络内外乡亲侨团，以达声应气求，造福桑梓。

　　自成立以来，该会组织规模，由小而大，会务演进，历届理监事同人对社会公益，桑梓福利，或仗义疏财，或不辞烦劳，同心同德，内外兼顾，无论会务兴革与支援家乡建设，建树良多。

　　1931年，该会购入中环德忌笠街36号全座，为该会自置会所。光复后因会员日增，且楼龄已久，决定出售转购中环铁岗5号楼宇一间，因加建图则，未能批准，故租赁干诺中58号4楼为会址。1972年，为谋求永久会址之计，该会成立了筹建永久会所委员会，推举陈星海、李达人、文国材为正副主任，进行筹募工作，经多月时间，终购置皇后大道中270-276号中央大厦五楼B座为永久会址。1975年9月27日，举行新会址开幕典礼。

　　该会为稳定会基，充实经济力量，于1984年春，发动筹集资金，购置中环结志街5号铺位一间，又于1988年7月16日，购入大角咀嘉善街9号铺位一间，使该会会基日益巩固。1994年3月10日，购置小榄东堤路87号一座楼宇，共四层高（其后，为筹备教育基金会，造福乡亲学子，于2002年春，售出该幢物业，拨作教育基金之用）。2003年5月5日，该会教育基金会购入皇后大道中270-276号中央大厦5楼A座，出租收益将拨作教育基金之用。

　　为符合社团组织法例，该会于1982年办理改组注册为不牟利有限公司社团，在1983年1月，获当局批准，易名为“香港榄镇同乡会有限公司”。

　　1979年，祖国实施改革开放，该会同仁本着爱国爱乡热诚，促进家乡繁荣建设，成立响应家乡建设筹募委员会。推举李光理事长为主席，展开一系列工作，为家乡教育、医疗及各项有关公益福利事业建设，作出大量的贡献。惠及家乡的学校、医院、图书馆等。

　　香港中山榄镇同乡会属香港较老牌社团之一，以敦睦乡谊，造福桑梓，服务社会为宗旨，致力为在港乡亲谋求福利，同时热心社会公益事务，策动救灾和兴办教育等造福社会。光复前、后，组织白话剧团、“榄镇剧团”和“粤剧音乐组”，屡次为家乡小榄、港九各大慈善团体及政府义演，义唱筹款等。

　　2002年，庆祝成立八十周年钻禧纪念，李光BBS永远资政会长倡议成立“教育基金会”，将各方友好所馈赠之现金贺仪，全数拨归教育基金，为培育英才，造福乡亲学子之用。“教育基金会”现时筹得款项，已超过三百万元。“教育基金会”创办人李光。

　　该会历年均有举办会员春节联欢敬老大会，由1950年开始，数十年来，从未间断，会员乡亲参加人数与时俱增。

　　该会与家乡及海外各中山社团联系密切，自1979年开始，经常组团参与中山市及小榄镇举办的各项活动。每次海外社团邀请参加庆典，该会均组团前往祝贺，藉以加强联络，沟通乡情。