高贵平1983年8月至1985年9月任铁四局团委书记。在任局团委书记期间，他主持组织全局团员青年广泛开展了“三学”（学整党文件、学路风、学先进）、“三赛”（文明单位、文明现场、文明宿舍竞赛）、“创三优”（优质服务、优良秩序、优美环境）活动；开展了“为重点工程献青春”、青工技术比武、学习文化技术和安全监督岗活动。做好学校团队工作，开展了学校团队“三化”（即：思想教育系统化、组织建设制度化、少先队活动自动化）建设活动。1984年，在重点工程建设中，积极主持组织团员青年开展“争当重点工程建设突击队（手），创青字号工程”和“为重点工程、重点企业献青春”青年突击活动。1985年3月，铁四局团委获共青团中央授予的“为重点工程献青春竞赛优胜单位”称号。1985年9月，共青团中央授予铁四局六处团委“新长征突击队”荣誉称号。
    1987年3月至1991年10月，高贵平相继担任铁四局六处党委副书记、党委书记，有效领导发挥了六处各级党组织的政治核心和战斗堡垒作用。与六处其他领导班子成员一起领导六公司优质高效地完成了当时参（承）建的芜湖枢纽小白杨村编组站、宣杭铁路、济青高速公路、上海地铁1号线等各项工程建设任务。

    1991年10月，高贵平任铁四局党委副书记。1997年12月，高贵平任铁四局党委书记。他认真主持抓好全局党建思想政治工作。按照中央统一部署，1999年、2000年组织引导全局各单位广泛深入地开展了以“讲学习、讲政治、讲正气”为主要内容的“三讲”教育活动。组织引导全局各单位开展了邓小平理论、“三个代表”重要思想等专题理论学习活动。加强基层党建思想政治工作。在青藏铁路建设中开展的“青藏高原党旗红”活动在青藏铁路全线、中国铁路工程总公司乃至全国都产生了较大影响，　并作为范例收录国资委编著的《国有企业党的组织建设》一书。创新党员教育管理，全面推行《党员证》制度，开展了“党员先锋工程”、“创岗建区”、“党员身边无事故”等活动。广泛开展爱企意识、忧患意识、团队意识、竞争意识教育；开展改革发展主题教育；开展“企业兴旺，员工富裕”发展目标教育，增强了广大员工的主人翁责任感和投身企业改革发展的积极性。加强典型宣传，数次召开全局性的劳动模范代表座谈会。  总结宣传了全国劳动模范刘志祥、   革命烈士王鹏飞、“生命保护神”丁太环、“全国学雷锋先进个人”吴涛、中央企业优秀党员熊选爱等一大批先进典型。认真落实稳定工作责任制，加强了对“法轮功”痴迷者和顽固分子的教育转化。联同企业行政，加强生产经营管理。按照当时上级组织要求，推行减员增效，仅1998年，全局员工总数就由上年末的39343人减至35072人。同时，认真做好了下岗分流和下岗员工再就业工作。抓好企业民主管理，于1999年制定推行了 《铁四局厂务公开工作实施意见》。做好贯标工作，1999年局及当时局属13个施工生产单位全部通过ISO9002质量体系认证。 
    建立现代企业制度是国有企业改革发展的方向，世纪之交，中铁四局在高贵平等企业负责人的直接领导下，按照党的十五届四中全会通过的《中共中央关于国有企业改革和发展若干重大问题的决定》，积极推行企业管理体制改革。2000年，中铁四局从一个传统的国有企业，向现代化的国有企业迈出了关键性的改制步伐。这一年，时任铁四局党委书记的高贵平也实现了他作为国有企业领导干部一次重要的角色转换。2000年4月28日，经国家工商局核准，“铁道部第四工程局”企业名称变更为“中铁四局集团有限公司”，同时核准以该公司为核心企业的集团名称变更为“中铁四局集团”。2000年6月23日，中铁四局集团有限公司召开首届一次董事会， 选举高贵平为董事长， 李中庸、 孟凤朝为副董事长。27日，“中铁四局集团有限公司”经安徽省工商局注册登记，领取了企业法人营业执照，企业类型为有限责任公司，法定代表人为高贵平，注册资本为960179亿元。 28日，“中铁四局集团有限公司”成立大会在集团公司文化宫隆重举行。 中铁四局完成公司治理结构改革，实现了企业管理体制的重大变革。同时，中铁四局按照现代企业制度要求，进行了组织结构、产业结构、队伍结构和资产结构的调整，促进了生产要素的合理配置。推行劳动、人事、分配“三项制度”改革，初步建立了干部能上能下、员工能进能出、收入能高能低的激励约束机制。不断推进员工医疗保险、养老保险、住房制度改革，逐步推行企业主辅分离、 
    辅业改制工作，剥离企业办社会职能。通过改制，企业焕发出强劲的发展活力。 
    高贵平等中铁四局历任党政主要领导一贯注重企业对社会责任的履行。1998年，全国多个省市发生了百年不遇的洪水灾害，高贵平领导全局员工群众积极参与抗洪抢险，捐款捐物，履行了中铁四局作为国有大型企业的社会责任。2003年，针对全国“非典”疫情，中铁四局严阵以待，拨付100万元专项费用，做好了“非典”防治相关工作。 
高贵平高度重视企业文化建设。在他的倡议下，中铁四局自2002年起，每两年举办一届企业文化节，每两年评选一次全局精神文明建设十佳人物，两项活动每隔一年交替开展。2002年10月，以“喜迎十六大，万人抒情怀”为主题，成功举办了集团首届企业文化节。2004年初制定《中铁四局集团企业文化建设指导意见》，编写《企业文化手册》，明确了企业文化建设的原则、指导思想、内容、形式和组织领导。 
    2004年3月，高贵平任中铁四局调研员。是年12月，光荣退休。 
    在高贵平任铁四局党委书记，中铁四局党委书记、董事长的六年多时间里。中铁四局在完成企业改制艰巨任务的同时，实现了持续稳定发展。圆满完成承（参）建的秦沈铁路、宁启铁路、朔黄铁路、洛湛铁路、渝怀铁路、赣龙铁路、水柏铁路、兰新铁路兰武二线、宝兰铁路二线、黎南铁路复线、粤海铁路跨海大通道、襄渝铁路扩能工程，上海地铁M8线、北京地铁8号线、深圳地铁5标段、安徽省宿州国家粮食储备库工程、黄山人行观光索桥等工程建设任务。2000年企业改制后，连年实现安全年。工程质量总体良好，创中国铁路工程总公司优质工程48项，省部级优质工程35项，国优工程16项，中国土木工程（詹天佑）大奖4项，全国用户满意建筑工程5项，国家市政金杯示范工程1项，全国优秀焊接工程3项。承建的昆山钞票纸厂主厂房工程、合肥市王小郢污水处理厂一期工程和芜湖长江大桥工程，分别获得建筑业最高奖——中国建筑工程鲁班奖。承建的西康铁路浐河特大桥获铁道部、共青团中央授予的“全国青年文明号”荣誉称号。员工收入稳步增长，由1998年人均6014元增加到2003年13016元。全局投入八千多万元用于员工住房建设，投入一亿多元用于员工的生活、文化、卫生“三工”建设，投入一千余万元用于困难员工生活补助和特困员工的生活保障，员工的生产、生活、卫生条件得到较大改善。中铁四局先后于2001年、2004年两次荣获全国“五一”劳动奖状；被评选为“全国优秀施工企业”、“全国重合同守信用企业”、“全国工程建设质量管理优秀企业”、“全国设备管理优秀企业”。 
    高贵平以高度的政治觉悟和卓越的领导才能，履行了一名国有企业领导干部的应尽职责，曾于2002年被评为中国铁路工程总公司劳动模范。 （文稿整理：王传七）