1946年秋，谭平山从重庆回到上海，对蒋介石卖国、独裁的真面目看得更加清楚，他坚决拒绝参与国民党的一切活动，继续揭露蒋介石的反革命阴谋。因此，蒋介石想方设法要*掉谭平山。在这种情况下，谭平山在各方人士的善意劝告下，于1947年四五月间离开上海，出走香港。之后在香港，谭平山和李济深、何香凝、蔡廷锴、冯玉祥等人发起组织“中国国民党革命委员会”。

新中国成立后，谭平山迫切要求以中共党员的身份来工作。1951年，他曾致信主席，请求公开自己共产党员的身份。*当即复信，肯定了他的历史功绩，但说目前台湾还未解放，还有许多统战工作需要由他出面来做，暂时不宜公开他中共党员的身份，但可以看党内文件，可以过小范围的组织生活。

1956年春，谭平山病逝前三个月，再次请求中央公开自己共产党员的身份。当时中央派人答复说，还是按主席的指示办，为了党的利益，暂不公开。

1956年4月2日，谭平山在北京逝世，终年70岁。