1922年，张玺公派赴法留学。怀着“改造中国和世界”的雄心抱负，他决心踏踏实实地钻研一种专门的学问报效祖国。1927年，获里昂大学硕士学位，在瓦扬(C.Vaney)教授指导下从事后鳃类软体动物研究。1931年获博士学位。其间，与林镕、朱洗、贝时璋等发起创立中国生物学会，与齐雅堂等创立中国农学会。

1932年回国，开始了他献身祖国科学事业的辉煌人生。后任国立北平研究院动物研究所研究员、所长，兼任中法大学、云南大学、北京大学和山东大学教授。抗日战争全面爆发后，随所迁往昆明，1938年任所长。

1957年，出任中国科学院海洋研究所副所长。1958年，他与邱秉经一起筹建中国科学院南海海洋研究所，兼任所长，同时兼任中国科学院动物研究所研究员。

张玺毕生主要从事海洋软体动物和原索动物的研究，对经济贝类牡蛎、扇贝、珍珠贝的繁殖、生长和养殖方法的研究，为发展贝类养殖业提供了科学依据。另外，他还是我国后鳃类研究的奠基人。主要著作有《贝类学纲要》《中国北方海产经济软体动物》等。