张居翰以养父荫入仕。中和三年入为学士院判官，迁枢密承旨、内府令，后出监幽州军，秩满诏归，节度使刘仁恭上表留之，这个经历倒是与留在李克用身边的张承业相同。

天复年间，在针对宦官的大屠杀中，张承业得到李克用的保护，张居翰则凭借刘仁恭的庇护，藏匿在大安山北面的溪涧中，成功避开了那场灾难。之后张居翰因看不惯刘仁恭的不思进取，荒淫无度，迁于沧州治所清临城居住。