为人识，于是作《鹪鹩赋》以自喻。
名士阮籍见其所赋，慨然叹道：此王佐之才也！
渔阳太守鲜于嗣闻此，推荐张华就任太常博士；卢钦又荐于文帝司马昭，授佐着作郎。不久迁为长史，兼任中书郎。
晋武帝司马炎受禅即位，拜张华为黄门侍郎，封爵关内侯。
武帝曾问张华汉朝宫制及建章宫事，张华应对如流。又在地上画出建章宫图样，左右无不惊异。武帝大喜，谓张华可比春秋时郑国良相子产，拜为中书令，又加散骑常侍。
张华母丧，武帝下诏劝勉，并夺情不允回籍服孝，使身穿衰服，在朝助理政事。
如此恩宠自古少有，于是满朝文武皆为惊异赞叹。
武帝与羊祜秘谋伐吴之时，群臣多不赞同，贾充尤为力阻，惟张华极力附和。
咸宁五年，晋军大举伐吴。武帝遂命张华为度支尚书，且参与军中攻守决策。当时众军已发，伐吴一时受挫，未获成功。
贾充便急急跳出，奏道：请陛下腰斩张华，以惩其怂恿伐吴之罪。
晋武帝：伐吴大计出自朕意，张华只与朕相同而已。既云杀彼，则朕如何自处？
张华力排众议，终至灭吴一统天下，贾充愧恨难当。武帝遂诏封张华为广武县侯，增邑一万户，封一子为亭侯，食邑一千五百户，赐绢万匹。
张华受命撰订晋史，起草武帝诏书诰文，声名愈显，虽不列三公之位，已有三公威望。
荀勖乃世家大族，忌恨张华得宠，常于帝前谤之。
适逢武帝病重，问以托孤之事，张华荐齐王司马攸，不合帝意。荀勖于是趁机离间，使武帝调张华离朝，命为持节、都督幽州诸军事，又兼任护乌桓校尉、安北将军。
张华在任内招抚边民，北民皆感其恩德，马韩、新弥等化外二十余国皆遣使朝贡于晋。当时幽州边民臣服，疆域安宁，粮食丰收，兵马强壮。
张华成此大功，于是公卿朝议，欲请武帝召张华回京拜相，进号仪同三司。只因张华出身庶族，非世族门阀子弟，复为武帝宠臣冯紞所阻。
至武帝驾崩，晋惠帝司马衷即位，征召张华入朝为太子少傅。
张华与王戎、裴楷、和峤皆有德