汉献帝建安四年（公元199年），孙策让张纮前往许都，向汉献帝进贡。曹操想要安抚笼络孙策，
就上表汉献帝任命孙策为讨逆将军，封吴侯，并委任张纮为侍御史。期间，少府卿孔融等都待张纮十分亲善。
建安五年（公元200年）四月，孙策在出猎途中遇刺身亡，其弟孙权继位，统领江东。
曹操听说之后就想借机出兵，攻打江东。张纮进谏劝阻，表示在别人办理丧事的时候出兵，
不合符古代的道义；并且倘若不能成功，就是多了一个敌人；不如趁机厚待孙权。曹操听从了张纮的建议，
随即上表朝廷，任命孙权为讨虏将军，兼任会稽郡太守。曹操想要借助张纮劝降孙权，让他归附朝廷，于是就委任张纮为会稽郡东部都尉。
当时曹操担任司空，想要笼络张纮，不仅对他赞许有加，还给他改号加封，礼聘为幕僚，
后来还任命张纮为九江郡太守。但是张纮怀念旧主孙策的恩德，不愿背叛，不久就称病辞官。
张纮从京城回到吴郡，吴太夫人认为孙权还太过年轻，就委托张纮与张昭共同去辅佐他。
张纮思虑深刻，发现有缺漏就立即补救，凡是自己知道的事情都认真处理。孙权后来又派张纮去扬武都尉董袭的部下就职，
有人认为张纮本来受到曹操的委任，担心他另有意图，孙权却并不在意。
建安十四年（公元209年），孙权领兵包围合肥。张纮被任命为将军府长史，随军征战。合肥久攻不下，
孙权想要亲自率军破敌。张纮进言表示，兵器乃是凶器。战争本是危险之事，现在孙权仗着强盛的勇气，
轻视强暴的敌人，三军将士，无不为他担心。孙权亲自冲锋陷阵，固然能斩杀敌军大将，
拔下他们的军旗，威震疆场，但这是偏将的指责所在，而不是一个主将该做的事。张纮希望孙权能压抑住孟贲、
夏育一般的勇气，而致力于皇图霸业的建立，争夺天下。孙权听了，这才决定撤兵，不再执意领兵作战。
到了第二年，孙权又要出兵。张纮劝阻他，自古以来秉承天命为帝王的君主，虽有神明庇佑，
得以传播民政德泽，但是也要借助军事成就树立威望。只不过必须看准时机而后动，才能真正取得成就，
树立威风。如今孙权碰上四百年一次的天下厄运，已经建立起了扶助汉朝社稷于危亡的功绩。
倘若能暂且关心军队，让将士们休养生息，开拓荒地，加强农业生产，并举用贤才，推行宽和优惠的政策。
顺从天意，在适当的时候再站出来讨伐奸凶，这样就能不使军队疲于奔命而把天下平定。孙权再次听从了张纮的劝告，停止出兵。
黄龙元年（公元229年）四月，孙权登基为帝，建国号为吴。
初，张纮认为秣陵县（今江苏省南京市）山川雄伟，地理位置优越险要，提议孙权作为治所；
等到刘备向东经过秣陵的时候，他也劝孙权据有这块地方，孙权于是建造石头城。同年九月，孙权在张纮建议下迁都秣陵，并改秣陵为建业。