组织地方保险队。他和张作霖并非一家，更不是亲兄弟，只是名字偶然巧合，使张作霖很高兴，于是结成盟兄弟。
在作战中，张作相曾于枪林弹雨中只身救张作霖出重围。
因此两人结下患难之情，形同手足。后张作霖部在与金寿山部争斗中受挫，败走八角台（今台安县城）投奔张景惠的预警保安队，并被推为首领。
民国成立后，张作霖部改编为奉天陆军27师，张作相任该师炮兵团长，晋授陆军少将。
1901年，曾与张作霖投清盛京将军增祺，任巡防队第一营管带。
1903年被官府正式收编，张作霖被任为新民府游击马队管带，张作相为哨官。
1907年，按年龄为序，马龙潭、吴俊升、孙烈臣、张景惠、冯德麟、汤玉麟、张作霖、张作相8人结拜为盟兄弟。
盛京（沈阳）将军赵尔巽，将全省旧军编成八路巡防队，张作霖任前路统领，张作相为骑兵一营管带。
清宣统三年（1911年），从东三省讲武堂毕业。
1915年后，历任陆军第二十七师炮兵团团长、旅长、代理师长。
1916年，张作霖任奉天督军兼省长，张作相任二十七师步兵旅长。
1917年，代任奉天陆军第27师步兵第54旅旅长，并代理奉天陆军第27师师长。
1918年段祺瑞任命张作霖为东三省巡阅使，张作相任巡阅使署总参谋长、参议，兼任二十七师师长和卫队旅旅长。
1919年初，升任东三省卫队旅旅长、奉天警备总司令，仍代理奉天陆军27师师长。
同年秋，实任27师师长，晋升陆军中将。张作相任第27师师长后，张作霖感到张作相离开自己身边，工作起来有许多不便。
不久，就任命他为东三省巡阅副使。张作相以位高坚辞不就，遂被任命为东三省巡阅使署和奉天督军署两署总参议。张作霖重建东三省讲武堂，张作相任堂长。
1921年初，黑龙江省督军孙烈臣转任吉林省督军，张作霖要任命他为黑龙江省督军，当即被张作相婉言辞却，并建议让第29师师长吴俊升出任。
张作相说：“论资历我不如兴权(吴俊升字)，论年龄他也比我大。
为表示待人公正，不徇私情，请让兴权先升。这对我们的前途和事业有好处。”
1921年5月30日，北京政府特任东三省巡阅使张作霖兼蒙疆经略使，“各该特区都统，均应归该经略使指挥节制。”
并以此逐去原热河都统姜桂题，由奉系派员充任都统。张作霖要派张作相任热河都统，但张作相仍执意不肯，并极力推荐28师师长汲金纯为热河都统。
1922年春，第一次直奉战争中，张作相兼任镇威军东路第一梯队司令，进驻永清。
奉军战败，退驻榆关，北洋军阀政府趁机发令对张作霖撤职查办。
张作霖意沮心丧，怀有下野之念，急召张作相密商后策。张作相劝张作霖不要下野，并陈词献策。
张作霖嘉纳其言，精神振作，任张作相为镇威军第三路总司令。
同时，集合各军，在榆关背城一战，使奉军转危为安。
1924年，张作相任吉林督军并出任吉林省省长。
在这时期，张作相主张“固守关外，将养生息，训练士兵，扩充实力”为上策。
基于这种思想，他在吉林省督军兼省长任上，做了一些有益于民众的事。
1925年，张作相代任吉林军务督办兼吉林省长，晋升陆军上将。
同年3月，兼任东三省铁路护路军总司令和陆军第15师师长。
同年冬，郭松龄倒戈反奉，张作相部正驻守榆关一带。
郭军先出关的两个团在姜女庙被其缴械，继出关的两团也在榆关东站被其解除武装。
郭松龄致电报中说：“榆关缴械，姜女庙进逼，龄之原定计划全为我公破坏。”
郭松龄被擒，张作霖拟将助郭倒戈将领一律处死，参与决议的奉军将领中唯张作相力排众议，分析时局，晓以利害，提出建议，为张作霖所采纳，除郭松龄夫妇被处死外，其余诸将皆得免。