1928年6月4日，日本人制造“皇姑屯事件”炸死了张作霖，接掌东北政局的少帅张学良年仅27岁。虽然当时的军政要人表面上拥戴他，但很多人仍持观望态度，特别是一些绿林出身的元老重臣，根本不拿他当回事，甚至居功自傲，一手遮天，尤以杨宇霆、常荫槐两人为最。父亲在世时，视杨、常为左右手，二人均掌握着东北的实权，且关系极为密切。张作霖故后，二人经常飞扬跋扈，对张学良动辄训骂，俨然以执父自居。每当张学良向杨询问情况或发表主张时，杨都以斥责的口吻说：“你不懂，别瞎掺和，我会做决定。”
一次某官员求见张学良不得，只好找到杨。杨大怒道：“汉卿子承父业，如此下去，抽死得了。”（时张学良已有毒瘾）遂带那位官员到帅府问卫兵：“少帅何在？”卫兵答：“尚未起床。杨怒气冲冲地来到张卧室外，使劲踹门并大声嚷道：“我是杨麟阁，快起来，有公事。”
张急披衣而出，杨指着骂道：“老帅在世可不这样，混帐东西，你若这样，东北的事能干好吗？”张学良忍无可忍，破例回敬了一句：“我干不了你干！”
关于处决杨宇霆、常荫槐的过程，历来有各种传说。据当事高纪毅的回忆，当时情形是这样的：
他们走后，张学良立刻用电话召我进府，这时已是下午5点半钟。我进府立被张召入内室，他从容不迫地向我说：“杨宇霆、常荫槐两人欺我太甚，他们想尽办法，阻挠全国统一，今天又来强迫我成立东北铁路督办公署，并要发表常荫槐为铁路督办，说是为的能管理中东铁路。事关同苏联的外交问题，这事要办也应该请示南京，从长计议。但他们要我立刻签字发表，太不象话了。现在他们正在回去吃饭，少刻就会回来。我给你命令，立刻将他们2人处死，你率领卫士去执行好了！”我接受命令后，请示应在何处执行。
张学良指示说：就在老虎厅内执行，并以轻松的语气嘱咐我说：“你可要小心，他们二身边都带有手枪。”于是我配备6名卫士，由我同张学良的侍卫副官谭海率领，另由刘多筌担任府内外警卫任务，只许进来，不许出去（刘当时仅知将有大事，但并不知要处死杨宇霆、常荫槐。一切布置完竣，经过两个多小时，杨、常来到，径入老虎厅就座。我同谭海率领6名卫士持手枪进入老虎厅，立即对杨、常宣布说：“奉长官命令，你们两阻挠国家统一，着将二位处死，即刻执行。”杨、常闻言，顿时木然，脸色惨白，一句话也没说出，当即由6名卫士分为两组执行。杨宇霆、常荫槐2人分别被两名卫士按住，一名卫士开枪，结果了性命，当夜陈尸老虎厅内。
张学良接着指示处理善后步骤，一面连夜以长途电话指示驻天津代表胡若愚，要他立刻向南京蒋介石报告处死杨、常的原因和经过，一面用文字写成军法会审形式，罪名是“妨碍统一，阻挠新政”，检查官由我署名。我率彻夜工作，通宵未眠。翌晨天还未明，张学良召集张作相、翟文选、王树翰、臧式毅、郑谦、孙传芳等东北保安委员会委员进府，宣布此事经过。这些乍闻之下，惊愕万状，面面相觑。同时张又嘱郑谦在另室草拟电报，正式报告南京，并昭告东北各县市。郑谦是杨宇霆的亲信，提起笔来只是摇头沉吟，一个字也写不出来。过了片刻，他将笔丢下，起身要走。我严肃的警告他说：“从现在起没有我的命令，任何都不能离开。”他只得重又坐下，呆然不动，但仍未动笔。最后还是改由刘鸣九执笔，将电报稿拟好。这时始将杨、常尸体从老虎厅用地毯包裹抬出，用汽车送到南头风雨台姜庙（杨宇霆为纪念姜登选修的庙）装棺，听由他们家亲友吊祭。杨、常被杀的消息传出以后，顿时震动了沈阳全城……
与此同时，张学良为慑服杨宇霆的派系势力，运用恩威并济的策略，除优抚家属之外，还亲自写了一副挽联：“讵同西蜀偏安，总为幼常挥痛泪;凄绝东山零雨，终怜管叔误流言。”上联比之于诸葛亮挥泪斩马谡，下联引用周公旦诛叔之典故，借以表达其复杂的情感。
翌日，张学良领衔发表了震惊中外的通电，全文如下：
统一告成，建设开始，凡我同志，正宜和衷共济，协力图功。学良受事以来，对于先旧有僚佐，无不推心置腹，虚衷延纳，其中尤以东三省兵工厂督办杨宇霆，黑龙江省长常荫槐二，共事最久，倚界尤殷。乃杨、常朋比，操纵把持，致使一切政务，受其牵制，各事无从进行，肿其罪状，厥有数端：溯自民国13年后屡次战祸，均由彼二纵恿播弄而成，迹其阴谋私计，世或未知，自我先大元帅，佳电息争，倡导和平，信使往来，南北协洽，独彼二退回观望，阴事阻挠，近如滦东五县，不肯交还，其阻挠者一;平奉车辆，学良已商允交还，惟被二从中作梗不放行，坐使中外士，咸受苦痛，而车辆废置破坏，公私损失，何可纪极，其阻挠者二;滦东撤兵，顺应世局，正协心，而杨、常坚持异议，其阻挠者三。以上三端，学良曾再三婉商之;借友劝导之;用命令申斥之，而彼二概置不理，使中外士，对于我方不怀好感。现远因则酿成战祸之罪魁;观近因则破坏和平之祸首，论其罪状，不独害我东省，实害我中华。学良夙夜警惕，和冀奠我三省于磐石之安，勿令再有军事行动，谋工商之发达，谋中外居民之幸福，使吾乡父老子弟，安居乐业，耿耿之诚，可质天日。乃彼二包藏祸心，事事阴图破坏，处处竭力把持，以兵工厂及交通事业为个私利之渊教，把持收入，不解省库，且向省府通索巨款;其动用款项有案可稽者，已达现洋二万万余元，即无长官批示，亦无部处核销，一手遮天，多私囊。任用多其亲属，政府归其操纵，出门者，每予袒庇，非其私党加以摧残，前如王永江之被摈，郭松龄之激变，果谁为之？近如金融之扰乱，战争之延长，又谁致之？司马昭之心，路皆知，吾东省皆知之，而世或未尽知也。学良黍膺疆寄，并以重任，待以腹心，诚欲化彼贪顽，共循轨道，同等念其多年共事，曲予包容，不谓彼辈奸险性成，日甚一日，近更暗结党徒，图危国家，念及此，易胜隐痛，学良与同等再四筹商，佥谓非去此二，东省大局，非待无建设之望，且将有变乱之萌。大义灭亲，何况交友？毒蛇螫手，壮夫断腕，学良等不敢违弃公谊，徒顾私情。当于真（十一）日召集会议，并邀彼二列席，当众按状拷问，皆已俯首服罪，询谋金同，即时宣布罪状，按法执行。国家自有定律，非同等所能轻重，所冀海内明达调察内情，共明真相，特电奉闻。
——张学良、张作相、万福麟、张景惠、翟文选、刘尚清、刘哲。莫德惠、王树翰、沈鸿烈、汤玉麟、袁金铠。至此，张学良完成了巩固东北政权的大事，也初步赢得了蒋介石的信任。二次北伐，以张学良易帜并巩固了东北政权为最后的胜利标志，北洋军阀统治中国的历史宣告结束。蒋介石凭着他的权谋，总算在形式上完成了“统一大业”。
