辅国将军、南秦州刺史。当时南秦州反叛朝廷,赴任的路线又被阻塞,杨椿只好停滞长安。转授岐州,复除授抚军将军、卫尉卿。转任左卫将军,又兼任尚书右仆射,驰驿到并、肆二州,备绢三万匹,募召恒、朔二州流民,挑选他们充当军人。杨椿不去。不久加授左卫将军,出除都督雍南豳二州诸军事、本将军、雍州刺史,又进号车骑大将军、仪同三司。萧宝夤、元恒芝诸军被敌人打败,元恒芝从渭水北面东渡黄河,杨椿派人追赶,不能制止。萧宝夤后到,杨椿把他收留于逍遥园内,自己收集残败将士,还得到万余人马,由此三辅人心,颇得安贴。这时,泾州、岐州以及豳州都已被敌人攻陷,扶风以西,不再属我魏所有。杨椿于是收集内外兵士,得到七千余人,派兄子录事参军杨侃率领他们防御敌寇。帝诏杨椿以本官加授侍中、兼尚书右仆射为行台,节度关西诸将,其统辖之内五品官职以下,郡县必须补用的官员,他任命了朝廷即行拟授。杨椿得了暴病,频频启奏皇上乞求解职。帝下诏答应了,以萧宝夤代替杨椿为刺史、行台。
杨椿还归乡里,遇子杨昱准备还归京城,杨椿对他说:“当今雍州刺史亦不贤于萧宝夤,但其乃是朝廷上佐之州,朝廷应该派遣心腹重人,怎么能够凭一纸文书便加以任命?这是圣朝百虑之一失。况且萧宝夤不借刺史为荣,我观其得州之后,喜悦非常,至于赏罚之类事情,他都不依常宪,我担心他有异心。关中这些事情的发生,实在令人惋惜。你今天赴京,说明我的意思,以之启奏二圣,并面陈宰相,让他们更派长史、司马、防城都督。要想安定关中,正需要这三个人。如不派遣,必会成为朝廷大患。”杨昱还京,面启肃宗及灵太后,二圣都不相信采纳。等到萧宝夤邀害御史中尉郦道元,他还在上表申述,称自己被杨椿父子所诽谤。帝又下诏除授杨椿都督雍、岐、南豳三州诸军事、本将军、开府仪同三司、雍州刺史、讨蜀大都督。杨椿以自己年老多病为由,不去就任。
建义元年(528),迁任司徒公。尔朱荣东讨葛荣,帝下诏让杨椿统领兵马为后军,尔朱荣擒葛荣,此事作罢。永安初年(528),进位太保、侍中,赐给后部鼓吹。元颢入洛阳,杨椿儿子杨昱为征东将军出镇荥阳,被元颢所擒。又杨椿弟弟杨顺任冀州刺史,杨顺儿子仲宣任正平太守,兄子杨侃、弟子杨遁都跟从皇驾到河北,被元颢所猜疑。因杨椿家世显重,他担心会失去民心,没有加罪于他们。当时人也担心元颢会加害杨家,有人劝杨椿携家避祸。杨椿说:“我家内外有百口之多,能逃到哪里?只有坐居听凭命运安排罢。”
魏庄帝还归帝宫,杨椿每每辞逊官职,庄帝不答应。杨椿频频上书乞归家养老,帝诏曰:“杨椿是老成之臣,正当尊崇推尚,而他屡以年高,请求退休,朕顾念怀思旧德,没有答应他的要求。但是他上表频繁,辞理坚决,朕以其志趣难夺,不忍相违,今天就答应他的请求。归家之后,他可着侍中朝服,朕赐他朝服一套、衣一套、八尺床帐、桌杖,不必上朝,乘坐安车,驾驭驷马之车,给扶持之人,传诏者二人,跟随他到所在郡县,地方官员要时时给他问候请安。为朕不能时时谘访,内心着实凄凉。”杨椿在华林园奉诏,庄帝走下御座拉着杨椿的手流着泪说:“公,先帝旧臣,实为元老,而今四方未宁,朕按理当时时询访于您。但卿其志高远,决意不留,您的志趣既难相违,朕也只有深深悲凉的份了!”杨椿也。。欷不已,想行拜礼,庄帝亲执其手不让。于是帝赐给他绢布,调拨羽林军护送其还家,群公百僚在城西张方桥与他饯别,行路观看的人,没有不啧啧称叹杨椿的。
杨椿临行时,告诫其子孙说:“我家刚入魏廷时,就是朝中上客,朝廷赐给田宅、奴婢、马牛羊,成为富裕人家。从那至今二十年,二千石爵禄、方伯职位连续不绝,所受禄恤很多。至如姻亲知故,家有吉凶的时候,朝廷必厚加赠予;来往宾僚,我们必以酒肉款待。所以亲姻朋友都没有缺憾。国家之初,丈夫喜好服彩色。我虽不记得上谷翁时的事了,然而还记得清河翁时的服饰,经常见到老者穿着布衣皮带,经常告诫诸父说:‘你们的后代,假如有比今日富贵的话,谨记住不要积金一斤以上,彩帛百匹以上,用为富也。’既不让治生求利,又不让与权势之家结成姻亲。至于我的兄弟,不能遵从。而今你们衣服乘坐,都很华丽,吾由此知道恭俭之德,已渐渐不如上代了。又我们兄弟,如果在家,必定同盘而食,如有人出门不远,没有回来,大家必定等他回来,也有时间过了中午,仍未吃饭的事情,大家忍饥等待。我们兄弟八人,而今健在的有三人,仍然不忍别居而食。又念我们兄弟这一辈子,大家不异居、不异财,你们眼中也见到了,这都不是假话。如我听说你们兄弟,经常有别居而食的情况,这又不如我们这一代了。我今天也说不上贫贱,但我的居宅不搞那些华丽的装饰,正是考虑到如果你们这些后代不贤敏,不能守住这产业,装饰豪华了反而被权势之家夺去了。
“帝都在北边时,朝廷法律严急。太和初年,我们兄弟三人都居内职,兄在高祖左右,我和杨津在文明太后左右。当时皇帝口授,交付内官办理,十日仰密得一事,如不列二圣便大发脾气。诸人多有依敕秘密列位的,也有太后、高祖中间传言离间的。我们兄弟自相告诫说:‘现今我们忝居为二圣近臣,位处母子二圣之间很是困难,宜极为谨慎。又列掌人事,谈何容易,即使为二圣谴责,也不要轻易说什么。’十余年中,不曾说过一个人的罪过,当时大被二圣嫌恶责备。我们回答说:‘为臣并不是不听人们议论,臣担心对其不审慎,会仰误圣德,所以不敢说什么。’以后终于还是以不轻易说什么而蒙受赏赐。二圣之间的话,我们终不敢随便传通。太和二十一年(497),我从济州来到朝廷,在清徽堂参加宴会。高祖对诸王、诸贵说:‘北都之时,太后严明,我每每被太后所杖罚,左右因此有些是非言语。协和我们母子的只有杨椿兄弟。’于是赐给四兄及我酒。你们如果万一蒙受时主知遇,必须深深慎于言语,不可轻易评论别人的坏处。