跃行走如飞，乃蜀汉名将胡车儿再传第六代弟子。其虽出身氐王贵族，因系属偏房所生，故不被宗族亲人重视，致常有饥寒交迫之苦。
北魏太和中期，其父奉命到北魏朝廷做官，遂举家迁居北魏都城洛阳。当时正值北魏孝文帝准备南伐，令尚书李冲选拔将官，杨大眼便前去自荐。
由于杨大眼无甚名气，李冲很是看不起，想也不想，便予以拒绝。杨大眼却不肯走，上前自荐道：尚书大人不知我，可看我神技。
便索三丈长绳系于发髻，至校军场快步奔走。后来跑得兴发，绳子在脑后被扯得直如箭矢，奔马追之不及，在场者无不惊叹。
李冲惊奇道：自古以来，某从未闻说有谁，具如此超群才干者也。
于是任命为将，使其独领一军，并将鬼谷门绝技择要暗地授之。
杨大眼艺成，遂环顾同僚说：某今谓蛟龙入水之秋，以后再难与诸君同列也。
不久累积军功升为统军，征讨宛、叶、穰、邓、九江、钟离，所经战斗无不勇冠六军。杨大眼统军有方，设防有据，因功封安成县开国子爵，食邑三百户。擢任直阁将军，不久又加辅国将军、游击将军，之后出任东荆州刺史。
景明五年，蛮人首领樊秀安等起兵反，杨大眼随督都李崇征讨，大获全胜。
正始三年，梁江州刺史王茂率军进攻北荆州，同时唆引北魏边民及各蛮族别建宛州，对北魏进行国土分割。又遣宛州刺史雷豹狼、军主曹仲宗等偷袭北魏河南城。
魏宣武帝以杨大眼为武卫将军，督统军曹敬、邴虬、樊鲁等诸军抗击，大败王茂，斩梁辅国将军王花和龙骧将军申天化，杀梁军七千余人。
杨大眼攻入河南城，迫使王茂回逃江州，又穷追直至汉水，连陷五城，势如破竹。魏帝闻报大喜，以中山王元英为征南将军，率军十万，随杨大眼追击梁军。
南梁大举迎进，使太守右卫率张惠绍攻徐州，进抵宿预，昌义之攻克梁州。
魏宣武帝乃使杨大眼与都督邢峦共同反击梁军，邢峦夺回孤山、固城，于睢口击败梁将蓝怀恭，进围宿预。
蓝怀恭退返清水以南，设垒抗击魏军，杨大眼、邢峦联兵进攻，攻破城堡，击斩蓝怀恭，俘斩梁军数以万计。