所以，朝廷允许陇西地方长官组织军队，剿灭叛军。
和刘备等人参加军队剿灭黄巾一样，马腾也是在这个时候入伍，由于作战勇猛，被凉州刺史耿鄙看中，不断地提拔上来。
马腾的运气非常好！
耿鄙在讨伐韩遂的途中被杀，州郡长官大都战死。
马腾就成为了官府在凉州的代言人，兵权在手。因不满十常侍的所作所为，马腾开始听调不听宣，后来直接反叛了，与韩遂结盟，控制了凉州。
不过，对于汉室，马腾还是非常有感情的。
曹操派遣钟繇到凉州招安的时候，马腾答应了。
后来马腾发现，朝廷和他想象的不一样。
曹操自从将献帝控制在手中，“挟天子以令诸侯”，横行专权，丝毫不把皇帝放在眼里。
许田围猎的时候，曹操甚至僭越使用皇帝专用的御箭，并在射中猎物后，挺身到皇帝面前，公然接受群臣“万岁”的称呼。
马腾大失所望。
后来，董承接受了献帝的委托，想要对付曹操，但是他一个人，没兵没权，什么都做不到。
马腾是手握重兵的封疆大吏，如果能将他拉拢入伙，那么，诛灭曹操的可能性就大了。经过一系列的试探，马腾加入了董承的阵营，就是协助献帝掌权。
董承身死后，马腾并没有放弃，成为了最亲近献帝的大臣之一。
渐渐地，献帝常常找马腾诉苦，马腾听得憋屈，同时热血沸腾。
如果能够除掉曹操，扶持皇帝，马家一定能够更上一层楼。
虽然马腾拥有一半的羌人血统，但是他受到的是汉人的教育，忠君的理念根深蒂固。
后来马腾发现，除掉曹操，根本不可能，哪怕在长安，曹操每一次出行，护卫都有几百人。
这才转换思路，将献帝营救出长安。
而马腾之所以不肯离开，其中的一个原因就是，他和献帝的感情非常深厚，这段时间接触下来，已经成为了知己。
但是，马超不能理解，道：“父亲，凉州才是我们的根基啊！”
“孟起，以后凉州就交给你了。”马腾道。
“可是父亲，韩遂咄咄逼人，没有您坐镇不行啊！”马超道。
马腾任凉州官员的时候与韩遂为敌，后来反叛，与韩遂称兄道弟，二人共同控制凉州。
再后来，马腾入朝为官，韩遂也和曹操眉来眼去。