祖宽，辽东人。他从小就胆大有力气，给祖大寿家当佣人，跟着打仗立了功，逐渐升官做到了宁远参将。他部下的士兵大都是塞外来归附的人，打起仗来到哪都能获胜。
崇祯五年(1632)七月，叛将李九成等把莱州紧紧围困起来，朝廷诏令山海关外的部队过来讨伐他们。祖宽与靳国臣、祖大弼、张韬带兵抵达昌邑。巡抚朱大典截到一封反贼的信，其中说到约祖宽等人当内应的事，大典把信拿给祖宽等人看后，他们都发誓要消灭反贼来证明自己的清白，大典于是把祖宽、国臣用作前锋。祖宽走到沙河时跟贼兵相遇，因寡不敌众，稍有后退，正好国臣赶到，拔刀大喊着就冲了上去，祖宽、大弼、张韬都拼命厮杀，把贼兵打得大败，直追到城下，立刻就解除了他们对莱州的包围。本月三十日，他们进兵黄县，反贼倾巢出战，祖宽等又把他们打得大败，然后和刘泽清等人一起修建了长长的围墙来围困登州。第二年二月，反贼才被平定了。这件事详见于《大典传》中。祖宽因为解围的战功，升任为都督佥事。后来又一次评功，被世代荫封为外卫副千户，晋升为副总兵。
八年秋天，朝廷任命祖宽为援剿总兵官，让他率领关外的三千兵力讨伐流贼。十月，祖宽到达河南，巡抚陈必谦、监纪推官汤开远命令他与左良玉进驻灵宝，他们一到就在焦村挫败了张献忠。不久，高迎祥、李自成来了，与献忠联合攻打阌乡。祖宽赶去援救，贼兵撤攻而进军灵宝，截断良玉和祖宽的兵力，使他们无法相互呼应，接着就东陷陕州，攻打洛阳。良玉、祖宽赶到后，迎祥、自成、献忠又都撤离了。良玉追击迎祥，祖宽负责追击献忠，连夜指挥副将祖克勇等人直奔葛家庄，黎明时分追上贼兵，把他们打得大败。贼寇逃向嵩县的九皋山，祖宽在山沟里埋下两支伏兵，引诱贼寇奔下山来，伏兵冲出，斩获了九百多贼兵的首级。不久，祖宽和副将刘肇基、罗岱在汝州的圪料镇遇到贼寇，又把他们打得大败，贼寇伏尸二十多里，一千六百多人被斩首。献忠恼火了，联合迎祥、自成的队伍，在龙门、白沙跟祖宽开战，把官兵截作两截。祖宽亲自断后，他的士兵也拼死搏斗，从早晨打到半夜，又大获全胜，斩获首级一千多。迎祥、自成于是逃走，想占领光州，祖宽派副将李辅明悄悄跟踪在他们后边。贼寇去攻打确山，祖宽等急忙赶去营救，把贼寇打得大败，斩获五百八十多首级。自成等于是东走庐州，把庐州城围攻了七个昼夜。第二年正月，祖宽等人赶来，贼寇就窜到全椒，后来包围了滁州。南京太仆卿李觉斯、知州刘大巩竭力抵抗，接着祖宽等部队来了，他们大声喊叫着奋勇杀战，各路部队无不以一当百，从早晨激战到午后，贼寇大败。从城东追杀到关山的朱龙桥，贼寇尸体横七竖八地躺满了，河水也无法流淌。二月，祖宽又跟着总理卢象升在七顶山打败贼寇，差不多把自成的精兵给消灭光了。象升移兵向南阳去的时候，命令祖宽驻守邓州。当贼寇渡过汉江进入郧阳、襄阳后，余下的三万人潜藏在内乡、淅川一带的山中，象升命令祖宽与祖大乐等入山搜剿。
边方的士兵凶猛、憨直，性子跟别的兵不同，法规无法约束住他们。过去官兵中大多是关中人，跟贼寇是同乡，两军对阵，他们相互问候，甚至抛牲口，弃辎重，故意把贼寇给放走，称这是“打活仗”。边方的士兵跟他们语言不通，见到贼就杀，所以经常打胜仗。但是他们所过之处焚烧房屋，奸淫妇女，仗着战功，毫不收敛；又喜欢野战，害怕搜山；并且看到贼寇远窜，不是十天半月可以打下时，就自认为是客将，没有长久坚持的信念。祖宽的士兵在刚过河以后就一哄而逃，象升再三鼓励，他们才接受命令。到了党子口就又停下不走了。总兵李重镇一向懦弱，只想推卸责任，所以大家更加想回去。象升于是极力向朝廷陈述入山搜剿的困难，请改派祖宽、重镇赴关中讨贼去。正好总督洪承畴也这样奏请，祖宽等于是奉命移军陕西，隶承畴麾下。八月，京师受到进攻，朝廷召他进京防卫。经评定他在滁州的战功，升他当了右都督，赏了他若干银币。京师的战事平息后，朝廷派他到宁远协助守城。
十一年(1638)冬天，朝廷传令祖宽率兵增援京师郊区。等山东告急时，祖宽逗留不前。第二年正月，济南失守，祖宽被落职逮捕，因为失陷领土的罪行，最后被杀掉了。
祖宽作战勇敢，屡立战功，称得上是一员猛将。但他性情刚烈，爱发脾气，得不到文职官员的喜欢，所以最后被判死刑，也没人为他辩护。