在动荡时期，王洪文为了巩固自己的势力，培植属于自己的武装力量，搞出一个“第二武装”，其中，尤以上海的“第二武装”规模最大，闹得最凶，其人数约有10万多，配备有相当数量的轻武器，其指挥官名叫李彬山，是一位功勋卓著的开国少将。
李彬山早在大革命时期就已经跟着是农协成员了，土地革命爆发后，他加入中共领导的游击队，主要活动在湘赣边界地带，多次沉重打击反动派武装力量，极大鼓舞了红色阵营的士气。国民党方面对他是恨之入骨，几次发布悬赏令，出重金买他的性命，可他每次都能化险为夷。气急败坏的反动派为了发泄内心的怒火，居然对他的家人下手，将他的母亲和哥哥打成重伤，并将他的父亲抓进监狱迫害致死。
李彬山得知此消息后既悲痛又愤怒，他很想为家人报仇雪恨，但最终他还是压抑住了怒火，没有做出过激的事情来，他很清楚这是反动派的诡计，自己绝对不能上当！2方面军主力离开湘赣，向西转移之后，李彬山便率部离开了经营许久的苏区，以躲避国民党军的疯狂反扑，转而在湘北重新开辟根据地驻留。
在此期间，有一些一直不坚定的人受不了风餐露宿的生活，选择脱离革命队伍，但李彬山自始至终都心向共产主义，即便再苦再难他都没有想过要放弃革命。一直到1937年下旬，党中央派来信使，将他和所部召到南昌接受改编，从此他有了一个全新的身份：新四军。1938年初，他率部穿越华东，抵达江苏与山东交界地带驻扎，连同八路军多次战胜日军，取得了赫赫战功。
解放战争时期，李彬山在华野主力部队担任师干部，曾参加过对胡琏部、李仙洲部的围攻，1949年中旬，在突破了长江防线之后，他挥师南进，在友军的配合下迅速击溃上海之地，解放了十里洋场。上海警备区成立后，他担任副政委，1952年短暂在朝鲜战场待过一段时间，1955年受领少将军衔后，再度返回上海警备区任职。
1966年，上海受动荡的影响乱作一团，李彬山见状连忙向军委请示该怎么办，但军委却没有给他任何回复。与此同时，张春桥主动找上门来拉拢他，希望他能加入“革命派”，李彬山一时没有把持住自己，听信了张春桥的谗言，于是走上了一条不归路。1967年，他参与了对上海市政府的围攻，上海市革委会成立后，他担任委员。
为了进一步扩大上海“革命派”的势力，李彬山决定拉警备区的一把手廖政国“入伙”。廖将军是个正直的人，自然看不起李彬山和张春桥的所作所为，因此拒绝与其狼狈为奸。这可惹恼了李，李当即开始网罗“黑料”攻击廖将军，称廖存在“右派思想”。张春桥随后也点名对廖将军进行批评，这让廖将军一时承受了巨大的心理压力，长久的压抑最终导致他患上了严重的慢性病，1972年，他溘然长逝。
廖将军离世之后，李彬山本想顺势接管警备区，不料周总理却改派另外一位将军到上海主持军务，李因此未能如愿掌控上海的部队。于是乎，在王洪文和张春桥的支持下，他转而纠集一部分民兵和积极分子成立了“第二武装”，公开与警备区对抗，甚至将解放军列为“假想敌”，实在令人震惊！
1976年，张春桥等人被逮捕，李彬山闻讯后大惊失色，他在与马天水等人商议过后，决定继续负隅顽抗，跟党中央“对着干”。1976年，党中央派出工作组进驻上海，李一时如临大敌，他马上将手头的武装集合起来，以备不时之需。当然，这一切在党中央看来不过是螳臂当车罢了，在一连串的政治压力下，李彬山最终束手就擒，他的“第二武装”也随之土崩瓦解。
1977年，李彬山被关入监狱之中，1980年，法院认定他犯有严重的罪行，将他的公职全部开除，并剥夺其一级解放勋章，他此时方才幡然醒悟，但为时已晚。1981年，他继续服刑，一直到80年代末才被允许保外就医。晚年的他一直过着平淡的生活，曾经的光辉岁月早已远去，留给他的只剩下一些美好的念想。90年代初，他患上了严重的肝病，1995年中旬，他因病离世，时年83岁，他的葬礼非常简单，家人们只为他办了半天的遗体告别仪式，随后便将他的遗体火化安葬。