特権を奪われた士族の不満は頂点に達し、いまにも反乱しそうな勢いだった。そこで政府は、開国に応じない朝鮮を征伐しよう(征韓論)と主張、戦争のさいに不平士族を投入し、彼らの欲求不満を解消させようと考えた。
当時、政府の参議(高官)は、半数が岩倉具視に従って欧米巡遊の旅をしていたが、留守政府が征韓を計画していることを知るや、大久保利通、木戸孝允らは急ぎ帰国し、征韓論を唱える西郷隆盛、板垣退助、江藤新平らと激論をかわし、この動きを阻止した。
激怒した征韓派参議は、一八七三年に下野、翌年、板垣退助や後藤象二郎らは「民撰議院設立の建白」を政府に提出、薩長出身者の専制を非難、国会を開設し世論にもとづく政治を要求した。これが自由民権運動のはじまりである。
最初、運動は不平士族が中心だったが、各地で政社が組織され豪農や都市の知識人、やがて一般農民にも広がり、全国的な運動に発展する。一八八〇年には国会期成同盟をつくり、国会の開設を強く要求した。政府は新聞紙条例や集会条例で運動を弾圧したが、翌年ついに十年以内に議会を開くという国会開設の勅諭を発布した。
そこで板垣らは、自由党を結成して国会にそなえた。政府から追い出された大隈重信も立憲改進党を組織した。
これに対抗して政府も、福地源一郎を党首として、政府与党の立憲帝政党を創設したのだった。