Popiežiumi išrinktas Vokietijos karaliaus pastangomis. Daugumai kardinolų išrinkus antipopiežių įvyko schizma, organizacinis Bažnyčios skilimas. Inocentą II pripažino Prancūzija ir Anglija, Anakletą II – Sicilija. Inocentas II buvo priverstas pasitraukti į Prancūziją. 1133 m. Vokietijos karaliaus padedamas trumpam sugrįžo į Romą, karūnavo Lotarą III Šventosios Romos imperijos imperatoriumi. Imperatoriui išvykus Anakleto II šalininkai jį išvarė į Pizą. Siekdamas panaikinti schizmą 1136-1137 Inocentas II surengė imperatoriaus žygį prieš Sicilijos karalių . Po Anakleto II mirties jis 1139 m. sušaukė Laterano II susirinkimą, kuriame galutinai panaikino schizmą, nustatė dvasininko asmens neliečiamybės principą. BuleOmne datum optimum 1139 m. įsteigė tamplierių ordiną. Jo pradėtus katalikiškosios doktrinos įtvirtinimo darbus tęsė ir .