Tuomioistuimen virallinen perustaminen ei ollut yksinkertaista, vaan vaati vuosien neuvotteluja valtioiden välillä. Kansainvälinen rikostuomioistuin perustettiin vuonna 1998 allekirjoitetulla perustamissopimuksella, niin sanotulla Rooman säännöllä. Valtioiden ratifioitua sopimuksen rikostuomioistuin alkoi toimia 1. heinäkuuta 2002.
Kansainvälinen rikostuomioistuin on itsenäinen ja riippumaton tuomioistuin, jonka erityisalaa ovat kaikista vakavimmat rikokset, muun muassa rikokset ihmisyyttä vastaan, kansanmurhat ja sotarikokset. Rooman sääntö, jonka avulla tuomioistuin perustettiin, on voimassa tällä hetkellä 104 valtiossa. Pääsihteeri Ban Ki-moon toivoo, että valtiot, jotka eivät vielä ole mukana, tekisivät sen mahdollisimman pian.
Pääsihteeri painotti myös kansainvälisellä rikostuomioistuimella olevan symbolista merkitystä. Hänen mukaansa tuomioistuimen toiminta ja sen syyttäjä (Luis Moreno-Ocampo) toimivat jo sinällään pelotteena rikoksia vastaan.
Tällä hetkellä kansainvälisessä rikostuomioistuimessa on käynnissä tutkimuksia esimerkiksi Sudanin Darfurissa tapahtuneista epäillyistä sotarikoksista ja syytöksistä Keski-Afrikan tasavallassa tapahtuneista raiskauksista ja surmista.