Il concetto di invariante non ha una precisa definizione matematica, ma è di importanza capitale trovare invarianti rispetto ad un gruppo di funzioni. Un esempio tra tutti si trova nella definizione di geometria secondo il matematico tedesco Felix Klein (1849-1925) che nel 1872 pubblica il programma di Erlangen: secondo la visione di Klein le geometrie vengono classificate proprio in base alle proprietà invariate rispetto ad un ben determinato gruppo di trasformazioni; ad esempio la geometria affine è lo studio delle proprietà delle figure che sono invarianti rispetto al gruppo delle affinità (come il parallelismo), la geometria proiettiva è lo studio delle proprietà delle figure che sono invarianti rispetto al gruppo delle proiettività, la geometria differenziale studia le proprietà delle varietà differenziabili invarianti per diffeomorfismo, la topologia studia le proprietà degli spazi topologici invarianti per omeomorfismo (la compattezza citata ad esempio), l'algebra lineare studia le proprietà degli spazi vettoriali invarianti per isomorfismo, e si potrebbe continuare. Rientra in questa visione anche la generale teoria degli insiemi nella quale le trasformazioni da usare per la ricerca degli invarianti sono le funzioni biiettive: ricadiamo quindi nel primo esempio fornito dall'autore, la cardinalità di un insieme è un concetto che, per definizione, è invariante rispetto alle biiezioni.
Qual è lo scopo di tutto ciò? È presto detto: studiare proprietà come la cardinalità nella teoria degli insiemi o la compattezza nella topologia è importante proprio perché sono invarianti, e dunque trasformando l'insieme o lo spazio topologico la proprietà viene conservata. Se quindi supponiamo di avere a che fare con uno spazio topologico troppo difficile da trattare possiamo deformarlo con continuità (omeomorfismo, la topologia studia le proprietà invarianti per omeomorfismo) e studiarne uno più facile. Ad esempio, è ben nota la classificazione delle superfici compatte e senza bordo nello spazio euclideo tridimensionale: esse vengono tipicamente classificate a seconda del loro numero di buchi, detto anche genere, e che è un invariante topologico.