Malgré la grande diversité des objets et des structures cosmologiques, ceux-ci partagent, pour la majorité, le même point commun : ils proviennent initialement d’un effondrement gravitationnel. Cette contraction gravitationnelle est initialement due à une instabilité au sein d’un nuage de gaz : l’instabilité de Jeans.
L’instabilité de Jeans, également appelée instabilité gravitationnelle, est décrite pour la première fois en 1902 par la physicien britannique Sir James Jeans dans un article portant sur la formation et l’instabilité des nébuleuses sphériques. Le physicien montre qu’un nuage de gaz ou une zone de celui-ci peut devenir instable et s’effondrer sur lui-même lorsque sa pression interne ne contrebalance plus les effets gravitationnels qui tendent à le contracter. Ce mécanisme est extrêmement important car il explique la formation d’un très grand nombre d’objets astrophysiques.
Pour une masse suffisamment faible (à température, rayon, et volume fixés), le nuage de gaz reste stable. Mais dès lors que cette masse atteint et dépasse la masse critique déterminée par Jeans, une série de processus de contractions gravitationnelles s’enclenchent et le nuage commence alors à s’effondrer ; d’éventuels autres processus physiques peuvent intervenir pour stopper la contraction et donc l’effondrement. Cette masse critique, appelée « masse de Jeans » est fonction de la densité et de la température. Un nuage de gaz massif, froid et de petite taille est ainsi gravitationnellement très instable.
Deux forces différentes sont présentes au sein du nuage et s’affrontent. D’un côté, la pression gazeuse interne provenant du mouvement thermique des atomes et molécules composant le nuage, tend à faire se dilater le gaz. De l’autre, la gravitation qui s’exerce sur le nuage et qui tend à le faire se contracter sur lui-même. La masse critique est atteinte lorsque ces deux forces sont à l’équilibre. Cet équilibre peut également être formulé en tant que longueur critique (longueur de Jeans). La longueur de Jeans désigne le rayon que doit posséder un nuage de gaz pour être gravitationnellement stable ; en dessous de ce rayon il est stable, au-delà il commence à s’effondrer. Dans un milieu peu dense, l’instabilité de Jeans n’intervient que sur les grandes échelles.
L’instabilité de Jeans permet d’expliquer le mécanisme de formation des étoiles à partir de nuages moléculaires géants ainsi que leur évolution. Le phénomène d’effondrement gravitationnel intervient pour les proto-étoiles, les naines blanches, les étoiles à neutrons, les trous noirs et pour la formation des structures plus grandes comme les galaxies. La naissance d’une étoile s’explique par la contraction et l’effondrement initial d’un nuage moléculaire géant qui, en atteignant l’équilibre, se fragmente en plusieurs morceaux. Lorsque ces morceaux dépassent la masse de Jeans, ils s’effondrent pour donner une proto-étoile.