Kalksteine setzen sich überwiegend aus den Mineralen Calcit und Aragonit, zwei Kristallisationsformen des Calciumcarbonat (CaCO3), zusammen. In mehr oder minder schwankenden Anteilen kommen andere Minerale vor. Dazu zählen Tonminerale, Dolomit (CaMg(CO3)2), Quarz, Gips und andere. Überwiegt der Dolomitanteil, so spricht man vom Gestein Dolomit. Besitzt der Kalkstein einen relativ hohen Anteil an Tonmineralen, so bezeichnet man ihn dann als Mergel.
Die Entstehung des Kalksteines geht zum überwiegenden Teil auf einen biogenen Ursprung zurück, d. h. der Kalkstein wurde von Lebewesen (z. B. Korallen, Schnecken, Muscheln oder Schwämmen) gebildet und abgelagert. Das Calciumcarbonat, welches Bestandteil dieser Lebewesen war und zum Aufbau von Außen- oder Innenskelleten abgeschieden wurde ist somit auch der Hauptbestandteil von Kalkstein. Nach dem Tod der Lebewesen sinken die Schalen zu Boden und bilden sogenannte Kalkschlämme. Durch die Diagenese der Schlämme entsteht dann fester Kalkstein. Häufig sind deshalb schon mit bloßem Auge Makrofossilien im Kalkstein erkennbar.
Kalksteine besitzen in den meisten Fällen eine helle, graue bis graugelbe Farbe. Durch Beimengungen anderer Minerale (zum Beispiel von Eisenverbindungen) kommen aber auch kräftigere, vor allem rote Farben recht häufig vor.
Der allergrößte Teil der Kalksteine wurde ursprünglich im (Flach-)Meer gebildet und durch tektonische Prozesse über den Meeresspiegel gehoben. Auf dem Festland gebildete Kalksteine hingegen benötigen fast immer ältere Kalksteinvorkommen in der Nähe, die als Liefergebiet des Calciums notwendig sind.
Große Gebiete mit Kalksteinvorkommen befinden sich in Mitteleuropa im mittleren und südlichen Teil Deutschlands, wo der Kalkstein vor allem in Form von Muschelkalk und Jurakalk anzutreffen ist. Weitere Vorkommen befinden sich in den nördlichen und südlichen Alpengebieten und in Großlandschaften, die ganz überwiegend von Kalkstein geprägt sind, wie z. B. die Schwäbische und die Fränkische Alb, sowie die nördlichen Kalkalpen. Eines der bekanntesten Abbaugebiete in Europa befindet sich im Altmühltal mit dem bekannten Solnhofener Plattenkalk und dem Jurakalkstein.