Kosterhavets berggrund är ovanligt varierad. Under ytan har vågor och starka strömmar styrt havsbottnens utseende och skapat en rik variation av olika typer av bottensediment. Sand och grus förekommer inom stora områden.
Kalspolade bergbottnar är mycket vanligt, i grunda områden men även på större djup till följd av påverkan från vågor och strömmar. I Kosterfjordens botten löper den spektakulära Kosterrännan med sina kala bergsbranter.
Uråldriga gnejser
Koster och skärgården väster om Kosterfjorden består av uråldriga gnejser. Vanligast är en grå glimmerrik gnejs som bildades för omkring 1,6 miljarder år sedan, och en något yngre rödgrå gnejs med inslag av granit, som ofta kallas gnejsgranit. Stora rörelser i jordskorpan har sedan vid flera tillfällen förstört formen på berggrunden. Med tiden har landskapet fått sitt speciella utseende av sprucket och veckat.
Kosterrännan
Den mest spektakulära geologiska formationen under ytan i Kosterhavet är Kosterrännan. Detta är en cirka en kilometer bred förkastningsspricka som bildats under åtminstone två tillfällen under den geologiska historien. Första gången för ungefär 920 miljoner år sedan, då Bohusgraniten bildades. Den andra för cirka 250 till 290 miljoner år sedan. Inlandsisarnas rörelse har sedan eroderat fram Kosterrännan som den ser ut idag.
Kosterrännans sidor består mestadels av kala bergsbranter medan botten i den centrala delen innehåller mäktiga sedimentlager av framför allt lera. Ned till berggrunden är Kosterrännan cirka 450 m djup men med ett sedimentlager på cirka 200 m så är vattendjupet 247 m på det djupaste stället idag.
Långa svarta streck
De mörka diabasgångarna är typiska för Kosterskärgården. Det ser ut som att någon doppat en pensel i färg och dragit långa svarta streck tvärs över öar och skär. Man har räknat till närmare 700 sådana gångar i Kosterskärgården. De bildades när diabasmagma från jordens inre trängde upp i sprickor i jordskorpan för omkring 1,4 miljarder år sedan.
Lättvittrad berggrund
Här finns tydliga geomorfologiska bildningar och stora sedimenterade marker som är påverkade av sand- och skal-kalk. Det är framförallt skalgruset och de öppna, sandiga, torra markerna som gör det möjligt för alla de speciella arter som trivs i Kosterskärgården. Särskilt bra trivs de arter som behöver kalkrika marker.
Klapperstensfält
Inlandsisen förde med sig mängder av material. Det var allt ifrån lerpartiklar till stora block. När isen smälte undan och försvann från Koster för ca 13 800 år sedan blev detta material kvar.
Det tjocka istäcket pressade ner jordskorpan och i Kosterområdet var jordskorpan som mest 275 m lägre än idag. När isen smälte sjönk det som satt fast i isen ner på botten. Landet höjde sig igen och Koster började dyka upp över vattenytan för 8000 år sedan. När det blev grundare började vattenströmmar och vågor påverka botten mer och mer. Lera och sand spolades lätt iväg och fördes till djupare och lugnare vatten. Stenar och block fördes inte iväg så långt. De rullades och nöttes mot varandra och blev avrundade. Stenarna samlade sig i dalgångar och vid bergsluttningar. Där hittar vi klapperstensfälten vi ser idag.
Omlagring av sten
Vi träffar tyvärr regelbundet på stentorn, gångar i stenfält och andra påtagliga exempel på att besökare har flyttat stenar. Att göra eldstäder av stenar är inte heller ok.
I nationalparken och närliggande reservat får man inte föra bort eller omlagra sten. Det betyder att man inte får förflytta stenar eller bygga formationer. Man får inte heller ta med sig stenar hem. Klapperstenen är geologiska lämningar som är viktiga att bevara även för framtida generationer. Det kan förändra hela naturupplevelsen för nästa besökare att andra inte lämnat miljön orörd. I de karga stenmiljöerna finns lavar och andra livsformer anpassade till just den oföränderliga miljön. Vänds stenen blir det inte bara ett synligt sår utan också risk att laven dör. Bland stenarna kan det tex även växa strandvallmo och ostronört som är mycket sällsynta växter. Sjömärken och gränsmarkeringar kan också vara uppbyggda av sten och får givetvis inte röras. Stenrösen, stenmurar och andra stenformationer kan vara fornlämningar som är skyddade enligt fornminneslagen.
Bohusgraniten
I kustbandet öster om Kosterfjorden dominerar den mer svårvittrade Bohusgraniten som är betydligt yngre än Kosteröarnas berggrund. Bohusgraniten bildades för cirka 920 miljoner år sedan och är den yngsta bergarten i det svenska urberget. För ungefär 270 miljoner år sedan var den vulkaniska aktiviteten i Osloområdet stor och då trängde magma upp i sprickor i graniten. Idag ser vi spår av detta i form av nordsydligt orienterade gångar av diabas och rombporfyr.