Galvenā atšķirība starp organiskām un neorganiskām vielām ir tā, ka visās organiskajās vielās būtisks komponents satur oglekli, turpretī neorganiskās vielas var saturēt vai nesatur oglekli.
Vairumā gadījumu organiskās vielas satur oglekli, ūdeņradi un dažreiz skābekli, kā arī CH saites. Bet lielākā daļa neorganisko savienojumu nesatur oglekli, izņemot dažas vielas, piemēram, karbonātus un cianīdus, kas vēsturisku iemeslu dēļ tiek klasificēti kā neorganiski (iepriekšējie zinātnieki šos savienojumus nosauca par neorganiskiem). Tāpēc galvenā atšķirība starp organiskām un neorganiskām vielām ir vielas ķīmiskais sastāvs.