A szem színét két teljesen eltérő dolog határozza meg: a szerkezeti sajátosságok és pigmentek. A strukturális jellemzők a fényszóródásnak köszönhetően gyakorolnak hatást a szem színére, míg a pigmentek úgynevezett közvetlen színképzők.
Tipikusan szerkezeti sajátosságoknak köszönhető szín a kék, míg jellemző pigment színnek a barna mondható. Persze nem csak tisztán egyik, vagy másik verzió létezik, keveredhetnek is ezek a tényezők, részben az egyik, részben a másik befolyásolja például a zöld szemszín létrejöttét.
A tudomány összesen húsz különböző szemszínt különböztet meg, néhány közülük homogén, a többi pedig keverék.