杰梅因·李·奥尼尔出生于南卡罗莱纳州哥伦比亚，自小和哥哥克利福德还有妈妈安杰拉·奥西恩一起长大。小时候的小奥尼尔很喜欢橄榄球，但更喜欢篮球，他最爱的两位球星是奥拉朱旺和比尔·拉塞尔，拉塞尔大战张伯伦的片子他看了无数遍。

小时候奥尼尔在学校弄伤了自己的左手（小奥尼尔是左撇子），因此只好用右手写字。从此时起，母亲奥西恩强迫他练习用左右手写字，后来又训练他用右手做一切事情，为他以后的篮球之路打了个好基础。

14岁时小奥尼尔身高就长到了6尺4寸（约合1.93米）。进入高中时小奥跟教练格林夫夸下海口，说自己将成为校史最佳球员，但高一他一直都在打橄榄球。一年过后，小奥长了5英寸，身高达到2.08米，这才逐渐在篮球场崭露头角。高中时期，小奥尼尔率队连续三年夺得州冠军，其中1995年他场均18分、12篮板和9次封盖。