范晔出生在一个著名的士族家庭。高祖范晷为西晋雍州刺史,加左将军。曾祖范汪入仕东晋,官至晋安北将军、徐兖二州刺史,进爵武兴县侯。祖父范宁先后出任临淮太守、豫章太守。父范泰仕晋为中书侍郎,桓玄执政时被废黜,徙居丹徒。刘裕于京口起兵灭桓玄,控制东晋政府实权后。范泰重新被启用,出任国子博士、南郡太守、御史中丞等职。他为东阳太守时,因开仓供粮和发兵千人,助刘裕打败卢循有功,被加官为振武将军。从此,范泰受到刘裕的信任,屡被升迁,先后担任侍中、尚书常侍兼司空等职。宋代晋后,拜为金紫光录大夫散骑常侍,少帝时加位特进。
范晔的家庭有着正宗的家学传统。范汪“博学多通,善谈名理”,撰有《尚书大事》二十卷,《范氏家传》一卷,《祭典》三卷以及属于医学棋艺的著作《范东阳方》一百零五卷,《棋九品序录》一卷等。范宁尝作《古文尚书舜典》一卷,《尚书注》十卷,《礼杂问》十卷,《文集》十六卷,尤以《春秋榖梁传集解》十二卷“其义精审,为世所重”。范泰也有《古今善言》二十四卷及文集等多种著述。受到家庭的影响,范晔从小好学,再加上天资聪慧,因此尚未成年,便以博涉经史,善写文章而负盛名。
东晋安帝义熙十年(公元414年),范晔十七岁,州刺史征辟他为主簿。当时,范晔同其父范泰一样,在政治上是支持刘裕的,故不肯应辟就职。六年后即公元420年,刘裕代晋称帝,改国号为宋。这一年,二十三岁的范晔应召到刘裕之子彭城王刘义恭的府下为冠军参军,后又随府转为右军参军。此后十余年,他先后担任过尚书外兵郎、荆州别驾从事史、秘书监、新蔡太守,司徒从事中郎、尚书吏部郎多种职务。
宋文帝元嘉九年(公元432年)冬,扬州刺史彭城王刘义康母亲王太妃去世。刘义康把故僚们召集到府内帮助料理丧事,范晔也到场了。刘义康的母亲死了,范晔实在悲伤不起来。在临葬前的一天夜晚,轮到他的弟弟范广渊值班,范晔兄弟俩邀了一位朋友躲在屋里喝起酒来。醉意朦胧之际,范晔忘记了利害,竟推开窗子,听挽歌助酒。这件事传出后,刘义康非常恼怒。几句谗言上去,宋文帝就把范晔打发到宣城(今安徽宣城)当太守去了。
这次贬官对范晔是一次很大的刺激。仕途上的坎坷勾起了他幼年生活的某些隐痛。范晔虽然生在名门士族,但他本人却是个妾生的庶子。晋代自“永嘉以来,嫡待庶如奴,妻遇妾若婢”,(王茂《野客丛书》卷十五),嫡庶之别是官僚之家不可逾越的大分,因而也决定了子女们的社会身份。范晔的母亲把他生在厕所里,并且碰伤了他的前额,因而落下个小字为“砖”。嫡母所生的哥哥范晏嫉妒他的才学,骂他“进利”,认为他是终家破族的祸害。父亲范泰也不喜欢范晔,早早地将他过继给从伯范弘之。屈伸荣辱与宦海浮沉,使得范晔心情十分苦闷。 在宣城任上,他开始从事后汉史的编纂工作,企图以此排解这种痛苦。史事的研究,打开了他的眼界。范晔后来讲:“本未关史书,政恒觉其不可解耳。既造后汉,转得统绪。”这就是说,原来现实中的许多不能解答的问题,在同历史的经验相对照后,他逐渐整理出了一些头绪。范晔凭着个人对历史问题的理解,写出了他的历史名作《后汉书》。这一年,他三十五岁。