道光十七年，张之洞出生于父亲张瑛的任所——贵州兴义府的知府衙门里。
张瑛的祖上在明永乐年间，由山西洪洞县迁到直隶，后定居南皮县。明清两朝，南皮张家都出过不少官员。张瑛的曾祖、祖父均做过县令。张瑛本人二十岁中举，但接连三科会试未第。清代定制，三科未第的举人可以得到一种优待，即这类人再进行一次考试，其中成绩一等者享受进士待遇，外放知县。这种选拔方式，叫做举人大挑。张瑛即因大挑而放到西南边隅贵州安化县，后迁古州同知，积劳擢升兴义知府。
张之洞天资聪颖，在父亲、塾师的严格督促下发愤读书，十三岁便一举考取秀才。十六岁那年他来到原籍参加顺天乡试，高中第一名。乡试的第一名又称解元，十六岁的少年解元，在科举史上极为罕见。有多少读书人年届不惑，还在为取得生员的资格焚膏继晷；又有多少读书人，两鬓斑白还在为举人的功名伏案苦读。而张之洞，只用了十六年的光阴，便顺利地迈过许许多多人一辈子还走不完的科场苦旅！一时间，这个出生在知府衙门里的小少爷成了全国瞩目的神童。
不料此后的十年，神童张之洞在通往会试的途中却连遭不利。
先是太平军的北伐部队进逼直隶，京师震动，寄居亲戚家的张之洞无法在京师安心读书，便离京回到父亲任职的兴义府。接着，兴义府被受太平军影响而起事的乡民所包围，失去了读书的安静环境。不久父亲病故，他必须守丧三年。丧期满后，正遇上己未科会试，张之洞正拟参加，孰料他的堂兄张之万被派为会试同考官，他不得不循例回避。他的这位堂兄张之万可不是一个简单人物，是道光丁未科的状元。丁未科在近代史上被称为名科，因为这一科里考中李鸿章、郭嵩焘、沈桂芬等人，张之万的试卷压倒这些名流，可见他必有过人之处。第二年，朝廷为咸丰帝三十岁举行万寿恩科，张之万又被派为同考官，张之洞无可奈何地再次回避。
待到同治元年，好不容易进京参加会试时，距中举已是九个年头了。因为少年科场的顺利，因为九年的意外折腾，也因为有这位状元堂兄的榜样在前，从小抱负甚大、自视甚高的张之洞，决心要在这次会试中大魁天下。他极用心地做好八股文、试帖诗，文章花团锦簇，诗句珠圆玉润。他对高中怀着必胜的信心。他的试卷落到一个名叫范鹤生的房师手里。范鹤生见到这份试卷激赏不已，认为文笔有《史》《汉》之风，亟力向主考官推荐。却不料主考官并不赏识，张之洞落第了。范鹤生为之惋惜，亲到张之洞下榻的客栈看望。范师是个性情中人。他一面安慰门生不要灰心，明年恩科再来，一面又为科场误人的历史和现状愤愤不平，说到动情处，泪流满面。张之洞心中十分感激。
那时，张之万正署理河南巡抚，便邀请堂弟来开封居住，一来好温习经史，二来也可帮衙门拟点文稿，借以历练。张之洞代堂兄起草了几份奏折都很得体，其中尤以一道关于漕务的奏疏写得更好，受到慈禧的嘉许。她在奏疏上亲自批了八个字：直陈漕弊，不避嫌怨。张之万一直因自己两度做同考官，使得张之洞失去两次会试机会而不安，见到朱批后心想：不可埋没堂弟的功劳，应该告诉太后，使太后对堂弟有个好印象，这对于下科会试的录取和今后的仕途都有好处。于是，张之万在不久后的另一道折子里，顺便提到了漕务之折乃堂弟张之洞所拟。就这样，身居深宫的慈禧太后第一次知道世上有个见识和文笔都不错的张之洞。
第二年，踌躇满志的张之洞再次会试，诗文比上年更加光彩耀目。人世间也真有巧事。范鹤生这年再度出任阅卷官，而张之洞的试卷则又一次落到他的手里。尽管名字被糊去，但精于辨文的范鹤生一读便知这是场屋中最好的文章。他给予很高的评价，又四处揄扬，极力荐举。发榜时，张之洞被取中一百四十一名贡士。当张之洞的名字被高声唱读时，范鹤生又惊又喜，欣慰无比。复试时张之洞心情极好，临场才思泉涌，竟然榜列一等一名。
几天后殿试对策。策论的题目是：制科之设与国家拔取人才论。这是一场决定进士等级的重要考试。少年得志的张之洞发舒胸臆，不袭故常，恨不得将平生才学和满肚子要说的话一古脑倒出来。他指出当今人才缺乏，是因为太拘资格，科目太隆，又加之捐纳杂驳，鱼目混珠，故朝廷下诏天下推举将才时，应者寥寥。又直言当今天下大患在贫，吏贫则黩，民贫则为盗，军贫则无以为战，请求皇上亲倡节俭，除积习，培根本，厚风俗，养民生，致富裕。
张之洞只图直抒心声之痛快，却不料作为一篇场中之文，已大大出了“四平八稳”的常格，大多数阅卷官不喜欢这道策论，主张将其列为三甲之末。然而主考官、大学士宝望却很欣赏。他力排众议，将张之洞列为二甲之首，即第四名。按惯例，主考官将前十名进呈皇帝，由皇帝亲自圈定名次。通常皇帝都不作改动，按主考官所呈上的名次圈定。但刚刚垂帘听政的二十八岁的慈禧太后，却不是一般的执政者，她颇思有所作为，并有自己的一套主张。