975年，孔令辉在哈尔滨出生。父亲孔祥智是黑龙江省队的乒乓球运动员、母亲谷淑霞是一位教师。在父亲的影响下，6岁开始正式学习打球，为了从小培养他敢拼强手的心理状态，孔祥智还打破少年队员训练的常规，让他和大孩子一起训练、打比赛，然后总结得失。

20世纪80年代，正是在中国乒乓球处于低谷的时候，尤其是男子乒乓球队遇到了非常大的困难，中国直拍快攻打法受到欧洲横拍打法的严重威胁，成绩滑坡。

由此，当时国家组建了一批12-15年龄组的国家青年队，就是娃娃兵，他们的任务就是要在下一个时期冲击世界冠军，孔祥智将仅有12岁的孔令辉依依不舍地送进了国家队，当时还有后来成为孔令辉的好友刘国梁。20世纪90年代以后，这批娃娃兵承担了中国乒乓球在世界舞台上摘金夺银的重任。