上回说到，马萨诸塞殖民地为了培养正统的清教神职人员，于1636年拨款设立北美殖民地第一所学院，学校的地址选在了牛顿市，这个地方后来更名为剑桥市，用来表达对剑桥大学的崇敬。1638年夏天，经过两年的筹备，这所新学院正式开学，而恰在此时，毕业于剑桥大学的约翰·哈佛牧师在临终前向学院捐赠了自己一半的遗产，包括700余磅的资金以及400余本书籍，这笔捐赠成为了学院开设的基础，半年后，新学院正式更名为哈佛学院，以纪念这位热心教育事业的老牧师。
约翰·哈佛的雕像已成为哈佛校园内的必打卡景点
哈佛的第一届学生只有9人，而他们的院长则是约翰·哈佛的剑桥校友，意大利帕多瓦大学的博士纳撒尼尔·伊顿。伊顿到任后立即组织营建了哈佛第一栋教学楼和后来闻名遐迩的哈佛庭院，而作为唯一的教师，他负责给9位学生讲授宗教经典，他的妻子也负责供应学生的伙食。然而，或许是先天读书圣体的伊顿对资质平平的学生缺乏耐心，又或者是这些二世祖们根本烂泥扶不上墙，纳撒尼尔在任期间屡屡爆出殴打学生的丑闻，她妻子做的饭更是火上浇油，学生甚至在汤里吃出了羊屎蛋儿。更重要是的，纳撒尼尔的哥哥、马萨诸塞湾殖民地的创始人之一西奥菲勒斯·伊顿也卷入了上文提到的教派之争，并最终与总督温斯罗普决裂，前往纽黑文建立了新的殖民地。在学校管理和政治风波的双重压力下，纳撒尼尔任职一年便最终黯然下课，学院也随之关门，学生各回各家。在结束不成功的哈佛之旅后，纳撒尼尔和绝大多数家人一起乘船回归英国，然而这艘船并未如约抵达大洋彼岸，纳撒尼尔全家最终的下落也成为了大西洋上永远漂浮的谜团。
哈佛大学最早的校徽设计稿（设计完被丢在角落里，200年后才被找到）
哈佛学院教学的停滞直到1640才得以结束，这一年，哈佛迎来了自己的第一位真正意义上的校长，亨利·邓斯特。邓斯特校长在英国曾担任过乡村教师，走马上任哈佛后不仅马上召回了休学在家的学生，而且效仿牛津和剑桥的模式，打造了三年制的培养方案。由于当时马萨诸塞殖民地的清教徒占绝大多数，学院并不需要对学生的信仰做出特定要求，只要能够熟练阅读西塞罗等人的拉丁文著作、掌握拉丁文严格的语法、用拉丁文写作即可入学。入学后实行寄宿制，学习的内容则以邓斯特熟悉的领域为主，包括拉丁语、希伯来语与希腊语，以及最基本的历史、天文等科目。
校园内为纪念邓斯特校长而以其为名的建筑
1642年，哈佛送走了自己的首届毕业生，在接下来的十年中又陆续培养出50余位学生并授予相应的学位。在当时，能够理解拉丁文的《新约》《旧约》原文，并且信仰虔诚、行为规矩的毕业生即可获得学士学位，而要想获得硕士学位则还需要精通算术、几何等学科并撰写论文和答辩。从中可以看出，在当年的哈佛，宗教典籍、道德品质是最为学校看重的，这也正是很多家长把学生送到学校的原因：希望培养学生的纪律性和高尚品德。
尽管学生为了毕业付出了大量的努力，但哈佛最初几年颁发的毕业生堪称“野鸡证书”。按照英格兰的传统，只有皇室授权的大学才有学位授予权，而当时哈佛学院只得到了殖民地政府的许可，并没有颁发学位的资格，邓斯特校长和哈佛董事会的行为可谓勇气可嘉，北美殖民地叛逆的性格也初见苗头。在实行判例法的英美法系中，一个违规行为如果长期存在而没有遭到有效反对，这样的行为通常会被认为是合理的并写入判例，因此正是哈佛打破常规的做法，保证了后来一系列殖民地学校在事实上的学位授予权。
亨利·邓斯特为哈佛大学打下了教学和管理的基础，但与纳撒尼尔一样，他也陷入了宗派冲突。亨利认为，只有信仰坚定、已经得救的信徒才能够接受洗礼，而殖民地主流的观点则是在婴儿出生后即实行洗礼，这样的冲突愈演愈烈，最终导致亨利失去殖民地政府的信任，在担任哈佛校长14年后辞去职务，在波士顿附近担任普通牧师，过着自己当年在英国差不多的生活，直到逝世。作为受到校史承认的第一位校长，亨利·邓斯特为哈佛打下了良好的发展基础，学院也和马萨诸塞殖民地一起成为了北美殖民地的典范。而随着越来越多的殖民地逐渐兴起，哈佛学院也开始面临其他学院的竞争，有的对手具有英国皇家背景，有的对手则源自殖民地内部的分裂。而还有一所学校，将与哈佛争夺“北美第一校”的荣誉。