1540年日内瓦宗教改革派重掌政权，加尔文应邀重返日内瓦领导宗教改革及市政工作。加尔文在日内瓦进行的改革主要为：①废除天主教的主教制，建立长老制;教会圣职只包括牧师、长老和执事;长老一般由有威信的平信徒担任。长老会议由各教区民主选举的代表组成，归市议会直辖。教会设立由长老会议和6名牧师组成的宗教法庭,在加尔文的指导下审理各种案件。教会的领导机构是市和地方教区两级牧师团体，市级牧师团体由各教区首脑组成，负责统辖各教区牧师团体。加尔文从1542年至逝世前一直是这个团体的主席；
②简化宗教仪式，宣布《圣经》是信仰的唯一依据，因此在圣事中只施行圣经所记耶稣亲自设立的洗礼和圣餐礼；
③取缔演戏和**，提倡节俭，反对奢侈，严禁一切浮华享乐的行为；
④改组市议会，将日内瓦划分为数教区，各教区均由长老和教区的牧师团体处理政务，日内瓦市议会由长老、牧师和上层市民组成，是最高的行政机构，拥有司法权。政权的形式按照加尔文政教合一的“神权共和国”模式建设；
⑤鼓励经商致富，宣称做官执政,蓄有私产,贷钱取利，同担任教会职务一样，均可视为受命于上帝。
在这期间，加尔文积极支持对再洗礼派的镇压。西班牙人文主义者、生理学家塞尔维特因反对三一论，并与德国的再洗礼派有联系，被加尔文向设在法国里昂的天主教异端裁判所告发。当塞尔维特越狱逃至日内瓦时，加尔文又授意当地的宗教法庭于1553年以火刑处死。从1555年开始，归正教会在日内瓦已占绝对统治地位。加尔文除了领导教务外，还从事旧约的注释。1559年，日内瓦学院在他的指导下成立。同年他的《基督教原理》第四版付印,篇幅从1536年初版6章发展为79章，后来被译成多种语言，为归正宗神学的标准和依据。
