俱乐部成立于1903年月，由卡尔·蔡司(Carl Zeiss)光学仪器厂的工人得到公司的支持所建立的球队，最初命名为卡尔蔡斯厂足球俱乐部。俱乐部在1911年将名字改为"Fussball Club Carl Zeiss Jena e.V."，1917年3月再次改名为"1. Sportverein Jena e.V."。

二战结束后不久，东德当局偏好将社会主义英雄的名字冠名在体育运动队上，卡尔蔡斯耶拿足球俱乐部曾被挂名恩斯特·阿贝体育俱乐部。 德国物理学家、光学家恩斯特·阿贝是卡尔蔡斯的合作人，早年为工人阶级争取八小时工作制制度，成为19世纪劳动阶级的里程碑。为了纪念阿贝，球队的体育场就以恩斯特·阿贝所命名的。