学校的办学历史最早可以追溯到1919年民国农商部与江苏省合办的海州渔业技术传习所。1958年经江苏省政府批准，锦屏磷矿技术学校、新海连水产专科学校、新海连制盐工业学校相继成立。1985年江苏省委省政府创办淮海大学，胡耀邦题写校名。建校之初，由北京大学校长丁石孙教授担任顾问委员会主任，南京大学、东南大学等12所高校对口援建。1989年经国家教委批准，在筹建淮海大学的基础上建立淮海工学院。1998年至2002年，江苏盐业学校、连云港水产学校、连云港化工高等专科学校先后并入淮海工学院。2010年学校成为硕士学位授予单位。2017年7月学校成为博士学位授予立项建设单位。2019年7月学校由淮海工学院更名为江苏海洋大学。