Przypuszcza się, że obszar na którym znajduje się obecne miasto zamieszkiwany był już w starożytności. Wiadomo też, że w czasach Wikingów znajdowała się tu niewielka osada. Jednak najstarsze zapiski historyczne o mieście pochodzą dopiero z XI wieku. Niespełna wiek później w mieście wybudowana została pierwsza warowna strażnica w której w 1397 roku podpisano unię kalmarską jednoczącą Danię, Szwecję i Norwegię w jedno państwo. W XVI wieku twierdza została gruntownie przebudowana przez królów Gustawa I Wazę, Eryka XIV i Jana II Wazę. Ostatnim królem, który rezydował na zamku kalmarskim był Karol XI Wittelsbach (1655-1697). Po opuszczeniu twierdzy przez dwór królewski, zaczęła ona tracić na znaczeniu (jak i całe miasto). Dopiero rozwój przemysłu w XIX wieku, spowodował że Kalmar ponownie zaczął się rozwijać i odzyskiwać swoją dawną świetność.
