Första muren byggdes på 1200-talet. Magnus Ladulås (1290-talet) blev arg för att Visby hade byggt en mur utan kungligt tillstånd och staden fick betala böter. När kungen såg att här fanns en möjlighet att tjäna en extrahacka fick staden lov att höja muren ytterligare och även bygga torn. Murens utbyggnad påbörjades i början på 1300-talet.
På 1600-talet planerade man att riva stadsmuren och ersätta den med moderna bastioner. Stadsplanen skulle ersättas med en rutnätsplan. Bristande ekonomi förhindrade detta. Resurser till förstärkningar kom emellertid i början av 1700-talet.