尔默据说是由以前的丹麦于1275年建立的，作为位于东北方向20公里的隆德大主教辖区的扩展的码头和渡口。很多世纪以来一直是丹麦的第二大城市，最早的名称为Malmhau'，表示沙滩的意思。
15世纪，马尔默作为丹麦最大和最繁忙的城市之一，人口大约为5000人。它成为厄勒地区最重要的城市，在德国汉萨同盟里作为市场，最富盛名的就是青鱼渔业。在那个时期，城市被波美拉尼亚的埃里克国王于1437年武装统制。
主要是埃里克自己的波美拉尼亚军队：一个有红色狮鹫的纹章的队伍，最后扩大到整个斯科讷省。
1434年，一个新的要塞建立在城市南部的沙滩边。这个要塞，今天叫做马尔默城堡，直到16世纪中。很多其它的防御工事陆续建造起来，使马尔默成为瑞典防御最牢固的城市，不过这些工事里只有马尔默城'保留了下来。
信义宗（路德教会）的教义在16世纪开始流行，马尔默是斯堪的纳维亚地区首先被彻底转化的城市之一（1527-29）。
17世纪，马尔默和斯科讷地区被瑞典占有。这是在1658年罗斯基勒条约签订后发生的。战争并没有随之结束，在1677年6月，14，000丹麦军队在马尔默设下了包围圈，历时一个月，但是没有征服它。
18世纪初期，马尔默大概有2300位居民。但是，由于瑞典查尔斯七世战争和瘟疫，人口在1728年降到了1，500人。直到18世纪末期现代港口建造前，人口一直没有太大增长。
之后城市开始扩张，到1800年一共有38054位居民。 1850年代到70年代，瑞典南部铁路线的建成使马尔默得到了巨大的发展，对工业有了一个显著的推进作用。
工业在接下来的150年是马尔默的主要产业。
1870年代，马尔默追上了北雪平，成为瑞典第三大居住城市。1900年，马尔默的人口达到了60000人，更巩固了这个地位。
在20世纪前半世纪马尔默继续发展。人口很快在1915年达到了100000人，在1952年达到了200000人。瑞典考库姆造船所（Kockums）是马尔默最大的雇主，并且是世界上最大的造船所之一。
1971年，马尔默人口达到了265，000人，在30多年内没有超过这个数字。之后，瑞典遭遇了一个工商业衰退时期，工业遭受了严重的困难。
造船业和手工业更是受到猛烈的打击，使斯科讷地区的很多城市达到了很高的失业率。.