1928年西班牙甲级联赛开始举办，当时有十支球队，在前几个西甲赛季由于队伍实力相对较弱，皇家马德里未获得西甲联赛冠军，直到引进了著名球员查莫拉后，才在19311932赛季首次夺冠，并且在第二年成功卫冕。

球队在1931年首次夺得西甲联赛冠军，1933年再次蝉联冠军宝座。之后由于西班牙国内的政局动荡和内战的爆发，皇马度过了一段艰难的日子，到1941年，皇马重新获得了皇家称号以后，俱乐部方才扫除阴霾。

1943年圣地亚哥·伯纳乌作为“既有真才实学，又能够被主席团接受，又能被国家奥委会和西班牙体育联合会认可”的唯一人选入主皇马俱乐部，从此开始了皇家马德里的“伯纳乌时代”。那年国王杯半决赛那场国家德比成为永恒的经典，首回合巴塞罗那三比零获胜，回到伯纳乌的第二回合，上半场巴萨就以零比八落后，最终皇马以十一比一大胜巴塞罗那，而这也成为了两支球队原始的仇恨根源，而这个比分也在后来漫长的日子中被不时的提起来。

1947年查马丁体育场落成，皇马球员首次身披白色的号码队服进入这座伟大球场，之后的几年皇马成绩平平，随着1953年神奇教练恩里克·费尔南德斯的到来，皇马正式操起了当时流行的先进阵型阵型，伯纳乌主席也在那个赛季为皇马签下了迪·斯蒂法诺，此后，随着亨托、马特奥斯等球员的到来，皇马时隔二十一年后夺得了1954年的西甲联赛冠军。

20世纪50年代初期皇家马德里重金聘用各国好手，引进了亨托和迪·斯蒂法诺，达到了20世纪的黄金时期。

1954年皇马终于夺回了阔别二十一年的西甲联赛冠军，并在1955年又蝉联了联赛冠军。同年欧足联创办了首届欧洲冠军杯，皇家马德里代表西班牙参赛，一举夺得前五届欧洲冠军杯冠军。这一纪录一直没有任何球队能够打破，皇家马德里因此也成为了欧洲的梦之队。