1944年出生于德国的奥格斯堡（Augsburg）1957年，他跟随同为演员的哥哥弗里兹·韦伯（Fritz Wepper）的脚步，以13岁之姿首度踏足电影工业，出任一部喜剧片的配角。一年后，早已多次参与广播剧演出的艾尔玛·韦伯，在幕尼黑献出了自己剧场的处女秀。高中毕业后，艾尔玛·韦伯选择修读戏剧与德国文学，同时并担任电影配音员的工作；事实上，艾尔玛·韦伯一度最为德国影迷熟知的，就是他多年来为好莱坞巨星梅尔·吉普森（Mel Gibson）演出的电影所配的声音，他层次丰富、广受喜爱的声音表情，说是帮助梅尔·吉普森在德国建立名声的重要功臣也不为过。而自1970年代开始，多次参与电视影集演出的艾尔玛·韦伯，也快速成功地建立了一个优秀演员的名声。甚至在1990年，艾尔玛·韦伯与还与德国知名女星乌希·格拉斯（Uschi Glas）一同获选为德国观众最喜爱的银幕情侣。
