Родился 13 сентября 1951 года в Ленинграде (ныне Санкт-Петербург), в семье студентов-однокурсников из Первого Медицинского института Якова Шмарьевича Розенбаума и Софьи Семёновны Миляевой. Яков и Софья окончили институт в 1952 году, а затем семья отправилась жить в Восточный Казахстан, в город Зыряновск. Отец — Яков Шмарьевич Розенбаум, врач-уролог, стал главным врачом городской больницы; мать Софья Семёновна Миляева — акушер-гинеколог.
Семья жила в доме № 102 на Невском проспекте. Александр стал заниматься музыкой с пятилетнего возраста. Окончил школу на улице Восстания — школа № 209, бывший Павловский институт благородных девиц, раньше здесь учились его родители, потом — дочь. В 9-10 классах учился в школе № 351 с углублённым изучением французского языка на Витебском проспекте 57, которую успешно окончил в 1968 году. Там же активно участвовал в самодеятельности, а параллельно посещал занятия в вечернем музыкальном училище по классу аранжировки. Окончил Ленинградскую Детскую музыкальную школу № 18 по классу фортепиано и скрипки сначала под руководством Ларисы Яновны Иоффе, а затем — учителя Марии Александровны Глушенко.
В 1968—1974 годах учился в Первом медицинском институте в Ленинграде. До сих пор ежегодно даёт там концерты. Был исключён из института, но в армию не взяли по причине плохого зрения, после чего пошёл работать в больницу. Через год восстановился в институте и закончил своё образование. Звание полковника медицинской службы получил в подарок на 50-летие.
В 1974 году, сдав на отлично все государственные экзамены, Александр получил диплом врача-терапевта. Его специализация — анестезиология и реаниматология. Пошёл работать в скорую помощь врачом, на Первую подстанцию, расположенную на улице Профессора Попова, д. 16 Б, неподалёку от родного института.
Занимался в вечернем джазовом училище при Дворце культуры имени С. М. Кирова. Песни начал писать с 1968 года в институте для капустников, студенческих спектаклей, вокально-инструментальных ансамблей и рок-групп. В 1980 году ушёл на профессиональную эстраду. Играл в различных группах.
У Александра Розенбаума был выбор между профессией врача, по которой он уже отработал 5 лет и нашёл в ней себя, и эстрадной карьерой. Был сделан выбор в пользу музыки.
Выступал в составе групп и ансамблей: "Адмиралтейство", "Аргонавты", ВИА "Шестеро молодых", "Пульс".
Началом сольной деятельности стало выступление 14 октября 1983 года в Доме культуры МВД имени Ф. Э. Дзержинского. В дальнейшем он стал художественным руководителем театра-студии "Творческая мастерская Александра Розенбаума".
В 1980-х годах неоднократно посещал с концертами Ограниченный контингент советских войск в Афганистане.
В 2003 году избран депутатом Государственной думы России от партии "Единая Россия". Пробыл в должности до 2007 года.
Участник ежегодной Национальной Премии "Шансон года" в Большом Кремлёвском дворце.
В 2014 году принял участие в озвучивании украинского документального фильма "Тайна Королевского батальона", посвящённого гибели 1-го батальона 682-го мотострелкового полка 108-й мотострелковой дивизии Вооружённых Сил СССР в апреле 1984 года, во время Афганской войны. В этом фильме Розенбаум выступил как чтец закадрового текста и исполнитель заключительной песни "Караван".
В декабре 2015 года за свою политическую позицию и взгляды на украинские события 2013—2014 годов Розенбаум был включён в чёрный список российских артистов, являющихся персонами нон грата на территории Украины. Как заявил музыкант в эфире программы "Звезда на "Звезде" с Леонидом Якубовичем, сейчас приличному человеку не прилично не быть в этом списке.
Живёт и работает в Санкт-Петербурге. Был в составе жюри КВН.
