Арбор четыре раза завоевывал Кубок Стэнли в качестве хоккеиста (играл на позиции защитника) и стал известен тем, что носил очки во время игры. В начале 1970-х в течение трех сезонов он тренировал "Сент-Луис Блюз", а в 1973 году принял "Нью-Йорк Айлендерс", который появился в НХЛ годом ранее. В 1975 году "Айлендерс" не хватило одной победы, чтобы выйти в финал Кубка Стэнли. Команда оставалась в числе сильнейших клубов НХЛ до конца десятилетия. Потом она четыре раза подряд выиграла Кубок Стэнли (1980-83). В 1984 году "Нью-Йорк" снова вышел в финал, но проиграл там "Эдмонтон Ойлерз".
Арбор ушел с поста тренера после сезона 1985-86, но вернулся в команду в 1988-м после увольнения Терри Симпсона. Он продолжил работать с "Айлендерс" до сезона 1993-94, а летом 1994 года окончательно завершил карьеру. Правда, 3 ноября 2007 года он провел еще один матч в качестве тренера (против "Питтсбург Пингвинз", победа со счетом 3:2), который стал для него 1500-м. Он также одержал 740-ю победу с "Нью-Йорком". В общей сложности на его счету оказалось 782 победы в карьере, и он занимает второе место в истории лиги по этому показателю после Скотти Боумэна.
"Он лучший тренер, с которым мне довелось работать, - сказал Рэй Ферраро, игравший у Арбора в сезоне 1992-93. - Эл чувствует, что нужно игроку, с чем он может справиться. Он знал, когда надо похлопать по плечу, а когда повысить голос".