Родился 25 августа 1903 года в Эдьхазашкесё (Австро-Венгрия).
Арпад Эло в раннем возрасте вместе с родителями переехал на постоянное место жительства в США, где и увлекся шахматами. Окончив Чикагский университет, а затем став профессором физики и астрономии Маркеттского католического университета, Эло в 1935 году возглавил Американскую шахматную федерацию и пробыл на этом посту четыре года до слияния в 1939 году с Национальной шахматной федерацией.
В единой Шахматной федерации США Эло продолжал занимать различные должности до 1976 года. Одновременно он выступал на различных турнирах, стал восьмикратным чемпионом штата Виконсин, однажды встретился за доской с Робертом Фишером.
И все же главная заслуга Арпада Эло перед шахматами состоит в том, что он создал универсальную систему подсчета индивидуальных рейтингов, которая так и названа - «Рейтинг Эло». Она была одобрена в США в 1960 году, а через 10 лет стала применяться и ФИДЕ. В течение 15 лет Эло возглавлял Квалификационную комиссию Международной шахматной федерации.
Скончался 5 ноября 1992 года в Милуоки, штат Висконсин (США).