Регалии: Бронзовый призер Олимпийских игр (1960) в весовой категории свыше 81 кг; чемпион Европы (1963); 2-кратный бронзовый призер чемпионатов Европы (1957, 1959); 11-кратный чемпион Чехословакии.
Родился 25 сентября 1933 года в Ческе-Будеёвице (Чехословакия).
Йозеф Немец дебютировал на международных соревнованиях в 1954 году, однако долго не мог добиться победы на крупных турнирах. На Олимпиаде-1956 в Мельбурне Немец выбыл в первом же круге, уступив со счетом 2:3 будущему олимпийскому чемпиону американцу Питу Радемахеру. В следующем году на домашнем чемпионате Европы он проиграл в полуфинале советскому тяжеловесу Андрею Абрамову. Через два года снова оступился в полуфинале европейского первенства. Еще через год - в полуфинале Олимпиады-1960.
Оставаясь лучшим тяжеловесом Чехословакии, Немец на протяжении многих лет представлял страну на главных турнирах, но первенствовал лишь однажды - в 1963 году на чемпионате Европы, который проходил в Москве.
Сразу после этого триумфа Йозеф Немец объявил о завершении карьеры. На тот момент в его активе было 320 боев, в 308 из которых он одержал победы.
Завершив выступления, работал тренером, затем спортивным функционером.
Скончался 10 сентября 2013 года Ческе-Будеёвице (Чехия).