Его добычу составляло главным образом антикварное огнестрельное оружие, которое он в течение пятидесяти лет прятал в сарае, находящемся рядом с его домом в городе Поттстаун. Ныне 78-летнего «любителя антиквариата» местная пресса называет «одним из самым результативных музейных воров за всю историю страны». В большинстве случаев музеи и не подозревали, что какие-то их экспонаты исчезли. О многих эпизодах агенты ФБР узнали от самого Гэвина.
Впервые ФБР связало Гэвина с кражей в 1971 году из Национального исторического заповедника Вэлли-Форж изготовленной в 1755 году фузеи (кремневого ружья) после того, как он в 2008 году продал этот оцениваемый в $175 000 артефакт за 400 долларов. На допросе Гэвин признался в том, что украл из Филадельфийской академии естественных наук ружье, принадлежавшее знаменитому орнитологу и ботанику Джеймсу Одюбону, а также рассказал о кражах из многих других музеев и исторических учреждений Пенсильвании.
Гэвин помог идентифицировать похищенное оружие и часть его вернуть законным владельцам. По многим эпизодам срок давности истек, и Гэвин признал себя виновным только по одному пункту – краже старинной фузеи. Ему грозило до 10 лет тюрьмы, но федеральный судья Марк Керни, упомянув плохое состояние здоровья ответчика, приговорил его к одному дню тюремного заключения, одному году домашнего ареста и двум дополнительным годам условно. Кроме того, Гэвин должен уплатить $25 000 штрафа и $23 485 в возмещение ущерба.