Колсон Бэйкер (англ. Сolson Baker) родился 22 апреля 1990 года в Хьюстоне, штат Техас, США. В 2005 году юный Колсон бросил школу, начал употреблять наркотики и записал свою первую демо-кассету Stamp of Approval.
Вскоре Бэйкер решил полностью посвятить себя музыке и взял сценическое имя Machine Gun Kelly (или MGK) в честь знаменитого гангстера Джорджа Келли по прозвищу "Пулемёт". После этого в 2006 и 2007 годах он выпустил два микстейпа, Unstoppable и Stamp of Approval, и начал выступать в клубах. Следующие два микстейпа - Certified и Homecoming — он записал в 2008 и 2009 годах.
11 февраля 2010 года MGK выпустил очередной микстейп 100 Words and Running, где впервые прозвучала его фраза "Lace Up", ставшая крылатой.
В мае 2010 года MGK представил публике свой дебютный сингл "Alice in Wonderland". За эту композицию Колсон удостоился победы на Underground Music Awards в категории "Best Midwest Artist", а за клип на эту песню получил приз от Ohio Hip-Hop Awards в категории "Best Music Video". С этого момента многие поклонники мечтали заказать выступление Machine Gun Kelley на частные мероприятия и дни рождения.
В том же году вышел Lace Up: The Mixtape, который привлек внимание журнала XXL. За него MGK получил награду от Ohio Hip Hop Awards в категориях Best Mixtape, Best Mixtape Artist и Best Male Artist. Так же он получил награду на этой премии за клип на песню "Cleveland".
