Meslek Yüksek Okulu’nun temeli 1976 yılında atılmıştır. Belirli mesleklere yönelik, ülkenin sanayi ve diğer hizmet sektörlerinde ihtiyaç duyulan “meslek elemanları” yetiştirmek amacı ile Milli Eğitim Bakanlığı’nın YAYKUR Örgün Öğretim Kurumu’na bağlı olarak 1976-1977 öğretim yılında eğitim vermeye başlamıştır. Yüksekokul bünyesinde açılan ilk programlar Muhasebe, İnşaat ve Elektrik programlarıdır.
1983 yılında yüksek öğretim kurumlarının yeniden teşkilatlanması hakkında çıkarılan 2809 sayılı kanunla Anadolu Üniversitesi’ne bağlanmıştır. 1992 yılında ise yeni kurulan Afyon Kocatepe Üniversitesi’ne bağlanmış ve İ.İ.B.F. ile bu üniversitenin ilk nüvesini teşkil etmiştir.
Üniversite bünyesine geçmesiyle başlayan eğitim hamleleri Afyon Meslek Yüksekokulu’nu bugünkü seviyesine ulaştırmıştır. Gerek öğrenci sayısı, gerekse program sayısı bakımından Türkiye’deki meslek yüksekokullarının en büyüklerinden birisidir.
1980’lı yıllarda gelişmeye başlayan “mermercilik” sektörüne nitelikli eleman ihtiyacını karşılamak üzere Yüksekokul bünyesinde “Mermercilik Programı” açılmasına karar verilmiş ve bu amaçla Afyon’un tüm sanayici ve yöneticileri el ele vererek bir bina yapma kampanyası başlatmışlardır. İzmir Yolu üzerinde bulunan ve bugün “Ali Çetinkaya Kampüsü” adını alan 200.000 metrekarelik kampus alanında, 1988 yılında temeli atılan bina 1992-1993 öğretim yılında faaliyete geçmiştir. Başlangıçta değişik binalarda hizmet veren Afyon Meslek Yüksek Okulu da; Afyonluların, Mahalli Yöneticilerin ve Hayırsever İş Adamlarının katkılarıyla kendi binasına kavuşmuştur. Daha sonra da kampus alanında Afyon Eğitim Vakfı tarafından bir “Sosyal tesis” binası yapılarak okula devredilmiştir.
Afyon Meslek Yüksekokulu bünyesinde bulunan 18 bölümün altında 24 programla eğitim ve öğretimine devam etmektedir.