El primitivo templo de Abderraman I (785) estaba formado por once naves longitudinales en dirección norte-sur. En esta parte llama la atención la reutilización de fustes y capiteles de origen romano o visigodo situados a distintas alturas debido a la fijación de la línea constructiva sobre el techado en vez de sobre el terreno. Un hecho particular de esta primera mezquita y de las posteriores ampliaciones es su orientación sur, al igual que la mezquita de Damasco.
Esta circunstancia puede explicarse de diversas formas, si bien parece probable que fuesen los terrenos arenosos del Guadalquivir los que imposibilitasen la orientación ortodoxa hacia la Meca. En el interior el nicho de las oraciones se convierte en punto focal.
Elemento novedoso es el uso de los arcos de herradura procedente del arte visigodo y que el Islam lo adoptará como propio y símbolo de su arquitectura. Las arcadas que dividen las naves son dobles en altura. La inferior, un arco de herradura, y la superior de medio punto. La alternancia de piedra y ladrillo confiere a la Mezquita una singular bicromía que sentará base para construcciones posteriores. Esta doble arquería proporciona una mayor elevación de la cubierta y una mejor iluminación de los interiores. El origen de este singular modelo constructivo a doble altura parece ser el acueducto romano de Los Milagros (Mérida).
A Abderraman I le sucede su hijo Hixem I, encargado de levantar el primer alminar de la Mezquita, de planta cuadrangular. El propio Hixem fue también el encargado de construir las galerías del patio para la oración de las mujeres y la primera pila de abluciones. Así quedaba configurada la primera y principal Mezquita de la ciudad. En tiempos venideros, con motivo del incremento de los fieles o debido a los deseos de monumentalidad de los gobernantes, la Mezquita vivirá numerosas ampliaciones y transformaciones hasta llegar al estado actual.