İki katlı olan kütüphane binası çok zengin mimari süslemeli bir ön yüze sahiptir. Yapıya 9 basamaklı 21 metre uzunluğunda bir platform üzerinden ulaşılır. 16 metre yüksekliğindeki ön cephe 4 çift sütunla taşınmaktadır. Her çift sütunun arasında birer kapı ve pencere bulunmaktadır. Çift sütunların arasına yerleştirilen 4 adet kadın heykeli akıl, fazilet, bilgi ve anlayışı temsil etmektedir. 

İç salon 10,92 x 16,72 m. ölçüsünde tek ve yüksek bir salondan oluşuyordu. Zemini renkli mermerlerle kaplıydı. Salonun içinde, duvarlarda üç sıra halinde nişler bulunuyordu. Böylece kütüphanenin içi üç katlı olarak kullanılıyordu. Nişlerde bulunan tahta dolap veya raflarda rulolar ve ayrıca ciltler halinde bir araya getirilmiş elyazmaları saklanıyordu. İkinci ve son katlardaki nişlere ulaşabilmek için günümüzde halen bir çok kütüphanede kullanıldığı gibi sütunlu, iki katlı bir iç galeri büyük salonu at nalı gibi çevreliyor; kitaplar görevli bir memur tarafından okuyuculara veriliyordu. Yapılan incelemelerde nişler içindeki dolaplarda 12500 adet kitabın bulunduğu tahmin edilmektedir. Salonun ortasında bulunan büyük kemerli nişin içinde Celsus’a ait bir heykel, altında ise beyaz mermerden yapılı lahit içinde Asya Eyalet Valisi Gaius Celsus Polemaeanus’un mezarı yer almaktadır.