Biblioteka zawdzięcza swoją nazwę Celsusowi Polemaenusowi. Był on rzymskim gubernatorem Azji Mniejszej w II wieku n.e. Został pochowany w sarkofagu pod biblioteką której budowę rozpoczęto w 110 roku n.e. Biblioteka stanowi swoiste mauzoleum ufundowane przez jego syna - Juliusza Aquila Polemaeanusa, który zapisał na ten cel 25 tysięcy denarów. Budowę zakończyli jego potomkowie w 135 roku n.e.