Parece que no nos han llegado descripciones detalladas de la arquitectura de la Biblioteca de Alejandría. Sin embargo, los historiadores han podido reunir cierta información, basada en pistas en textos supervivientes y conocimiento de la arquitectura contemporánea. Según un historiador:
En el recinto de la Biblioteca había dos instituciones, el Museo y la Biblioteca misma, con propósitos superpuestos pero jurisdicción separada […]. La ubicación precisa sigue siendo incierta, pero la evidencia circunstancial la coloca en el centro de la ciudad y su puerto. Se desconoce su estilo arquitectónico, pero tenemos pistas que sugieren que fue construido sobre el plan de un “rameseseum”, como tal, una combinación de palacio, museo y santuario. […] La Biblioteca constaba de varias alas y pórticos, con líneas de estantes, o “theke”, dispuestos a lo largo de pasarelas cubiertas (que quizás se pueden reconstruir fácilmente en la mente como claustros). Se nos dice que se dedicaron nichos separados a diferentes clases de autores y a diferentes categorías de aprendizaje. –Roy MacLeod, La Biblioteca de Alejandría: Centro de Aprendizaje en el Mundo Antiguo (Londres: 2004), p. 4-5.
Otro historiador proporciona esta descripción:
En el momento de Ptolomeo III, había dos bibliotecas, la principal en el palacio que servía directamente a los miembros del Museo, y una ‘biblioteca hija’ ubicada en el santuario del dios Serapis, no lejos del palacio. No sabemos nada sobre los arreglos físicos, excepto el hecho negativo de que ninguno de los dos tenía un edificio para sí mismo. La biblioteca principal probablemente consistía en una columnata con una fila de habitaciones detrás, una característica común en los palacios contemporáneos; las habitaciones servirían para archivar la celebración y la columnata proporciona espacio a los lectores. La otra biblioteca probablemente tenía un arreglo similar. – Lionel Casson, Bibliotecas en el mundo antiguo (New Haven: Yale U. Press, 2002), p. 34
- ¿Cuál es el costo de instalar un elevador muy simple en un edificio de 2 pisos en Bangalore?
- ¿Por qué los edificios antiguos tienen muchas más decoraciones que los modernos?
- ¿Por qué los edificios australianos no tienen escapes de incendio?
- Teóricamente, ¿qué altura tendría el edificio más alto?
- ¿Qué se necesitará para crear una ciudad como Nueva York? ¿Es posible?
Captura de pantalla del Cosmos de Carl Sagan , con una representación artística de cómo podría haber sido el exterior de la biblioteca. Tenga en cuenta las grandes aberturas para dejar entrar la luz, que se muestra con las puertas cerradas en esta imagen. El artista imaginó una gran claraboya sobre un patio interior dentro del edificio para proporcionar luz adicional. 
Otra captura de pantalla de Cosmos, con una representación artística del interior. Esta imagen muestra una de las habitaciones para rollos, que se muestran aquí como apiladas en estantes empotrados en las paredes. La iluminación de la imagen no es realista y los detalles de cómo se construyó y decoró la habitación son bastante especulativos. Las áreas de lectura probablemente estaban separadas de las áreas de estanterías en realidad. 
La arquitectura debe haber mantenido las colecciones seguras, pero cómodas para que los lectores puedan acceder. Sabemos que las personas habrían necesitado mucha luz natural para leer los papiros, ya que el peligro de incendio habría prohibido el uso de llamas. Las aberturas que dejaban entrar la luz no se habrían vidriado, sino que se habrían abierto al aire, probablemente protegidas por persianas o puertas por la noche para evitar a los ladrones. La humedad y la lluvia también tendrían que mantenerse fuera. Mantener los rollos en gabinetes o nichos interiores, con las áreas de lectura dispuestas en pasillos colindantes contiguos, tal vez organizados alrededor de un patio, sería una forma lógica de organizar el espacio. Probablemente estaba ricamente decorado y habría parecido más griego que típicamente egipcio a nuestros ojos, ya que Alejandría era una ciudad helenística.