Dans de nombreuses universités, la bibliothèque universitaire coexiste avec d'autres bibliothèques rattachées à une faculté, une Unité de Formation et de Recherche (UFR), un laboratoire, un centre de recherche ou un institut.
Une même bibliothèque peut être utilisée par plusieurs universités, on parle alors de bibliothèque interuniversitaire (BIU). que certaines bibliothèques peuvent avoir une double fonction, bibliothèque publique et bibliothèque universitaire. C'est le cas en Auvergne avec la bibliothèque communautaire et inter-universitaire de Clermont-Ferrand.

L'histoire des bibliothèques universitaires est liée à celle des universités. Les bibliothèques universitaires sont donc nées au Moyen Âge et les fonds de nombreux établissements ont pour origine les collections constituées dès cette époque. C'est le cas de l'ancienne bibliothèque de la Sorbonne dont les fonds anciens sont répartis entre l'actuelle bibliothèque interuniversitaire de la Sorbonne et la Bibliothèque Nationale de France (BNF).
Après avoir commencé avec des manuscrits, les bibliothèques universitaires ont très vite adopté les ouvrages imprimés. C'est surtout au XIXe et au XXe siècles siècles que se développe une édition plus proprement universitaire, aussi bien par les ouvrages de cours que par les documents de recherche et les thèses. C'est la raison pour laquelle il faut attendre cette époque pour que les bibliothèques universitaires acquièrent une documentation spécifique.
C'est l'extension des études supérieures, surtout à partir des années 1950 qui a introduit de grands changements dans les bibliothèques universitaires. Toutefois, l'augmentation de la population étudiante a été prise en compte un peu tard, et la modernisation des bibliothèques a pris du retard, que les pouvoirs publics se sont ensuite efforcé de combler.

Sauf exception, chacune des universités françaises a au moins une bibliothèque universitaire. Le décret 85-694 du 4 juillet 1985 sur les services de la documentation des établissements d'enseignement supérieur relevant du ministère de l'Éducation nationale, prévoit dans chaque université la constitution d'un Service Commun de Documentation (SCD), manifestant la volonté de fédérer tous les espaces documentaires de l'université, ce qui est parfois plus théorique que réel.
L'organisation des SCD varie beaucoup car elle suit celle choisie par l'université. Le SCD regroupe des bibliothèques intégrées et des bibliothèques associées. Quand une bibliothèque est intégrée, le personnel, les documents et les moyens financiers relèvent directement du SCD. Les bibliothèques associées sont gérées par les UFR, les instituts ou les centres de recherche. C'est ainsi que les bibliothèques universitaires sont souvent implantées sur plusieurs sites, parfois dans des villes différentes. Il est aisé de distinguer le SCD, service commun, et chacune des bibliothèques universitaires.
Le SCD est placé sous l'autorité du président de l'université, il est dirigé par un directeur qui a généralement le grade de conservateur des bibliothèques et administré par un conseil de la documentation.
Dans les villes ou les agglomérations comportant plusieurs universités, le décret cité ci-dessus prévoit la possibilité de créer un Service Interétablissement de Coopération Documentaire (SICD) ou éventuellement plusieurs. Les SICD peuvent soit se substituer aux SCD des universités, soit intervenir en complément des SCD existants, par exemple pour la documentation de recherche ou pour la gestion des fonds anciens. Les bibliothèques entièrement gérées par un SICD sont des bibliothèques interuniversitaires. Paris dispose ainsi d'un réseau de bibliothèques interuniversitaires. Il y a aussi deux SICD à Grenoble, et un dans chacune des villes de Montpellier, Toulouse et Lyon. À Strasbourg, en plus des SCD des trois universités, il existe la Bibliothèque nationale et universitaire de Strasbourg.

Le budget des bibliothèques universitaires (hors personnel) est essentiellement attribué par l'État, à hauteur de 85 % globalement, 10 % environ provenant des droits de bibliothèques acquittés par les étudiants et 5 % de recettes diverses.