Бібліотека створена у жовтні 1919 року разом з відкриттям педагогічного інституту. Основу фонду становили книги бібліотеки 1-ї Житомирської чоловічої гімназії (серед зібрання були книги, які в 1860 році подарував гімназії Ю. Крашевський). Очолював бібліотеку з 1919 до 1922 року відомий природодослідник Волині й один із перших викладачів інституту М.П.Кудрицький.
З часом змінювалась матеріальна база бібліотеки. На кінець 1929 року в бібліотеці налічувалось уже понад 30 тисяч примірників. З року в рік розширювалась тематика книг з фізико - математичних, філософських та економічних наук, сільського господарства, мовознавства й літератури, з історії та географії. Значно зросла кількість студентів, які користувалися її послугами ( у 1937 році - 1046 осіб, а у 1939 - 3500). Фонди налічували вже понад 90 тисяч примірників. У 1941 році вони повністю були знищені.
З відновленням навчання у 1944 році бібліотеку довелося створювати заново. Вона разом з інститутом тимчасово розміщувалась у приміщенні середньої школи по вулиці Пушкінській, 38. За допомогою місцевих бібліотек та надходжень у формі пожертвувань з різних міст країни формувалися фонди літератури з педагогіки, психології, історії, суспільно - політичних, фізико - математичних та філологічних наук. На вересень 1944 року у ній вже було 15 тисяч книг. З відкриттям у 1944 році факультету іноземних мов бібліотека почала комплектуватися підручниками, довідниками, та іншою літературою англійською та німецькою мовами.
У 1962 році було відбудовано корпуси інституту, а бібліотеку повернуто у колишнє приміщення. Тут відкривається 2 читальних зали, абонемент, відділ комплектування.
У зв'язку з переведенням із Бердичева природничого факультету книжковий фонд збільшився до 333 000 примірників.
З березня 2004 року бібліотека перейменована у бібліотеку Житомирського державного університету імені Івана Франка.
Нині бібліотека є навчальним, науковим, інформаційним і культурно-просвітницьким структурним підрозділом університету, основне завдання якого забезпечення повного, високоякісного й оперативного бібліотечно-бібліографічного та інформаційного обслуговування студентів, аспірантів, професорсько-викладацького складу, співробітників. Зростає бібліотечний фонд, кількість відвідувань.
Щорічно бібліотеку відвідує 285 тис. читачів: викладачів, наукових працівників, співробітників, студентів та інших користувачів. Їм видається понад 640 тис. книг, журналів, газет, як на паперових так і на електронних носіях.
У бібліотеці ведуться електронний каталог і традиційні карткові каталоги: алфавітний (службовий, читацький); систематичний; періодичних видань. Електронний каталог створюється з 2010 року.