胶州图书馆青岛最早的图书馆,1899年建,馆址在沂水路(今青岛市中级人民法院)。该馆只接待德国人及西方侨民,中国人不准入内。1904年接待读者1700人次。1905年,已藏书7650册,报纸杂志70种。1914年日本侵占青岛后,胶州图书馆闭馆。
尊孔文社藏书楼青岛的第一个现代图书馆,亦为中国早期图书馆之一。德国传教士尉礼贤创建,1914年建成。馆址在上海路礼贤书院(今青岛九中院内)。当时住在青的恭亲王――爱新觉罗溥伟题写了“藏书楼”三字,做成匾额挂在藏书楼前。藏书楼广收经、史、子、集,收藏现代图书、外文书籍。1925年10月出版的《全国图书馆调查录》记载:尊孔文社藏书楼的“藏书有6000余册中文,3000余册德文,2000余册英法文,共12000多册。其中不有少善本”。藏书楼对外开展借阅活动,除向尊孔文社成员开放以外,还向礼贤书院教师及社会上层开放。
尊孔文社于1918年停办,藏书楼并入礼贤书院。所藏图书一部分于1924年由尉礼贤回国时带走,一部分由私立青岛大学接管,或由胶澳商埠公立通俗图书馆接管。
青岛市图书馆北洋政府统治时期,1924年创建了胶澳商埠公立通俗图书馆,馆址在莒县路2号。有藏书室2间、阅览室1间,到1928年藏书量达6893册。
南京国民政府第一次统治时期,胶澳商埠公立通俗图书馆改称青岛市立图书馆。1932年1月,青岛市教育局接管后,改称青岛市图书馆。1936年青岛市图书馆设总馆1所、分馆4所,第一分馆设大港,第二分馆设沧口,第三分馆设东镇,第四分馆设李村。总馆内部设阅报室、儿童阅览室、杂志阅览室各1处,图书阅览室2处,陈列图书采用闭架式。藏书分有党义、万有文库、儿童图书、哲学、宗教、社会科学、语文学、自然科学、应用技术、美术、文学、史地、杂志、报纸、画报、各种图表等共19个类别,15297种,33940册。为方便阅览还设置了4辆流动书车,每辆可装书1000余册及报纸杂志等,推往市区各处各众阅读。
日本第二次侵占初期,青岛市图书馆损失了2万多册书刊,被迫停办。1939年7月才重新开放。
南京国民政府第二次统治时期,青岛市政府教育局接管了图书馆,1945年12月20日开放,复名青岛市图书馆。1947年2月,青岛市图书馆分设总务部、阅览部、采编部,馆舍面积400平方米。一楼为报纸、期刊阅览室共3间;二楼设图书阅览室1间、书库3间;三楼为办公室。全馆藏书29294册,其中哲学、社会科学类6000余册,文学2类3000册，,自然科学类4000余册,报纸14种,杂志8种。
青岛解放后,在青岛市图书馆(包括接收广西路l4号大楼的藏书2万余册)的基础上建立了青岛市立人民图书馆,藏书量达34000册。1953年,图书馆迁至鱼山路37号,是一幢罗马式建筑,三层楼,使用面积1500平方米,改名为青岛市图书馆。
青岛市图书馆成立后,征集了中外图书2万余册、线装书10万余册。青岛市的许多著名人物如郑爰居、张公制、张铮夫等捐献线装书5000余册。1954年初藏书量达20余万册。1954~1956年,迁至荏平路13号,书库分别在鱼山路和宁波路。1957年5月又迁回鱼山路37号。图书馆对外开放社会科学、自然科学两个外借处,社会科学、自然科学、报刊、外文四个阅览室和社会科学参考室、科技文献检索室。到1986年,藏书量已达90余万册。其中,外文图书5万册、线装书13万册。线装书以明清两代山东著作为特藏，还有地方志书、古农书、古医书等宝贵资料。另有报刊杂志1085种,有证读者发展到1万余人。
青岛大学图书馆1930年建,当时在校担任外文系主任的梁实秋兼任图书馆馆长。后由宋春舫接任。梁实秋和宋春舫对堤国戏剧家莎士比亚的作品都很有研究。宋春舫是中国翻译莎士比亚戏剧作品的先行者,在其任馆长期间曾广为收集莎士比亚戏剧作品的各种文本,使该馆成为国内收藏莎士比亚戏剧作品最多最全的图书馆。
1935年10月出版的《全国图书馆调查录》记载,该图书馆藏书共16000多册。图书主要为教学服务,向全校师生开放。1937年抗日战争爆发后,山东大学(前身即青岛大学)南迁,图书馆也随校搬迁,图书颇有损失。抗日战争胜利后,图书馆随校搬回原址重新开放。1958年图书馆随山东大学迁往济南。
山东海洋学院图书馆地址在鱼山路5号,1958年成立,使用面积6500平方米,藏书60万册,是青岛高等学校中较大的图书馆。
青岛化工学院图书馆地址在郑州路,1958年建馆,后又扩建新馆,使用面积5600平方米,藏书28万册。青岛医学院图书馆地址在黄台路10号,1956年建馆,使用面积8.0平方米,藏书25.5万册。
山东纺织工学院图书馆地址在抚顺路33号,1966年建馆,使用面积1200平方米,藏书25万册。
青岛大学图书馆位于辛家庄东端,1986年建馆,使用面积2100平方米,藏书20万册。
青岛师范专科学校图书馆地址在广饶路141号,1979年建馆。使用面积250平方米,藏书12万册。
青岛远洋船员学院图书馆位于江西路,1977年建馆。使用面积800平方米,藏书8万册。
青岛教育学院图书馆地址在浙江路9号,1981年建馆。使用面积1400平方米,藏书6万册。
青岛建筑工程学院、青岛冶金矿山职工大学、青岛广播电视大学、青岛职工业余大学、中国人民解放军潜艇学院都建有图书馆。
胶县图书馆位于县城,建于1960年。使用面积185平方米。藏书14.3万册。全县所辖乡镇有2个建有图书室。
崂山县图书馆位于崂山县李村镇,建于1960年。使用面积560平方米。藏书20万册。全县所辖乡镇有10个建有图书室。
即墨县图书馆位于即墨县旧城区,建于1960年。使用面积450平方米。藏书14.3万册。全县所辖乡镇都建有图书室。
菜西县图书馆位于莱西县城驻地,建于1976年。使用面积770平方米。藏书21万册。全县所辖乡镇都建有图书室。
平度县图书馆位于平度县城,建于1960年。使用面积5000平方米。藏书34.8万册。全县所辖乡镇中有21个建有图书室。
胶南县图书馆位于胶南县王戈庄,建于1964年。使用面积500平方米。藏书14万册。全县所辖乡镇中都建有图书室。