南京图书馆是江苏省省级公共图书馆，国家一级图书馆。其前身可追溯到1907年由清两江总督端方创办的江南图书馆，地址南京龙蟠里惜阴书院旧址，总办缪荃孙。辛亥革命后，曾多次变更馆名。民国元年2月，称江南图书局（偶称南京图书局），次年7月更名为江苏省立图书馆，1919年更名为江苏省立第一图书馆。1927年6月，柳诒徵奉江苏省教育厅函聘，任江苏省立第一图书馆馆长。1927年9月，因实行大学区制，易名为第四中山大学国学图书馆。1928年2月，改名江苏大学国学图书馆，同年5月，又改为中央大学区立国学图书馆。1929年10月，大学区制取消，更名为江苏省立国学图书馆，直属江苏省教育厅社会教育司。建国初期仍沿用此名，由华东军政委员会文化部领导。1952年10月奉命并入国立南京图书馆。
1933年4月南京国民政府教育部委托蒋复璁筹建国立中央图书馆，地址成贤街。1937年西迁重庆，1946年返都南京。1948年底，蒋复璁等奉命携馆藏珍籍13万册去台湾。1949年5月，由南京市军事管制委员会接管。1950年3月19日，中央图书馆奉中央文化部令，正名为国立南京图书馆，由文化部文物局和华东军政委员会文化部双重领导，馆长贺昌群。1954年，因大行政区撤消，同时江苏已经建省，需要一个省级馆，为此，文化部于当年7月将国立南京图书馆改名为南京图书馆，直属江苏省文化厅（2018年10月更名为江苏省文化和旅游厅）领导。次年起，汪长炳任副馆长、馆长17年。
南京图书馆大行宫馆区于1998年正式立项，2002年正式动工，2006年11月落成并部分对外开放，2007年实现全面开放。建筑占地面积2.52万平方米，建筑面积约7.8万平方米，设计总高41.1米，藏书容量1200万册，地下局部2层，地上9层。
南图馆标的基本形采用了有“中国书圣”之称的王羲之所书“书”字的侧形，体现着南京图书馆独特的文化历史传承。同时是新馆建筑造型的抽象化与书架上书籍的抽象性，体现着图书馆的功能与传播作用。馆标的基本形亦是英文字母“N”与“L”的中式书写，体现着融合与传薪的结果。馆标所包涵的理念分为外部与内部两方面。对外它的形态体现的是：“书山有路勤为径”；对内它的形态传递的是“传承、传播、传薪”的意念，即“我们是文化的传承者、我们是理想的传播者、我们是精神的传薪者”。
“惜阴尚思，启智明德”是南京图书馆新确立的馆训。“惜阴尚思”顾名思义就是珍惜时光、崇尚思考，“惜阴”强调“学”，“尚思”强调“思”，无论是对读者来说，还是对南图人来说，“学思并重”皆应成为自身的素养和修为；“启智明德”意在启发智慧，努力引导使大家的道德达到完美的理想境界。这八个字是对南京图书馆继承传统文化精神、体现本馆性质和职能的准确概括。
南京图书馆是首批全国古籍重点保护单位、首批国家级古籍修复中心。被中华人民共和国教育部、国家语言文字工作委员会评为“国家语言文字推广基地（2021-2025）”。被中央精神文明建设指导委员会评为“第六届全国文明单位”。被文化和旅游部授予“全国公共文化服务大数据应用文化部重点实验室实践基地”和“国家公共文化政策研究实验基地”。南京图书馆读者服务部中外文借阅组被共青团中央、文化和旅游部授予第20届全国“青年文明号”荣誉称号，被全国创建青年文明号组委会认定为一星级全国青年文明号。被省总工会授予五一劳动奖状。被省委宣传部等单位授予“第四批省级法制文化建设示范点”。荣获首批“江苏省公共文化设施学雷锋志愿服务示范单位”称号。“南图讲座”四次荣获“江苏优秀讲坛”称号，南图工会两次被省直机关工会评为“模范职工之家”。省图书馆学会蝉联“江苏省哲学社会科学先进学术社团”荣誉称号。南京图书馆领导班子在2020年年度考核中被中共江苏省委组织部评为优秀等次。
南图具体功能布局为：
负一层
该层设有展览厅、学术报告厅、多功能厅及六朝遗迹展示区、晚间阅览室、24小时自助图书馆、视障人书刊借阅室、中文过期报纸阅览室等。
展览厅：面积870平方米，隔断灵活，可举办多种类型的展览。
学术报告厅：面积500平方米，本区域位于六朝遗迹展示区北侧，紧邻展览厅，可举办小型展览及各类型会议活动。
多功能厅：本区域位于六朝遗迹展示区南侧，面积1020平方米，设有座位364个，为阶梯式会议场所，可举办各类会议、讲座、文艺演出、视频放映等活动。品牌公益文化活动“南图讲座”每周在此举办。
六朝遗迹展示区：本区域由东侧门进入，是南京图书馆建设施工期间，在新馆地基下发现了六朝时期梁朝建康城遗迹。以“湮没的皇宫”为主题，将部分遗迹用玻璃地面保护起来，制作成特殊的展示厅，免费向读者开放。透过玻璃地坪，读者可俯瞰古车道、排水沟、古井等遗迹。在六朝遗迹上举办活动，更增添了深厚的文化底蕴。六朝遗迹展示区与展厅、学术报告厅融为一体，可以作为展厅活动的引导厅，也可以成为独立展示区。
晚间阅览室：本室位于东侧门入口处，报纸阅览区提供馆藏30余种中文现报阅览服务；电子阅览区免费提供本馆数据库、电子书刊、全国文化信息资源共享工程资源的查阅服务，以及多媒体应用等服务。读者凭本人南京图书馆读者证入室阅报，上机须凭本人有效居民身份证刷卡。谢绝18周岁以下未成年读者进入本室。
24小时自助图书馆：本区域位于东门南侧，2016年实现自助借还书24小时开放，提供24小时中文图书阅览、自助借还和数字资源访问服务，请持本人读者证刷卡进入24小时自助图书馆。
视障人书刊借阅室：本室位于负一层西侧，提供馆藏2.6万余册（盘）盲文书刊、有声读物的阅览、外借（包含上门）和复制服务，以及视障人专用电脑上网、盲文打字、助视仪和为残障读者放映馆藏资料影片等服务。读者凭《南京图书馆视障读者证》享受本室提供的各项服务。
中文过期报纸阅览室：本室提供馆藏中文（外文及港澳台除外）过期报纸查阅服务，过期报纸可查年限从2001年1月起，新中国成立后至2000年仅提供12种过期报纸查阅（《新华日报》《南京日报》《现代快报》《金陵晚报》《扬子晚报》《南京晨报》《人民日报》《解放军报》《解放日报》《文汇报》《新民晚报》《光明日报》）。
一层
该层设有南图文创艺术中心，综合服务大厅（总咨询、办证、还书处），存包处，惠风书堂，江苏作家作品馆，少儿借阅馆、亲子绘本馆、母婴室。
南图文创艺术中心：本区域位于一层大厅东侧，是一个融合了文创产品销售、儿童文创品体验、茶水吧、画廊展销、休闲雅座等功能的开放式混合空间。南图文创艺术中心致力于依托馆藏资源，将古籍善本的历史性、演变性，作为创意产品研发主体，用特色文化创意产品来诠释“在现代的古代人、回古代的现代人”这一文创理念。向大众呈现一个“和光同尘”多元一体的文化、艺术集合地。
综合服务大厅:此区域位于一层中部，为读者解答疑问并帮助协调解决问题，引导读者有效利用图书馆，同时可办理办、退证等业务。
存包处：紧邻综合服务大厅，设有44组自助存包柜，为读者免费提供1056个存包位。
惠风书堂：位于一楼大厅东南侧（东门入口左侧），“惠风书堂”和“陶风采—你选书我买单”建设项目是南京图书馆为落实省文化厅“文化惠民精准服务”要求而推出的两项重要举措。“惠风书堂”是传统服务功能的延伸和扩展，它集借阅、购书、休闲于一体，空间开阔，环境雅致，主要包括社会科学、生活、少儿和计算机四类最新出版的图书。“陶风采—你选书我买单”服务的推出，实现了读者借阅与图书出版的同步，满足了读者的个性化、及时性阅读需求。为了扩大影响，给读者提供更大的选书范围，南图联合凤凰出版传媒集团共同开展这项服务，读者可以在南图的惠风书堂、南京市新华书店新街口旗舰店或凤凰国际书城直接选择自己想读的图书，通过荐购的方式，在书店现场办理借阅手续，实现“所见即所得”的快速购阅。
少儿借阅馆：位于一层大厅北侧，馆藏书刊10万余册，提供书目检索咨询、书刊借阅等服务，并适时举办各类少儿阅读推广活动。
亲子绘本馆：位于一层大厅南侧，内设母婴室，馆藏绘本6万余册，提供书目检索咨询、图书借阅等服务，并适时举办各类儿童阅读推广活动。
母婴室：位于一楼亲子绘本馆内，设有恒温水龙头、哺乳座位、婴儿护理台、婴儿座椅等设施，专为读者进行母乳喂养及婴儿照料设置，请按须知要求合理使用。
二层
该层为中文图书借阅服务区：本区提供馆藏70余万册中文图书（含附书光盘，不包括小说）的借阅服务。读者凭本人南京图书馆借阅证入室。谢绝少儿读者进入本室。
三层
该层设有中文图书（小说、陶风采）及外文图书借阅、艺术图像阅览服务区，报纸阅览室，中外文期刊借阅服务区及电子阅览广场。
中文陶风采图书及外文图书借阅服务区：本区位于三层北侧，提供馆藏15余万册中文陶风采图书、30余万册小说和2万余册原版外文图书的借阅服务，以及1万余册艺术图像资料的阅览服务。读者凭本人南京图书馆借阅证入室。谢绝少儿读者进入本室。
中外文报刊借阅服务区：本区提供馆藏3000余种当年中文现刊、100余种外文期刊、230余种港澳台期刊、200余种中文现报、近30余种港澳台和外文报纸、2000余册年鉴和中外文工具书、1000余册廉政文化图书、澳大利亚赠送图书、江苏省政府公开信息资料的阅览服务，以及5万余册中文合订本过刊的借阅服务。读者凭本人南京图书馆借阅证或阅览证入室。谢绝少儿读者进入本室。
四层
该层设有科技查新中心、国学馆、十德堂、地方文献与戈宝权藏书服务区。
科技查新中心：本室位于四层。科技查新是查新机构根据查新委托人提供的需要查证其新颖性的科学技术内容，按照科技查新规范操作，通过各种检索手段，运用综合分析和对比文献等方法，对申报国家级、省（部）级科学技术奖励项目，技术引进项目及其它国家、地方有关规定要求查新的项目，申报各级科技计划、各种基金、新产品开发计划的项目，各级成果鉴定、验收、评估、转化的项目，进行查新，对项目的新颖性将依据客观事实，提供科技查新报告。
国学馆：国学馆位于四层，2016年建成并对外开放，2017年再度扩建，贯穿四层南北两大区域，中间连通，面积达8000平方米，室藏资源总量30万册，阅览座席200余个，是南京图书馆“馆中馆”项目中占地面积最大、专题资源最丰富的藏阅区，集服务、展览、活动、交流及研究等多项职能于一体。
国学馆环境典雅、功能齐全、读者只需凭身份证免费办理南京图书馆阅览证，即可进馆阅览所有开架资源。国学馆“惜阴堂”内继续提供馆藏历史文献原本的阅览、咨询等服务。馆内还将不定期举办各种书籍展览与交流活动，引导大众走近经典，努力实现“让书写在古籍里的文字活起来”，真正成为推广经典优秀文化的基地与窗口。
阅览历史文献原本时，另请出具本人有效身份证件（如身份证、护照、军人证、港澳通行证或台胞回乡证等）。谢绝少儿读者进入本室。
十德堂：本区域位于四层南侧，紧邻国学馆，面积1400余平方米，于2017年建成，各室分别以“仁”、“义”、“礼”、“智”、“信”、“孝”、“悌”、“忠”、“廉”、“耻”命名，是我馆结合时代要求，精心打造的弘扬中华优秀传统文化，继承创新国学的新阵地。
地方文献、戈宝权藏书与赵瑞蕻杨苡专藏室服务区：本区是集地方文献阅览、戈宝权藏书、戈宝权纪念展厅、珍本室以及赵瑞蕻杨苡专藏室为一体的专题阅览区。提供约5800册地方文献阅览服务、戈宝权纪念展厅参观服务、赵瑞蕻杨苡专藏室参观服务、戈宝权藏书约20000册的闭架收藏、赵瑞蕻杨苡藏书约2200册的闭架收藏以及部分戈宝权、赵瑞蕻杨苡藏书的取阅服务。读者凭本人南京图书馆读者证入室。谢绝少儿读者进入本室。
五层
该层设有多媒体欣赏室，古籍修复馆，和畅文苑（个性化阅读体验馆），馆史馆。
多媒体欣赏室：配备先进的多媒体欣赏设备，可提供资料片播放、音乐欣赏服务，并可适用于小型会议的召开。
古籍修复馆：古籍修复馆位于五层北侧，于2016年对原文献修复室提升改造建成，总建筑面积达1000平方米，专职修复人员16名，设有纸库、修复工作区、设备区、实验区和培训室，是目前国内面积最大的古籍专业修复室之一。
南京图书馆是较早开展古籍修复工作的图书馆之一。2009年南京图书馆入选首批国家级古籍修复中心。2014年南京图书馆被文化部授予“全国古籍保护工作先进单位”。2015年南京图书馆获国家可移动文物修复资质，业务范围包括古籍善本、碑帖拓本、文件、宣传品、档案文书等纸质文物的修复。2015年，再度入选国家古籍保护中心古籍保护人才培训基地。南京图书馆古籍修复馆承担着本馆馆藏历史文献修复，及对全省古籍收藏单位开展业务指导、进行古籍修复人才培养的重要职责，综合水平达到国内一流。
古籍修复馆日常为内部工作区域，将不定期举办古籍基本知识讲解、古籍修复基本流程讲解、体验古籍修复等各类读者活动，让读者与古籍近距离接触，感受中华传统文化的博大精深。
馆史馆：本区域位于五层北侧，是我馆精心打造的展示本馆历史文化的服务场所，于2017年建成。南京图书馆是我国最早建立的省级公共图书馆之一。百余年间，从江南图书馆、国立中央图书馆到南京图书馆，经过历代仁人志士的努力奋斗、励精图治，才拥有今天的成就。南京图书馆的历史，是南图人爱国爱馆、自强不息、不断创造和开拓创新的历史。馆史馆设有“继往开来”“前贤垂范”“嘉惠学林”等篇章，多角度、全方面展示了南图的发展历史。读者凭本人南京图书馆借阅证或普通阅览证进入。7岁以下（学龄前）小读者需由家长陪同。
六、七层
六七层为典藏文献库，为读者提供典藏中文过刊及典藏中文图书的目录查询、文献查阅及复印服务。每层均设有环境安静优雅的阅览室，读者可在该室阅览典藏文献。