广州图书馆按照科学、合理、精简、高效、协调的原则，设以下内设机构：办公室、人力资源部、文献流通部、信息咨询部、专题服务部、儿童与青少年部、网络服务部、社会活动推广部、中心图书馆办公室、采编中心、技术部、研究发展部、资产物业管理部、安全保卫部。
办公室（业务组、计划财务组）：履行业务、政策规章、计划财务、文秘、信息共享、会务、机要、保密、信访、政务公开、督办、档案等管理职责，统筹和综合协调全馆性工作。负责全馆公益宣传、导向标识与形象识别系统等统筹管理工作；负责统筹全馆应急问题处理；安排来访接待；承担图书馆理事会日常工作。负责预决算管理；负责工资等发放、税费与非税收入缴纳工作；负责国有资产账目管理；按时核对账目；编制各类财务统计报表；负责票据、财务档案的管理工作；负责税务登记证、组织机构代码证、银行账户的年审等管理工作；负责审核各项合同（含政府采购等经济合同）等工作。
人力资源部（与党群办公室，纪检监察室合署办公）：履行组织、人事、纪检监察、工青妇指导等职责，负责组织、人事、统战、侨务、工青妇、计划生育、公费医疗、离退休干部、因私出国（境）管理等工作；负责人力资源规划、岗位配置与管理、人才招聘引进、培训与开发、职称评聘、考核与评价、薪酬与福利、劳动保障、人事档案管理等工作。负责党风廉政建设、纪检、监察和因公出国(境)人员政审工作；负责党委日常工作、党委会各项决策的落实、协调与检查。
文献流通部（综合服务组、典藏组、图书组、报刊音像组）：履行普通文献资源（少儿、专题资源除外）服务、管理与阅读推广等职责。负责书刊音像资料借阅的规划与组织工作，负责文献流通与阅读推广服务，开展书刊推介、咨询导读和读者培训、注册推广服务，开展视障读者服务及主题交流活动；负责文献典藏、古籍保管工作；负责总服务台、读者咨询中心、图书区、报刊音像区、休闲生活馆、视障人士服务区、自助服务区、24小时智能图书馆、通借通还区等区域服务；负责预约取书、停车场还书等服务；负责书刊排架的检查与监督管理；负责辅助馆员的日常管理与监督等工作。
信息咨询部（人文馆、信息咨询中心）：履行地方文献与特藏文献保存、信息咨询与参考研究服务等职责。负责广州地方文献、广州名人专藏、家谱、古籍等特藏文献的征集、开发、研究与服务工作；开展面向社会的信息咨询与参考服务，统筹全馆信息咨询服务；负责馆际互借服务；负责广州人文馆、“广州之窗”城市形象推广厅等主题区建设、服务与管理工作；负责北七楼工具书区以及南楼七、八层研究与交流区的服务与管理工作。负责书刊排架的检查与监督管理。
儿童与青少年部（低幼儿童组、中小学生组）：履行儿童与青少年读者服务与阅读推广职责。负责少儿借阅服务工作的规划与组织、少儿文献资源管理等工作；开展书刊推介、咨询导读和读者培训服务；开展阅读推广活动；负责亲子绘本阅读馆、玩具馆等特色主题馆的建设、服务与管理工作；负责组织开展科普基地与未成年人素质教育基地活动；负责书刊排架的检查与监督管理。
中心图书馆办公室（中心馆组、延伸服务组）：履行中心馆工作、延伸服务管理等职责。负责全市公共图书馆业务的指导和协调，组织召开馆长联席会议，负责收集、整理、分析全市公共图书馆业务统计数据并编印年度业务统计报告；负责组织制定和实施全市公共图书馆统一的业务标准和服务规范；负责统筹全市公共图书馆通借通还服务网络建设、协调全市公共图书馆信息化管理系统和数字图书馆建设及共享工程协调；负责组织市、区、镇、街道公共图书馆工作人员专业化培训工作；负责指导和支持区域总分馆服务体系建设。负责直属综合和专业性分馆、流动图书馆、自助图书馆等延伸服务的规划、建设、管理与服务；承担市、区之间通借通还服务网络图书物流；开展送书上门服务。
采编中心（采访组、编目组）：履行全馆信息资源建设与保障，统筹文献资产管理，区域内图书馆信息资源采购与编目协调等职责。负责全馆信息资源建设规划，纸质信息资源（含地方文献、古籍等特藏）、音像资料、数字信息资源等采访、分编加工、破损修复工作；统筹、组织文献剔除工作的开展；负责全馆书目数据库和采编业务数据库的规范化管理与维护工作。
技术部（硬件与网络管理组、网站与系统维护组）：履行图书馆信息技术支撑与保障等职责。负责服务需求与技术发展调研，进行应用技术开发；负责计算机网络系统、图书馆应用系统、数据库系统等规划、建设、管理（含资产管理）与技术支持，负责各类终端设备的采购、管理与维护。
资产、物业管理部：履行后勤保障、物业管理、资产管理等职责。负责楼宇智能化、公共区域场地与环境、办公与公共服务保障等管理工作；负责资产采购（图书资料和计算机设备除外）、配置、登记与仓库管理；负责固定资产的报废、处置工作；组织开展招投标、政府采购项目；负责自动分拣系统运行管理；负责餐厅、停车场等配套服务；负责工程管理；负责物业公司（含书架管理项目）管理工作。
安全保卫部：履行全馆治安保卫、消防安全和维稳综治等职责。负责安全保卫和消防安全、安全生产、内保、征兵、集体户口管理等工作，配合开展综治维稳工作。