1980年3月，学校为了加强文书档案管理工作，在院长办公室下设立档案室。1982年11月，将原属教务处科研科管理的科技档案划归档案室管理。1986年1月，为适应学校教育事业的发展，在原有档案室基础上成立综合档案室。2010年9月21日，学校成立档案馆，副处级建制，挂靠校长办公室。2010年11月16日，档案馆升格为正处级单位，独立运行。2022年10月12日，档案馆挂靠图书馆，管理团队、技术保障和经费支持都得到进一步强化。

目前，档案馆主要负责全校党群类、行政类、学生类、教学类、科研类、基本建设类、仪器设备类、产品生产类、出版物类、外事类、财会类等11大类档案的管理工作。学校档案管理规章制度齐全，制订了包括《南京信息工程大学档案实体分类法》《南京信息工程大学档案工作规范》《南京信息工程大学归档文件整理规则》等档案管理规章制度，确保依法依规治档。档案馆以习近平新时代中国特色社会主义思想为指导，认真学习贯彻习近平总书记对档案工作重要批示，聚焦“一流特色研究型大学”战略目标，不断推进档案治理体系、资源体系、利用体系、安全体系建设，提升档案信息化水平，为学校教学科研、党政管理工作和师生校友提供全面、准确、便捷、高效的档案服务。

学校档案工作获多项省级表彰，档案馆多次获评江苏省高校档案工作先进集体。档案馆现为江苏省高校档案研究会理事单位，并作为组长单位负责在宁高校档案工作协作组工作。2023年11月9日，江苏省档案局、省档案馆与我校签订战略合作协议。