侵华日军南京大屠杀遇难同胞纪念馆建立在南京大屠杀江东门集体屠杀场地及“万人坑”遗址之上。据史料记载和见证者的回忆，1937年12月期间，侵华日军曾在江东门集体屠杀一万多名中国俘虏及平民，遇难者尸体经慈善团体就地掩埋于“两个水塘和一条壕沟内”。1984年、1998年和2007年期间，曾先后三次在此地发掘近千具遗骸，经史学、法医学、考古学等多学科鉴定，确认为南京大屠杀遇难者的骸骨。
为悼念南京大屠杀遇难同胞，启迪今人和后人，牢记历史，不忘过去，珍爱和平，开创未来，本馆于1985年8月正式建成开放，后经1994年至1995年，2005至2007年两次扩建，占地面积约7.4万平方米，建筑面积达2.5万平方米，展陈面积达9800平方米，新馆于2007年12月13日南京大屠杀30万同胞遇难70周年之际建成开放，分展览集会区、遗址悼念区、和平公园区和馆藏交流区等4个功能性区域，是一座纪念性的遗址型历史博物馆，也是全国爱国主义教育基地和全国文物保护单位。