中国美术馆始建于1958年11月，作为国庆10周年的献礼工程，是最晚开工的一个。当时任文化部艺术局局长的周巍峙同志任筹建小组组长。规划初期蓝图宏大，计划筹建陈列厅、展览厅、放映厅、学术报告厅、画库以及其他服务设施等；建筑用地为10万平方米，东至美术馆东街，南至五四大街，西至皇城根北街，北至亮果厂胡同。由于开工时国家投入发生困难，有人提议将美术馆工程下马停建，当时任北京市副市长的万里同志向周总理建议，利用其他国庆献礼工程的剩余材料先将主楼建起来，其他设施暂缓建设。主楼建成于1962年，1963年正式对外开放。建成后的中国美术馆占地面积为两万三千多平方米，建筑面积为一万七千多平方米，其中展厅面积为7000平方米，占总面积的40%。主楼总设计师为著名建筑师戴念慈先生，他采用了敦煌莫高窟飞檐阁楼式外形，加上三面四廊环境，竹林掩映，具有鲜明的民族特色，两侧与景山、故宫、北海等古建筑群遥相呼应，成为首都的标志性建筑和重要文化设施之一。
   由于上世纪50年代的建筑理念的局限和当时经济条件的制约，中国美术馆建筑标准较低，内部布局不尽合理。1976年唐山大地震时主楼受损严重。1989年底至1992年9月期间主楼进行了抗震加固，主持维修加固设计方案的仍然是戴念慈先生。1995年至1997年为解决当时6万件藏品的妥善保存问题，在主楼西北角征地1500平方米，新建了4000平方米的藏品库。为了彻底解决中国美术馆的馆舍设施问题，2001年9月和2002年4月国家计委批准启动中国美术馆改扩建工程，批复了美术馆一期改造装修工程的项目建议书、初步设计和概算。工程于2002年5月开工，2003年1月完工，历时8个月。
   改造后的中国美术馆从硬件到软件都有了很大的提升，基本达到国内一流水平，并在中法文化年等国家重大活动以及首都人民精神文化生活中显现出愈来愈重要的作用。但作为一个文化大国的国家美术馆，无论是在规模上，还是在规格上，都还远远达不到发达国家美术馆甚至私立美术馆的水平，与世界知名美术馆相比更是有较大的差距。
   中国美术馆现有藏品六万余件，目前藏品库已经饱和，已有部分藏品存放在库外，既不安全，又容易对作品造成损伤。为了对20世纪美术大师的作品做系统性和抢救性收藏，国家财政从2004年启动了2.5亿的国家美术作品收藏和捐赠奖励资金，5年内计划收藏齐白石、黄宾虹、徐悲鸿、刘海粟、张大千、李苦禅、李可染、林风眠、傅抱石等三百多位名家的作品，这是财政部、文化部对现代美术作品保护所做的重大决策。在国家鼓励捐赠的推动下，去今两年，中国美术馆就得到捐赠作品六千八百多件，仅著名画家李平凡先生和刘迅先生，就分别捐赠了一千六百余幅和一千七百余幅，丰富了国家的收藏。但如何妥善保存这些藏品，对于中国美术馆来讲无疑又是一个新的难题。另外，目前收藏的作品种类欠缺，除绘画、雕塑、民间艺术品外，逐渐还要增加建筑艺术、实验艺术、设计、书法、摄影、工艺美术、陶艺艺术等品种的收藏。对此，社会的呼吁也非常强烈。
   相对中国美术馆现存的14个画种，24个民间艺术品种，六万余件藏品而言，现在陈列展示的空间更是严重不足。为了恢复美术馆的博物馆性质，改造装修后的美术馆将21个展厅中的12个厅用作长期陈列。但目前展厅面积能展示的仅占馆藏数量的百分之零点几。另外，为满足文化交流的需要，中国美术馆每年还要承接大量的展览。由于展览的场地有限，每个展览往往只能压缩时间，这对于很多高水平的展览无疑会带来许多遗憾。所以，展示空间的严重不足，加之展陈空间缺少多样化，缺少灵活性，都严重影响了美术馆的展陈能力。
   当今的美术馆已经远远超越了“艺术宝库”的范畴，而成为一种公众聚集的场所，成为现代文明最活跃的展示地。当今的美术馆应是一个可以向人们提供更多种文化活动与服务设施的文化综合体。除了展览、收藏之外，还应包括专业图书馆、多功能厅、放映厅、商店、咖啡厅、餐厅以及各种公共教育设施等。美术馆功能的复合化，不仅表现在不同功能的聚集上，也反映在同一空间用途的多功能化，以适应不同规模、形式的艺术展示和艺术活动。随着经济的发展、社会的进步，中国美术馆目前的各项设施已远远不能满足人民群众精神文化生活的需求，中国美术馆二期工程已迫在眉睫。中国美术馆二期扩建工程实现后，将使我国唯一的国家造型艺术博物馆具备国际化的运营能力，成为集收藏、陈列、展览、研究、公众教育以及文化交流等各项功能于一体、规格完善、容量充足、设施先进的国际一流美术馆。