北京市海淀区职工大学的历史可追溯到1958年6月成立的“北京海淀业余大学”，由海淀区人民政府创办。学校开办时有哲学、历史、文学、数学、物理、化学、俄语和计划统计等8个系，招收了约1200多名学生。
1966年到1979年，由于受“文革”的影响，学校停办。1980年5月，原海淀区工农教育办公室向当时的海淀区革命委员会请示开办北京海淀业余大学，同年5月25日，区革委会批转了该请示，北京海淀业余大学随即复校。
1991年8月，学校与北京广播电视大学海淀工作站合并，电大工作站成为学校下属二级单位，站长由校长兼任。1991年9月，学校迁至海淀区北四环中路271号。在海淀区政府和市教委的支持下，学校在城八区的各个职工大学中，第一个拥有了属于自己的独立校舍。
1994年9月，海淀区政府与北京航空航天大学合作，在海淀区职工大学的基础上联合创办“北航海淀应用技术学院”。学校先后培养了数千名本、专科毕业生，有数百人获得学士学位。
2001年11月，学校根据海淀区政府《关于成立中关村社区学院的批复》（海政发[2001]163号）决定，中关村社区学院于2001年12月25日挂牌成立。中关村社区学院的成立，标志着学校的发展方向转为高等学历教育和社区教育相结合。
2002年5月，海淀区职工大学与海淀区成人教育中心合并，海淀区成人教育资源实现整合，中关村社区学院的规模进一步扩大。原海淀区成人教育中心成为中关村社区学院东王庄校区（一分院）。10月，根据区教委海教发[2002]44号文件决定，北京市第99中学并入中关村学院。位于海淀区温泉镇辖区内的原99中，成为中关村学院温泉校区（二分院）
2002年10月，根据区政府海政发[2002]113号文件批复，“中关村社区学院”更名为“中关村学院”。10月25日，“海淀区文明市民学校总校”在中关村学院揭牌。至此，海淀区建立起由一所总校，29所中心校和653所社区（村）市民学校所构成的完整的三级市民教育体系。
学院规模学校拥有一支高素质教职工队伍，建有文法系、信息工程系、艺术系、财经系、基础学科部。同时，学校通过“校企一体化”的系统思维创新组织管理模式，为师生可持续发展搭建平台，成立了甘百商学院、文化创意产业研究中心、学前教育研究指导中心、农村发展与教育研究指导中心、创新研究院等学术交流研究机构。并且以公务员培训基地、海淀区社区教育督导室、中小学社会大课堂等多种形式为载体，为政府提供智力支持与技术服务，整合行业协会、社会社团组织资源，发挥海淀区教育品牌优势，以多元主体共建实现资源联盟，形成了能够满足市民多样化学习需求的常态服务系统。
学校大专与本科在校生近3000人。现开设有军乐艺术、电脑艺术设计、学前教育等近30个专业。其中军乐艺术为市级特色专业，学前教育教学团队被评为北京高校继续教育优秀教学团队，为企业量身打造的商学院特色鲜明，教学实效性强，为企业和区域经济社会发展输送了高质量的应用型高技能人才，初步形成了具有海淀特色的专业和课程体系。
学校创新继续教育学习模式，大力发展社区教育。以全国教育规划课题“常青藤”社区终身学习系统建设为引领，建立“中关村学院社区教育体验学习中心”，将学习需求和学习服务进行整合，将社会教育资源与学院教育服务进行整合，将教育服务项目与学习者组织建设和运行进行整合，将学习资源建设与区域发展支持进行整合，将区域教育、文化、文明、经济等诸多发展要素进行整合。自2011年1月挂牌成立以来，接待全国近百个省市地区、六十多个国家上万人学习交流，培训逾万课时。“常青藤”终身学习系统与中关村体验学堂被评为北京市市民学习品牌，中关村终身学习体验园被评为全国市民学习品牌，同时系国家开放大学认定的全国五家体验式学习基地之首。
在新的发展历史时期，学校本着“立足首都、面向市场、优化服务、特色创新”的原则，加强学院内部机制探索，加快创新实践步伐，推进终身学习服务系统建设；更好地发挥学院在海淀区社区教育龙头校作用，进一步拓展教育服务功能，加强理论与实践研究，逐步建设成为一所地域特点突出、办学特色鲜明、全国一流的成人高校。
办学特色学校具有多个办学主体，北京市海淀区职工大学、北京开放大学海淀分校、吉林大学北京市海淀区职工大学校外学习中心、海淀区职工大学奥鹏学习中心、海淀区文明市民总校等。
现开设有军乐艺术、电脑艺术设计、汽车检测与维修艺术、航空服务，以及学前教育、会计学、工商管理、行政管理、物业管理等专科、专升本、高起本等近30个专业，其中军乐艺术为市级特色专业。学院与区域内的名牌高校合作开办了本科专业。
中关村学院秉承“开放、合作、服务、创新”的办学理念，坚持“三位一体”的发展战略，以提高教学质量和提升学生能力为核心，深化教育教学改革，整合社会各级各类教育资源，积极打造具有海淀特色的大教育品牌。
特色的学历教育。充分发挥现有设施优势，积极寻求与企业的深度合作，改革招生和教学模式，扎实推进“就业+技能+学历”的人才培养模式，实现专业课程内容标准和专业技能标准、学习和岗位的有效衔接，把实训基地建成企业的工作室、生产车间，实现产、学、研协同推进，为企业和区域经济社会发展源源不断地输送高质量的应用型高技能人才。
优质的社区教育。以“常青藤”社区终身学习系统建设为抓手，建立“中关村学院社区教育体验学习中心”，在广泛、深入开展社区教育的同时，充分发挥“中心”的资源聚集功能，积极开拓文化产业、文化教育新领域，着力打造一个集社区体验学习、文化创意产业和创业教育于一体的海淀区文化教育服务旗舰品牌，发展势头强劲。
丰富的非学历教育。学院系北京市残联定点培训学校、海淀区人社局公务员基地，承担海淀区公务员培训，以及在职职工培训、农民工转岗培训、残障人员培训等各类非学历培训；还开展茶艺师、花艺师、家庭教育指导师、形象礼仪师资、全国汽车维修工、汽车保险定损师、物业管理员、助理物业师等多种职业证书的培训、考试工作。
在新的历史时期，本着“面向市场、服务海淀、辐射全国、优化服务、打造特色、争创一流”的原则，秉承十八届五中全会提出的“创新、协调、绿色、开放、共享”的五大发展理念，努力把学院建成一所地域特点突出，办学特色鲜明的全国一流成人高校。
