半导体研究所是1956年按照"12年科学发展远景规划"中"四项紧急措施"开始着手筹建的，是集半导体物理、材料、器件研究及其系统集成应用于一体的国家级半导体科学技术的综合性研究所，正式成立于1960年。
建所以来，半导体所在我国半导体科技发展的各个历史阶段都曾做出过突出的贡献。研制出中国第一只锗晶体管，硅平面晶体管，固体组件；第一根锗单晶，硅单晶，砷化镓单晶；设计制造出第一台硅单晶炉，区熔炉……。直接为国家经济建设和发展作出了重要贡献。
目前，所主要研究领域为：
光电子及其集成技术
体、薄膜、微结构半导体材料科学技术
低维量子体系和量子工程、量子器件的基础研究
半导体人工神经网络和特种微电子技术。
在国家和中科院产学研结合的号召和指示下，半导体所利用自身的科技优势，独资或合资创办了包括海特光电，中科镓铟半导体，华源科半光电子科技等在内的一批有自主知识产权的高科技公司。