实验室下设学术委员会、管理委员会和综合办公室三个管理机构。学术委员会是实验室的学术决策和指导机构，由具有国际视野、熟悉国内外科研发展趋势、享有高度学术声誉的国内外知名专家学者组成。管理委员会是实验室的行政决策和协调机构，由具有丰富实践经验、了解实验室的运营情况，并且在行政管理上有深入理解的专家和领导组成。综合办公室是实验室的行政执行和科研支撑机构，负责实验室的日常运营和科研管理。

实验室设置自然语言处理、大数据、网络计算，以及机器学习算法四个研究室。设实验室主任1名（黄河教授担任）、常务副主任1名、副主任1名、综合办公室主任1名和秘书1名、自然语言处理研究室主任1名、大数据处理与分析研究室主任1名、智能网络计算研究室主任1名、机器学习算法研究室主任1名。实验室的整体架构如下图所示。