版权所有 © 2019 中国联通网络技术研究院

https://cubeai.dimpt.com


平台简介

CubeAI ★ 智立方 是参考 Linux AI基金会(LFAI)开源项目Acumos的设计理念,由中国联通网络技术研究院完全自主开发的集AI模型开发、模型共享和能力开放等功能于一体的开源网络AI平台。

CubeAI平台目前提供AI模型打包、模型导入、容器化封装、模型编排、模型发布、模型搜索、模型部署、AI能力开放、能力编排、能力演示等功能,支持AI模型的docker容器化封装和微服务化部署。

CubeAI致力于在AI模型开发者和模型的实际使用者之间架设一条互通的桥梁。开发者无需关心具体的部署环境,最终用户无需了解AI算法的具体实现细节,使得开发者和使用者能够专注于各自最擅长的领域进行创新,从而加速AI创新和应用进程,促进AI算法从设计、开发直到部署、应用整个生命周期的快速迭代和演进。

系统架构

本系统由AI建模、AI模型共享(AI商城)和AI能力开放三大平台组成。其中AI建模目前暂采用线下形式,使用Acumos提供的客户端工具来实现模型打包。

软件架构

本系统AI模型共享平台(AI商城)和AI能力开放平台基于Spring Cloud微服务架构进行开发。前端采用Angular 6.0框架实现,编程语言主要为TypeScript和HTML;后端采用Spring Boot框架实现,编程语言主要为Java。部分微服务初始代码框架采用Jhipster代码脚手架工具生成。

微服务基础组件

使用Consul作为微服务注册/发现中心和数据配置中心。

API网关是一个特殊的微服务,用于为后端的业务应用微服务提供一个统一的访问入口,主要功能包括:HTTP路由,负载均衡,安全控制,QoS控制,接入控制,熔断机制等等。

本系统将API网关功能与采用Angular编写的前端Portal页面集成于同一个微服务之中,命名为:gateway。

uaa(用户认证授权中心)是一个特殊的微服务,为系统提供统一的安全控制服务,主要用于用户的认证、鉴权、授权,微服务的访问控制,以及基于角色的访问控制。

消息中间件由一组特殊的微服务组成,主要用于系统中微服务间异步数据和消息的高效传输和处理。本系统采用开源软件Kafka来作为消息中间件。

搜索/日志/可视化采用ELK套件来实现。ELK Stack构建在开源基础之上,能够安全可靠地获取微服务架构中任何来源、任何格式的数据,并且能够实时地对数据进行搜索、分析和可视化呈现。

CubeAI应用微服务

前端采用Angular框架进行开发,将其代码托管于API网关所在的后端微服务gateway之中。

AI模型管理。下挂一个MySql数据库,统一管理CubeAI应用中所有需要持久化的数据模型。

AI模型导入。负责将建模阶段打包好的AI模型导入CubeAI平台,并生成docker形式的微服务镜像。

AI模型编排。以可视化图形界面将多个基础模型组件组合编排成一个功能更为复杂的AI模型。

AI模型部署。将CubeAI平台中已发布模型部署至Kubernetes云平台,以docker容器的方式运行,以RESTful API的形式向用户提供AI能力开放接口。

AI能力开放网关。对Kubernetes平台中docker容器提供的AI能力接口进行封装,增强API访问的安全性。

AI能力开放示范平台。为Kubernetes中已部署的部分典型AI开放能力接口提供图形化演示界面。

CubeAI应用支撑组件

Web反向代理服务器,主要用于在生产环境中向互联网用户提供HTTPS服务。开发环境中不需要。

用于在模型导入过程中根据Dockerfile文件生成docker镜像。任选一台Linux服务器,安装docker驱动,并开放2375端口,然后执行以下命令拉取需要的docker基础镜像即可。

    docker pull unicom.gq:8801/ubuntu/python:3.0.3
    docker tag unicom.gq:8801/ubuntu/python:3.0.3 ubuntu/python:3.0.3
    docker pull unicom.gq:8801/ubuntu/python3.6:0.0.9
    docker tag unicom.gq:8801/ubuntu/python3.6:0.0.9 ubuntu/python3.6:0.0.9

提供用于存储AI模型相关构件和文档的文件服务器,以及用于存贮AI模型docker镜像的docker仓库。

请参考Nexus官方文档进行安装和配置。Nexus服务器需要配置为通过HTTPS协议进行访问。

AI模型部署目标平台,以docker容器形式为AI能力开放提供微服务化容器编排和调度平台。

请参考Kubernates官方文档进行安装和配置。

开发环境

安装、开发和部署

  1. 代码下载

    # git clone https://github.com/cube-ai/cubeai.git
  2. 开发

    • 参照docker/dev文件夹下的README文档,拉起平台开发需要依赖的所有基础微服务。

    • 参照uaa、gateway、umm、umu、umd、ability等文件夹下的README文档,分别进行各微服务的开发调试。

  3. 部署

    • 参照docker/prod文件夹下的README文档,对整个平台运行所需要的所有微服务进行部署。