金?品?服?務?器
專注于中國特種計算機應用解決方案

联系电话 联系电话
联系电话 联系电话 4008-189-189
首頁    

首頁 - 方案中心 - 解決方案 - NVIDIA人工智能实验室解決方案

NVIDIA人工智能实验室解決方案

时间:2022-07-25 10:42:29

NVIDIA人工智能实验室解決方案是NVIDIA公司針對中国教育市场推出的基于数据中心虚拟化基础架构上的GPU虚拟化,加之NVIDIA深度学习学院培训体系的一体化人工智能实验室解決方案。该方案采用以用户为中心的计算模式、按需向用户提供GPU资源、框架资源、深度学习环境。保障用户对GPU资源的独享,保证用户获取足够的自由度和较高的用户体验,同时满足集中管理和数据安全的需求,灵活和快速部署人工智能实验环境。

数据中心虚拟化基础架构平台是一個成熟的解決方案,主要包括服務器虚拟化、存儲虚拟化、网络虚拟化及管理平台等。再加上NVIDIA的GPU虚拟化后,用户能够简单、快速、一站式的构建校园GPU资源管理平台,对内提供GPU服务,大大简化GPU资源管理工作,提高数据的安全性,提高机器硬件利用率,降低IT拥有总成本(TCO)。

采用了混合云计算模式(集合服務器虚拟化、GPU虚拟化、PC虚拟化和网盘),既支持服務器的后端计算资源池弹性分配,又支持客户机前端计算资源的分布式运算,Grid6.0为GPU虚拟化带来了新的环境实现,支持在GPU虚拟环境下的深度学习框架的搭建和计算,是教育单位的人工智能实验室得以实现的重要技术平台。


1.1 系统架构


1.1.1 系统架构



1.1.2 vGPU架构



1.2 产品說明


1.2.1 NVIDIA GPU

过服務器虛擬化平台,把GPU計算資源進行切割,按需求進行分配,依托DOCK技術快速部署各種深度學習實踐環境,用戶通過雲終端、筆記本、PC、智能終端,通過浏覽器訪問部署在校內的雲端人工智能實驗室門戶網址,進行AI實驗、模型實踐和推演産品的互動體驗。



1.2.2 深度学习框架



1.2.3 英偉達深度學習學

英伟达人工智能实验室解決方案依托英偉達深度學習學院的课程进行打造。在原汁原味还原国际课程的同时加入符合中国教育的内容和元素,帮助老师和学生更好的教授、体验和学习人工智能方面的知识。

NVIDIA 深度学习学院 (DLI) 針對AI 和加速计算提供实践操作培训,旨在解决现实问题。DLI 为开发人员、数据科学家和研究人员度身打造课程,您可通过以下三种方式学习:


1.2.3.1 在线主题课程

每個主题课程含八小时课时,学习如何实施和部署端到端的项目。您可以随时随地使用云端完全配置的 GPU 加速工作站开始在线学习。


1.2.3.2 在线选修课程

每個选修课程含两小时课时,探索如何应用特定技术或开发技术。您可以随时随地使用云端完全配置的 GPU 加速工作站开始在线学习。


1.2.3.3 讲师指导的培训班

面对面培训班含八小时主题课程,学习如何实施和部署端到端的项目。由 DLI 认证讲师授课,并使用云端完全配置的 GPU 加速工作站实践操作。您可以申请在自己的组织机构内、大学校园和大型相关会议上举办培训。


1.2.3.4 认证证书

參與者可以獲得認證證書,以證明在相關領域的能力,爲自身的職業發展提供支持。您可以在部分在線課程和講師指導的培訓班獲得認證證書。


1.2.4 英伟达人工智能实验室平台


1.2.4.1 界面



1.2.4.2 功能



1.2.4.3 使用方式



1.3 课程内容


1.3.1 课程列表



1.3.2 人工智能标注技术



1.3.3 人工智能应用解析



1.3.4 Python可视化及其应用



1.3.5 交互式Python编程



1.3.6 实验效果



2、 功能亮点


2.1 便捷管理


2.1.1 管理平台

人工智能实验室系统的管理平台采用B/S架构,简洁的全图形化管理界面,用户在任意联网的终端上通过浏览器便可访问平台,平台上可以实现服務器、用户、桌面、场景、终端、存儲等的全面集中管理。

基于浏覽器的web控制台是整個自服務平台的唯一管理入口,管理員可以坐在辦公桌面通過浏覽器維護整個學校的GPU資源、雲終端和基礎設施,無論是開機/關機/重啓,還是備份/還原,或是重置/升級,都不要進實驗室或是到現場,輕輕松松完成,工作效率提升十多倍。


2.1.2 软硬件集中升级

人工智能实验室系统将硬件的计算性能的需求和本地终端解耦,所有GPU计算资源由云端的服務器提供,本地终端可以是普通电脑、一体机或瘦客户机。

服務器虚拟化软件除了管理云端资源外还可以提供云还原功能,确保课程结束后实验环境自动恢复到预设状态。同时,基于模板和链接克隆技术,服務器端集中部署桌面,只要对单個模板配置、修改、安装升级软件/虚拟机硬件,即可实现数百桌面的同步更新,几分钟时间管理员就能完成全部操作,不需要到用户现场逐台操作。

PC虛擬化包含電腦管理功能,負責虛擬系統模板的管理,電腦終端信息管理,接入控制,外設的管理,通過管理平台統一推送及更新虛擬操作系統及應用。


2.1.3 實驗課程快速部署

利用管理平台可以方便制作針對性NVIDIA DOCKER软件环境模板,通过模板可以实现实验环境的批量创建、更新、分发,数百台终端瞬间即可使用相应用户操作环境,达到快速部署的目的。终端应用软件的安装 及配置变化,均可以通过管理控制台在服務器端集中操作,大大简化了用户操作环境的配置和部署。


2.2 有效控制


2.2.1 教学管理端

針對管理權限,教育桌面爲管理員和上課教師提供了不同的管理端,管理員登錄後台軟件管理平台,來完成對所有用戶進行管理以及系統維護的工作。教學管理端是爲上課教師提供的管理軟件,可以選擇多種獨立的教學環境,並且可以一鍵切換教學環境,上課,下課統一開關機等功能,也可以讓學生自由選擇,無需登錄管理後台進行操作。


2.2.2 有效控制USB接口使用

基于USB接口重定向和穿透技术,有效支撑教学实验中的各种USB设备,不限于USB存儲、打印机、扫描仪、智能卡、U-key、触摸屏等。

同时針對USB存儲传播的各种病毒,以及数据的安全保密规范,可以对各個用户终端进行USB接口限制,即使插上感染了病毒的移動存儲设备,桌面内也无法访问和存取,极大的保障了用户桌面和数据的安全性。


2.2.3 完整的监控功能

提供性能监控功能,对服務器和终端桌面中GPU、CPU、网络、磁盘、各個进程资源使用率等指标的实时数据统计,并能反映目前物理机、虚拟机的资源瓶颈,同时管理人员还可以监看客户端接入桌面的操作情况,在必要时进行截图或录像。


2.3 教师办公


2.3.1 性化DOCK環境快速交付

终端桌面架构在后台统一管理,快速交付各种教学应用桌面,无需现场逐一安装;系统选择更“灵活”老师可以根据個人使用习惯灵活选择多种NVIDIA DOCKER环境


2.3.2 移動授课办公模式

移動办公包括校内办公和家庭办公;移動教学包括办公室备课和教室上课。教师使用的桌面,是将各种教学软件、办公软件内置到云桌面中打包成各种标准桌面,按需配置,按需分发,有网络的地方,就能使用自己的個人桌面。但是登录虚拟桌面对带宽的依赖较高。现在网络发展高速,家庭带宽都能保障二十兆完全可以支持家庭办公的远程连接。同时教师使用其它移動设备办公,也要保证宽带的要求,教师可以在学校任何地方,远程访问自己的桌面。

教师在办公室备完课,准备好PPT后仅仅需要来到教师,使用云终端,登录自己的桌面,就可以直接完成教学。同时可以登录时修改個人用户密码,保证了個人桌面的安全性。教师回到家中,也可以家庭办公,可以远程登录自己的桌面,使用各种软件利用客户端访问校内资源。创建一种崭新的教学与办公模式,允许按需随时学习、碎片学习、移動办公。

教师再也不用在办公室、家庭和教室之间来来回回携带笔记本电脑或U盘,轻松便捷,而且使用相同的個人桌面。


3、 方案价值

深度學習計算模型:Traing—>INFERENCE



3.1 人工智能应用体验

未來,隨著人臉識別、語音識別、語義理解、深度學習等技術深入發展,機器人將擁有類人的思考和交互能力,賦能經濟生産和社會生活方方面面。學生在進行人工智能相關的學習之前如果可以深刻體驗科技帶來的神奇,對興趣的培養和後期的學習都大有幫助。

AI語文老師可以教你如何寫藏頭詩,與AI數學老師一起猜數字,AI英語老師學英文單詞和發音,還可以和AI美術老師一起快速塗鴉,面對面請教AI老師許多有趣的問題,再與AI體育老師來一場圍棋對戰……

未来,随着智能批改、智能陪练、语音测评、智能图书馆、咨询管理等应用的投入运行,AI将满足学生個性化需求,解决教师资源相对有限的问题,同时将教育资源传递到更多有需要的地方,缓解教育资源不均衡的现状。借助AI赋能,世界互通,人类将在共通的新水平线上学习发展。


3.2 多样性AI学习环境—训练(AI Train)

基于NVDOCK技术可以打包多种深度学习环境,打包各种框架和驱动,实现在一個课堂内的多种深度学习场景和個性化教学实验课堂。管理员只需要将不同的环境提供给学员即可,对于学生,桌面中不仅只有教学相关的软件,提升桌面响应速度,同时规范学生注意力,提高了教学质量,还有不同的框架学习机会,体验各种深度学习方法,对于高校AI实验室非常适合。


3.3 多样性AI学习環境—推演(Inference)

深度学习实验室可以作为人工智能科普实验室来规划设计,可以将目前已有的Inference 模型进行体验课堂,例如机器视觉,语音识别等人工智能应用场景体验。可以通过“机器对弈”“视觉识别”等模型来体验AI课程。对于普教实验室非常适合。


3.4 AI专业教师资源培养

通過NVIDIA的深度學習學院,可以爲學校培養AI專業教師,教師可以疊加人工智能概念及基本知識、深度學習的技術和算法等,架構學校自身教學和實驗內容。學校建立系統的AI教學課程也得以實現。


3.5 云教学环境得以实现

由于采納了虛擬桌面技術,可以將常用教學軟件、備課授課資源封裝到虛擬桌面中,通過網絡遠程交付給學生使用,這樣既解決了學生對專業軟件安裝維護的問題,又可以增加軟件、資源的利用率,分攤采購成本,同時也方便了師生在家中備課和教學實驗的完成。


实验文档和实验环境在同一個页面,打造即学即练的实验体验



教師可自主制作實驗文檔並部署實驗環境,打造貼近本校真是需求的課程



3.6 计算资源的复用

由于Grid6.0的特性,可以使GPU的計算資源得以複用,既可以進行虛擬切割實現深度學習實驗課堂,進行學生教學。同時又可以在閑時進行大規模計算任務使用,例如晚上整合GPU進行模型計算。

又由于基于虛擬桌面技術,平台可以提供重圖形圖像應用環境,例如3Dmax、CATIA軟件的教學和實驗雲環境。還能爲學校師生提供更多的雲應用資源服務,爲學校大大節省了投入成本。


方案詳細咨詢請撥打:4008-189-189