MTLAB结合NVIDIA Holoscan提速医疗AI开发
AI 正在从根本上改变医疗,更被认为有望在未来 10 年内实现原本预计整个 21 世纪才能达成的生物学进展,治愈罕见疾病。利用 AI 赋能已经从医疗应用场景的可选附加选项逐渐成为必选项,这也对医疗 AI 的开发响应要求越来越高。
作为 AI 基础算力的最大提供者之一, NVIDIA 一直在完善其 AI 生态,以便为开发者提供更快捷、性能更强大的开发环境。今年 5 月,NVIDIA 就与 MathWorks 合作,将应用最为广泛的编程和计算平台—— MATLAB 集成到 NVIDIA Holoscan 平台中。这将极大改善医疗 AI 开发的进度,进而帮助医疗器械开发者更快速地得到先进 AI 技术的赋能。
NVIDIA Holoscan + MATLAB 加速医疗 AI 开发
目前,医疗 AI 应用最为成熟的还是在图像领域,包括基于医疗影像的辅助诊断、 3D 手术规划及导航乃至机器人手术辅助等。
这些实时医疗 AI 都具有类似的处理流程,即首先通过传感器获取数据,历经数据域,最后实现可视化以便人类进行决策。其应用开发的核心在于优化传感器到显示设备的低延迟链路,涉及信号处理、 ISP Tuning 、图像增强及 AI 计算等多算法整合。
NVIDIA 构建了 NVIDIA Holoscan 这一传感器数据处理平台,以性能、可用性和生产就绪型等架构目标为基础而构建,可提供实时数据洞见来帮助简化 AI 和高性能计算 ( HPC ) 应用的开发和部署。
NVIDIA Holoscan 平台主要由软件、硬件和服务三部分组成,最为重要的莫过于NVIDIA Holoscan SDK 软件包,可以为开发者提供一个低代码量、高性能的开发环境,以便他们使用包括 MATLAB 、 Python 或 C++ 等 API 构建工作流。它也是目前唯一能够将包括数据移动、加速计算、实时可视化和 AI 推理等功能结合在一起并保证应用程序性能的单一平台,并能降低复杂性并缩短上市时间。
NVIDIA Holoscan 支持 NVIDIA 旗下多种 AI 硬件平台,以满足各种功率、大小、成本、计算和配置需求。在服务方面, NVIDIA Holoscan 还通过 NVIDIA AI Enterprise 为医疗器械行业提供全栈且长达 10 年的服务支持,以满足医疗器械行业的特点。
在传感器处理流程的每个步骤中, NVIDIA Holoscan 都能提供优化的性能,同时更大限度地降低开发复杂性。
在传感器数据处理阶段, NVIDIA Holoscan Sensor Bridge 可以将感应器信号转成网络信号,直接输入到计算平台的 GPU 显存中,从而提升了系统的实时性,和可扩展性。传统依赖硬件的信号处理也可以通过 GPU 计算的软件开发来实现。通过 MATLAB 可以更快地将算法概念,转化成 GPU 代码和 Holoscan 的应用模块。
同时,它还可在 4K @ 240Hz 高分辨率及高刷新要求下实现仅 10 ms 的超低延时,并配备可测量视频处理应用程序完整端到端延迟数据的传输延迟测量工具。此外,开发者还可以通过 NVIDIA Holoscan 获取 AI 参考工作流,以满足内窥镜检查、超声检查等医疗视频串流应用的需求。
自问世以来, NVIDIA Holoscan 已经在医疗 AI 领域有了多次成功应用。比如,借助 NVIDIA Holoscan 的帮助, Moon Surgical 的手术机器人就得以在 18 个月内获得了欧盟 CE 认证。
尽管如此,基于 GPU 的 AI 算法在高性能部署上仍然面临挑战。这是因为要想借助 NVIDIA 的 AI 加速卡实现加速,需要将常用的 MATLAB 语言代码编译为可对 GPU 进行直接操作的 CUDA 编程。这一过程在过往需要手工编程,耗时且错误可能性高,同时还存在候选算法多难以选择的问题,从而导致开发成本较高。
为了解决这一问题, NVIDIA 与 MathWorks 合作,将 MATLAB 集成到 NVIDIA Holoscan 中,内置了 1000 多个函数,从而让开发者可以直接在 MATLAB 中调用 NVIDIA GPU 。由此,开发者不再需要手工编译,也不需要成为 CUDA 程序员就可以通过 GPU Coder 从 MATLAB 代码和 Simulink 模型中自动生成优化的 CUDA 代码。
这些所生成的代码包含用于深度学习、嵌入式视觉以及信号处理算法的可并行部分的 CUDA 内核,可以在所有 NVIDIA GPU 之间移植,可自动部署在云端、桌面及嵌入式 GPU ,也可以调用 NVIDIA TensorRT 等高性能优化库以获得高性能。开发者也可以将生成的 CUDA 代码作为源代码或静态/动态库集成到项目中,并针对 NVIDIA GPU 对其进行编译。
GPU Coder 还能够检查生成的 CUDA 代码以确定性能瓶颈,以及潜在的优化可能。双向链接则支持开发者在 MATLAB 代码和生成的 CUDA 代码之间进行追溯。此外,开发者还可以通过软件在环 ( SIL ) 和处理器在环 ( PIL ) 测试来验证生成代码的数值行为。
所有这些都将极大降低开发难度和开发时间,根据来自 NASA 的开发者表示, MATLAB 和 GPU 可以将以往 40 分钟才能完成的风洞试验分析时间缩短到 1 分钟之内。
目前, GPU Coder 已经得到了广泛应用。M&R Technology 就使用 GPU Coder 自动生成 CUDA 代码加速了医学数字人体模型仿真。
PPG (医学光电容积描记图)是通过光学方法测量血管体积变化的一种方法,被广泛地运用在心率、心率变异性、呼吸、血氧测量等诸多领域。在以往, PPG 系统的设计迭代和验证需要志愿者参与,耗时费力。M&R Technology 设计了计算医学人体模型,采用光线跟踪算法模拟 PPG 信号,但需耗时数小时。
M&R Technology 通过编写自定义算法,并使用 cuBLAS 等库,使用 GPU Coder 自动生成 CUDA 代码并进行性能优化,使算法加速了数百倍——根据不同数据量, GPU 加速使所需时间从数小时缩短至数分钟,甚至数秒,极大提升了开发效率。
除此之外,还有更多的医疗应用场景及医疗器械可以通过 GPU Coder 加速 AI 赋能。10 月 11 日 14:00-15:00 ,来自 NVIDIA 和 MathWorks 的技术与行业专家将全面介绍 NVIDIA Holoscan 传感器数据处理平台、 NVIDIA IGX™ 工业级边缘 AI 平台以及 MATLAB 与 NVIDIA Holoscan 平台的集成,同时探讨如何将概念原型快速的转化成产品设计。
此外,技术与行业专家还将分享免费上机实践 GPU Coder 在医疗领域应用开发的机会,比如,在内窥镜中基于暗通道先验去模糊算法的 GPU 快速部署和优化、腹腔镜中硬镜图像特征点匹配的嵌入式平台的部署和优化,以及医用超声中如何使用 GPU 加速超声信号波束成形并进行性能优化等应用场景上机实践机会。
干货多多,医疗 AI 开发者切勿错过,点击下方链接参与。
本文来自新知号自媒体,不代表商业新知观点和立场。 若有侵权嫌疑,请联系商业新知平台管理员。 联系方式:system@shangyexinzhi.com