跳至正文

AI助手助力三甲医院医生提高诊疗质量

在智慧医疗领域,利用AI技术提升病历质量控制成为了行业关注的焦点。近日,国内领先的医疗AI企业惠每科技携手英特尔推出了一项创新性的解决方案,旨在通过英特尔® 至强® CPU平台和AI加速技术,助力医疗行业加速应用AI技术。

据悉,惠每科技的医疗大模型在经过特定优化的英特尔® 至强® CPU Max 系列处理器后,每时钟周期可完成多达2048个INT8运算,比上一代同类指令实现了8倍性能飞跃。此外,借助IPEX-LLM大模型库实现推理加速的低精度量化方案,以及基于OpenVINOTool套件的非量化优化方案,使得医疗大模型在至强® 平台上的推理效率得到了显著提升。

惠每科技实测数据显示,经非量化方案优化后,当输入文本为2K时,模型首词时延由优化前的4.03秒骤降至2.1秒,性能提升达1.92倍;平均时延则由182.86毫秒每Token缩短至47.96毫秒每Token,提升幅度高达3.81倍。这一结果已经接近专用AI加速芯片的性能水平。

英特尔® 至强® CPU平台凭借成熟的生态、高效的部署速度以及广泛的应用水平,成为医疗行业加速应用AI技术的理想选择。从智能导诊到辅助诊断,从药物研发到疾病预测,AI正在医疗行业多个领域带来深刻变革。

总之,惠每科技与英特尔的合作方案为医疗行业的智能化转型提供了一种既具有高性价比又接地气的实践路径。在当前数字化转型的浪潮中,这一方案值得关注和借鉴。

发表回复