联想发布了一系列端侧AI新技术,其中PC本地推理能力尤为出色,这些技术的本地推理能力与OpenAI-mini相当,为用户带来更快、更流畅的智能体验,这些新技术将极大地推动人工智能在终端侧的应用和发展,提升用户的日常使用效率和便捷性。
电脑知识网5月7日报道,在今日举办的联想创新科技大会(Tech World)上,以“让AI成为创新生产力”为主题,聚焦混合式人工智能的应用,从个人到企业,联想全方位展示了其创新技术的最新成果。
会上,联想揭开了其在端侧算力方面的最新创新成果——联想推理加速引擎的神秘面纱。

据了解,这款由联想、清华大学及无问芯穹联合研发的推理引擎,是一款专为高效AI PC推理而设计的软硬件协同优化平台,经过优化,一台普通PC的本地推理能力已经能够媲美OpenAI去年发布的o1-mini云端模型。
“联想推理加速引擎”采用了高性能并行解码、算子融合优化以及异构计算技术,实现了在多种应用场景下推理速度的大幅提升,同时显著降低了功耗和内存占用。
配合大模型推理芯片,通过硬件加速与软件优化的无缝协作,进一步放大了性能提升,形成了叠加效应。
为了直观展示“联想推理加速引擎”的实力,现场进行了一场别开生面的“竞速赛”,三台配置相同的AI PC同时解答2024年高考数学压轴题:
初代大模型:耗时27秒,答案0分。
二代大模型:耗时26秒,答案满分。
而在二代大模型的基础上,加上“联想推理加速引擎”的助力,耗时竟然缩短至13秒,答案依然保持满分。
这充分证明了“联想推理加速引擎”对算力的显著提升,使得设备的预填充更为迅速、解码速度更快、推理时间更短,同时占用内存更少,能耗更低,大幅提升了设备上的AI能力。
联想集团董事长兼CEO杨元庆表示,大家很快就可以在即将发布的下一代AI PC上体验到“联想推理加速引擎”带来的强大本地推理能力,这一技术的性能与云端大模型不相上下,但成本却低得多。
该技术的应用将极大地推动AI在各个领域的发展,从教育、医疗到娱乐等各个行业都将受益于这一技术的推广和应用。

随着技术的不断进步,联想将继续致力于研发更多创新技术,为人工智能的发展贡献力量。