AI竞争新焦点：终端侧大模型应用
高通持续深化AI技术布局，助力终端AI应用普及化
作为全球领先的无线通信及半导体解决方案供应商，高通近年来一直专注于AI技术研发，旨在为终端设备提供更强大的AI处理能力。高通表示，其在AI领域的研发投入已超过15年，始终秉持“发明家文化”，通过技术创新推动AI技术在终端设备的广泛应用。
高通不仅在追赶最新的技术趋势，更是提前布局，抢先攻克基本方案。在《让AI触手可及》白皮书报告中，高通强调了自己在AI领域的深厚积累和未来发展规划。报告中提到，高通将持续深耕AI研发，让感知、推理和行为等核心能力在终端上无处不在。
高通在多项关键技术领域取得重要突破，如量化技术、编译技术、硬件加速技术和物联网设备等。其中，在手机等终端设备上部署大模型/AIGC应用，高通提出了诸多创新技术，如低秩量化感知训练（LR-QAT）算法和矢量量化（VQ）技术，以实现更高效的推理和压缩。
此外，高通AI引擎Direct框架在提高性能的同时，最大限度地减少了内存溢出，从而使得手机上的大模型能够在短时间内为用户提供快速准确的答案。在第三代骁龙8移动平台上，Hexagon NPU的性能提升了98%，功耗降低了40%。
高通将继续秉承“发明家文化”，深化AI技术在终端设备的应用，推动整个行业的AI发展。通过持续的技术创新和实践，高通希望能够为市场带来更多竞争力和创新活力，进一步普及AI技术，让更多人享受到人工智能带来的便捷和乐趣。
