全球首款Sohu芯片亮相:每秒处理50万个token

Etched公司成功完成1.2亿美元A轮融资,助力全球首款Transformer专用ASIC芯片Sohu研发与推广

近日,Etched公司宣布已完成1.2亿美元A轮融资,该轮融资将为公司继续开发和销售全球首款Transformer专用集成电路(ASIC)芯片Sohu提供强大支持。据IT之家了解,Etched公司由两位哈佛大学辍学生加文·乌伯蒂(Gavin Uberti)和克里斯·朱(Chris Zhu)共同创立,成立时间不到两年。Sohu芯片有望成为引领行业的新一代高性能计算解决方案。

据悉,Sohu芯片的最大亮点在于直接将Transformer架构蚀刻到芯片中,从而实现高性能计算任务的高效执行。这款芯片采用业界领先的台积电4纳米工艺制造,具有远超传统GPU等通用人工智能芯片的推理性能,同时能耗更低。在处理Llama 70B吞吐量方面,Sohu每秒可处理超过50万个tokens,让用户可以构建GPU无法实现的高端应用。

Sohu芯片具备多种强大功能,如实时语音代理、毫秒级处理数千字文本、更强大的代码树搜索、并行比较数百个响应、多播推测解码及实时生成新内容等。这些功能为未来万亿级参数模型的运行提供了可能,进一步拓宽了AI应用场景。

值得一提的是,Sohu芯片的研发成功离不开我国在半导体产业的大力支持。随着全球科技竞争愈发激烈,我国正积极推动科技创新,以提升在全球产业链中的地位。此次Etched公司的融资成功,不仅为公司发展注入新活力,也为我国半导体产业的繁荣做出了积极贡献。

展望未来,Etched公司将继续加大投入,推动Sohu芯片在全球范围内的市场拓展与应用落地。作为一款颠覆性的创新产品,Sohu芯片有望在各个领域发挥重要作用,助力全球AI技术的快速发展和广泛应用。

发表回复