发布日期:2024-11-22
LPU的全称是Language Processing Unit,翻译过来即是谈话处理单位,是一种新式AI加快器。在它的复旧下美女 自慰,大模子的推理速率快得惊东谈主,蓦的能输出长篇幅谜底;而使用了英伟达芯片的GPT-4,只可一个字一个字往外蹦。 前者的反映速率最高可达到500T/S,此后者唯有40T/S[1]。 这是什么认识?相当于一秒钟生成300个单词,7分钟生成一部《哈姆雷特》长度级的著述。 Groq背后的团队也可谓群星妍丽,公司CEO Jonathan Ross是Google初代TPU的...