相比之下,英伟达的Jetson Orin Nano芯片的INT8运算性能最高可达67万亿次,是INT4的两倍,但功耗范围为7-25瓦。
\3t)7.:4
U&gl$/4U@ Hailo-10H专为消费、企业和汽车市场的边缘设备而设计,结合了“高效率、高成本效益和强大的软件生态系统”,并由其“成熟且广泛采用的软件堆栈”提供支持,据该初创公司称,每月有超过10000名用户使用该软件堆栈。
qUNXT %B# 8 采用Hailo-10H的公司包括惠普公司,该公司使用该芯片作为HP AI Accelerator M.2卡的基础,该卡可以与HP点对点销售服务以及HP工作站和商用PC“无缝”集成。
gn${@y? lHgmljn5u 该初创公司表示,Hailo-10H可以实现自然语言人机交互、视觉感知和多模式人工智能等高级用例在边缘环境典型的功率和成本限制内无缝运行。”
)}\J z0tm3ovp 该初创公司表示,在Hailo进行的性能基准测试中,该芯片在各种20亿参数语言和视觉语言模型中实现了“第一个词元延迟低于1秒,每秒超过10个词元”。
\z=!It]f. 4p(\2?B%f Hailo是挑战NVIDIA的几家AI芯片初创公司之一,其合作伙伴范围广泛,包括惠普、戴尔和研华等OEM厂商,以及J-Squared Technologies和Kaga Fei America等分销商。
){i
9,u")