IT之家 12 月 11 日新闻,3DMark 开辟方 UL Solution 外地时光 9 日发布推出 Procyon AI 文本天生基准测试,经由过程应用多种差别参数范围的年夜言语 AI 模子综合断定 AI 减速器硬件的文本天生才能。Procyon AI 文本天生基准测试现在支撑经由过程 DirectML 通用 API 挪用当地的英伟达、AMD、英特尔 GPU,也可经由过程英特尔的 OpenVINO 挪用其自家 GPU(IT之家注:自力跟集成显卡均支撑,但对显存 / 内存容量请求存在差别)。该基准测试现包含 4 种参数范围纷歧的模子(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 跟 Llama-2-13B),可对 AI GPU 在多样化年夜言语模子文本天生用例中的表示停止绝对公道的比拟。▲ 成就页面UL Solution 表现 Procyon AI 文本天生基准测试在操纵上更为浅易轻松,与直接应用完全 AI 模子测试比拟又减小了装置体积,能具体展现运转文本天生负载时体系资本的应用情形。告白申明:文内含有的对外跳转链接(包含不限于超链接、二维码、口令等情势),用于通报更多信息,节俭甄选时光,成果仅供参考,IT之家全部文章均包括本申明。
申明:新浪网独家稿件,未经受权制止转载。 -->