[Rossi D]

Srovnávací testy: Jak počítače Copilot+ zvládají místní pracovní zátěž AI



 Je to již několik týdnů, co se na pultech obchodů objevily Počítače Copilot+, nová generace notebooků s operačním systémem Windows a procesory Qualcomm Snapdragon X. V naší kanceláři jsme jich měli několik a prováděli jsme na nich mnoho stejných testů, jaké používáme na typických noteboocích s procesory Intel nebo AMD, ale to, co nás opravdu zajímá, je, jak na těchto počítačích běží lokální pracovní zátěže s umělou inteligencí?
 
Bohužel jsme zatím nenašli spoustu lokálních aplikací AI, které bychom mohli na noteboocích s procesorem Snapdragon X spustit. Pro počítače Copilot+ jsou k dispozici tři exkluzivní funkce systému Windows: a živé titulky s přepisem. Ať už si myslíte, že tyto funkce jsou cenné nebo ne, nelze je použít pro účely benchmarkingu, protože po sobě nezanechávají opakovatelnou metriku. Mohli bychom vzít stopky a změřit, za jak dlouho Codesigner vytvoří obrázek po zadání výzvy, ale ani pak to nemůžeme porovnat se stejnou aplikací na počítači s procesory Intel nebo AMD, protože Codesigner je určen výhradně pro počítače Copilot+ s procesory Snapdragon X.

 V tuto chvíli jsme tedy mohli pracovat pouze s několika reálnými testy umělé inteligence, které běží jak na noteboocích s procesorem Snapdragon X, tak na noteboocích s procesorem Intel Core Ultra 7 "Meteor Lake". V současné době nemáme po ruce notebook Ryzen 7840U "Phoenix", se kterým bychom mohli testovat, ale vzhledem k tomu, že notebooky Ryzen "Strix Point" mají vyjít již za několik týdnů, tato srovnání by stejně brzy zastarala.



Přepis šeptem 
 
Náš první test použil Whisper AI Base English Model k přepisu 12minutového audio souboru MP3 do textu. Whisper je jedním z nejpraktičtějších případů použití místní umělé inteligence, protože lidé, kteří nahrávají rozhovory pro práci nebo vzdělávání - studenti nahrávající přednášku nebo novináři nahrávající rozhovor - je skutečně potřebují převést do kopie. Aplikaci Whisper vyrábí společnost OpenAI, ale může si ji zdarma stáhnout kdokoli a používat ji ve svých vlastních programech. 
 
Existuje mnoho způsobů nasazení nástroje Whisper, ale my jsme jej použili ve vlastním skriptu Pythonu, který před zahájením přepisu vypíše čas, provede přepis, který zapíše do textového souboru, a po jeho skončení opět zaznamená čas. Získáním rozdílu mezi těmito časy můžeme zjistit, jak rychle který systém provádí test. Nehodnotíme přesnost přepisu, protože všechny používají stejný model. Kdybychom to dělali pro vlastní potřebu, raději bychom použili model Whisper Large, který je mnohem přesnější než model Base, ale společnost Qualcomm zatím verzi Whisper Large pro Snapdragon nezpřístupnila. 
 
Kód se ve verzích skriptu pro Intel a Arm mírně liší jednoduše proto, že Intel Meteor Lake používá otevřené rozšíření Ipex pro Pytorch pro přístup ke svému GPU, zatímco Snapdragon X vyžaduje QNN Execution Provider for ONNX Runtime pro umožnění přístupu k NPU. Ujistit se, že používáme správné runtime, je nezbytné, protože jinak naše skripty pošlou práci s přepisem (nebo jakoukoli jinou úlohu) na CPU, zatímco NPU nebo GPU dokončí stejnou úlohu mnohem rychleji (a s menší spotřebou energie).  Spouštění zátěže AI na CPU je vždy nejpomalejší možností. V naší předchozí sérii testů Meteor Lake jsme však zjistili, že interní GPU Intel Arc je ve skutečnosti rychlejší než NPU, zatímco NPU je nejlepší volbou u procesorů Snapdragon. 
 
U Whisperu byly výsledky smíšené. Pokud se podíváme pouze na dobu, za kterou náš skript v jazyce Python přepsal zvukový soubor, byly notebooky se Snapdragonem přibližně stejně rychlé jako jejich konkurenti s procesorem Intel, plus minus několik sekund u každého modelu, přičemž čas dokončení se pohyboval od 1:04 u Surface Pro s procesorem Snapdragon X po 1:13 u X1 Carbon s procesorem Core Ultra 7. Obecně byly notebooky se Snapdragonem o několik sekund rychlejší, ale Surface Laptop 15 potřeboval čas 1:09, zatímco Acer Swift Go 14 (Core Ultra 7) skončil za 1:08. (vp)