Asistenti AI Copilot i Microsoft së shpejti do të ekzekutohet lokalisht në kompjuterët e përdoruesve

Aktualisht Copilot është ekzekutuar i gjithi në cloud, përfshirë edhe operacione më bazike. Ishte spekuluar më herët se Microsoft do të kërkonte 40 TOPS performancë nga kompjuterët e gjeneratës së ardhshme AI së bashku me 16GB RAM.

Copilot AI është ndërtuar për të funksionuar lokalisht në PC tha Intel për Tom’s Hardware ditën e sotme.

Intel gjithashtu tha se kompjuterët AI të gjeneratës së ardhshme duhet të kenë një NPU (Neural Processing Unit) me performancë mbi 40 TOPS (trilionë operacione për sekondë) duke tejkaluar kapacitetin e çdo procesori konsumator aktualisht në treg.

Sipas Intel një kompjuter AI do të jetë në gjendje të ekzekutojë më shumë elementë të Copilot lokalisht.

Aktualisht Copilot është ekzekutuar i gjithi në cloud, përfshirë edhe operacione më bazike. Ishte spekuluar më herët se Microsoft do të kërkonte 40 TOPS performancë nga kompjuterët e gjeneratës së ardhshme AI së bashku me 16GB RAM.

Windows nuk i shfrytëzon plotësisht NPU-të me përjashtim të ekzekutimit të efekteve video siç është mjegullimi i sfondit për uebkamerat Surface Studio.

ChromeOS dhe macOS që të dy përdorin NPU për përpunim video dhe audio, përkthim, transkriptim në kohë reale, OCR etj.

Deri më sot procesori me NPU-në më të shpejtë është Apple M3 me 18 TOPS. Procesorët Ryzen 8040 dhe 7040 për laptopët vinë të dytët me 16 dhe 10 TOPS respektivisht ndërsa çipet e fundit “Meteor Lake” Core Ultra të Intel ofrojnë 10TOPS.

Qualcomm mund të bëhet kompania e parë që ofron një procesor i aftë të plotësojë nevojat e Copilot falë çipit Snapdragon X Elite i cili premton 45 TOPS performancë AI.

Çipet Lunar Lake të Intel të cilët do të vinë në 2025 do të sjellin trefishin e performancës AI.