Cùng một chiếc laptop, chạy UL Procyon buổi sáng và Geekbench AI buổi chiều có thể cho hai kết luận khác nhau về việc máy mạnh hay yếu. Nguyên nhân không nằm ở phần cứng mà ở chỗ hai bộ công cụ đo những thứ khác nhau: một bên tập trung vào thị giác máy tính, một bên trải rộng nhiều kiểu dữ liệu và tính cả sai số. Khi chạy benchmark AI, điều quan trọng là biết bài đo đang thực thi trên khối xử lý nào, qua runtime nào và ở độ chính xác nào, vì đổi một trong ba yếu tố đó là điểm số đổi theo.
Hai công cụ benchmark AI phổ biến đang đo những thứ khác nhau
Trước khi đọc điểm, cần biết con số TOPS mà các hãng công bố chỉ là năng lực lý thuyết đỉnh, thường tính ở độ chính xác INT8 và không tính tới băng thông bộ nhớ. Ryzen 9 8945HS có NPU 16 TOPS, Core Ultra 7 165H có NPU 11 TOPS, trong khi RTX 4070 Laptop được NVIDIA công bố 321 TOPS AI. Ba con số này không nằm trên cùng một thang đo và cũng không quy đổi được cho nhau, nên xếp chúng cạnh nhau chỉ có ý nghĩa tham chiếu.
Đó là lý do các bộ Benchmark AI chuyên biệt ra đời. UL Procyon AI đi theo hướng chạy mô hình thật rồi tính thời gian suy luận, còn Geekbench AI chạy nhiều workload ở ba mức độ chính xác và cộng thêm yếu tố sai số vào điểm. Tôi thường chạy cả hai chứ không chọn một, vì mỗi bộ trả lời một câu hỏi khác nhau: Procyon cho biết máy xử lý ảnh nhanh đến đâu, Geekbench AI cho biết máy có giữ được độ tin cậy khi ép mô hình xuống dạng nén hay không.
| Tiêu chí đánh giá | UL Procyon AI Computer Vision | Geekbench AI | Ý nghĩa thực tế |
|---|---|---|---|
| Phạm vi bài đo | Thị giác máy tính: nhận diện, phân đoạn, nâng cấp ảnh | 10 workload, 3 kiểu dữ liệu | Procyon hợp xử lý ảnh, Geekbench AI hợp so nền tảng rộng |
| Mô hình sử dụng | Bản 1.x dùng MobileNet V3, Inception V4, YOLO V3, DeepLab V3, ResNet50, ESRGAN | Single Precision, Half Precision, Quantized | Kiểm tra cả tốc độ lẫn dạng dữ liệu mô hình |
| Yếu tố độ chính xác | Trọng tâm là tốc độ khung hình và thời gian suy luận | Có xét sai số của mô hình khi tính điểm | Quan trọng khi kết quả sai dẫn tới quyết định nhầm |
| Điểm quy chiếu | So theo điểm tương đối giữa các lần chạy | Baseline 1.500 ứng với Intel Core i7-10700 | Geekbench AI dễ ước lượng bội số hiệu năng hơn |
| Phần cứng liên quan | CPU, GPU, NPU qua runtime tương thích | CPU, GPU, NPU tùy cấu hình chạy | Phải so cùng driver, runtime và chế độ điện năng |
Tôi vẫn xem điểm Benchmark AI như chỉ báo phụ bên cạnh Cinebench, Geekbench 6 và điểm đồ họa. Ryzen 9 8945HS đạt Cinebench R23 1.805 điểm đơn nhân và 16.795 điểm đa nhân, Geekbench 6 đạt 2.641,5 điểm đơn nhân và 13.195 điểm đa nhân, PassMark 30.465; nền CPU như vậy đủ khỏe để không làm nghẽn luồng xử lý AI nhẹ. Ngược lại, một máy Core i7-1255U không có NPU vẫn chạy tốt tác vụ thường ngày, nhưng không nên gắn nhãn laptop AI nếu bạn cần các tính năng chạy cục bộ liên tục.
UL Procyon AI đo hiệu năng thị giác máy tính trên laptop
UL Procyon AI Computer Vision bản 1.x dùng 6 mô hình gồm MobileNet V3, Inception V4, YOLO V3, DeepLab V3, ResNet50 và ESRGAN. Các mô hình này đại diện cho phân loại ảnh, nhận diện vật thể, phân đoạn ảnh và nâng cấp độ phân giải, tức nhóm công việc gần với camera, thư viện ảnh, kiểm tra hình ảnh sản phẩm và xử lý nội dung cục bộ. Bài đo trả về thời gian suy luận từng mô hình thay vì một điểm tổng mơ hồ, nên bạn biết chính xác khâu nào chậm.
Giá trị lớn nhất của Procyon nằm ở chỗ nó cho biết phần mềm chạy qua Windows ML, OpenVINO, TensorRT, SNPE hay Core ML có thực sự gọi đúng phần cứng hay không. Cùng một laptop, điểm có thể thay đổi khi driver, runtime hoặc phiên bản mô hình được cập nhật. Đây là lý do tôi không so điểm Procyon giữa hai máy nếu một máy chạy OpenVINO mới hơn còn máy kia dùng bản cũ. Kết quả Benchmark AI chỉ đáng tin khi bạn so cùng phiên bản phần mềm đo, cùng chế độ điện năng và cùng trạng thái cập nhật hệ thống.
Bản Computer Vision 2.0 đã ra mắt cuối tháng 3/2026 và chuyển hẳn sang nhóm mô hình dạng transformer. Theo thông báo phát hành từ UL Benchmarks, bộ mô hình mới gồm ConvNeXt cho phân loại, DETR cho phát hiện vật thể, SAM2 cho phân đoạn, BLIP cho tạo chú thích ảnh và ESRGAN cho nâng cấp độ phân giải. Bản này cũng chuẩn hóa đường chạy qua Windows ML và tự chọn độ chính xác giữa FP32, FP16 và INT8, nên kết quả giữa các máy dễ đối chiếu hơn bản trước.
Geekbench AI đánh giá cả tốc độ lẫn sai số của mô hình
Geekbench AI tiếp cận rộng hơn Procyon vì dùng 10 workload với 3 kiểu dữ liệu: Single Precision, Half Precision và Quantized. Điểm baseline 1.500 được quy chiếu theo Intel Core i7-10700, một bộ xử lý Comet Lake 8 nhân 16 luồng, TDP 65W, đạt Cinebench R23 1.234 điểm đơn nhân và 8.532 điểm đa nhân, Geekbench 6 đạt 1.650 điểm đơn nhân và 5.385 điểm đa nhân. Khi một thiết bị đạt điểm gấp đôi baseline trong cùng bài đo, bạn có thể hiểu hiệu năng workload đó xấp xỉ gấp đôi trong điều kiện benchmark.
Khác biệt đáng chú ý là Geekbench AI tính cả sai số, không chỉ tốc độ hoàn tất phép tính. Với AI, một kết quả nhanh nhưng lệch nhiều không có giá trị trong nhận diện ảnh, phân loại tài liệu hay kiểm tra chất lượng hình ảnh. Điều này đặc biệt quan trọng khi so ba mức độ chính xác: ép mô hình từ FP32 xuống INT8 thường tăng tốc rõ rệt nhưng đánh đổi bằng độ chính xác, và mức đánh đổi ấy khác nhau giữa NPU của từng hãng. Đó là thứ con số TOPS không bao giờ thể hiện.
Nếu bạn đã quen Geekbench 6 cho CPU, có thể xem Geekbench AI như lớp Benchmark AI bổ sung. Core Ultra 7 165H đạt Geekbench 6 khoảng 2.421,5 điểm đơn nhân và 12.230,5 điểm đa nhân, trong khi Ryzen 9 8945HS đạt 2.641,5 và 13.195 điểm; chênh lệch CPU không tự động chuyển thành chênh lệch AI tương ứng. Điều kiện đo cũng ảnh hưởng lớn tới độ tin cậy của điểm công bố, như trường hợp Geekbench 6.7 siết điểm CPU ảo cho thấy.
Bốn yếu tố khiến điểm benchmark AI lệch nhau trên cùng cấu hình
Yếu tố đầu tiên và cũng nặng nhất là runtime. Cùng một chiếc máy, chạy mô hình qua OpenVINO, DirectML hay TensorRT sẽ cho ba kết quả khác nhau vì mỗi lớp trung gian tối ưu theo cách riêng và hỗ trợ tập lệnh khác nhau. Yếu tố thứ hai là phiên bản driver, vốn thay đổi rất thường xuyên với NPU đời mới; một bản cập nhật driver có thể nâng hoặc hạ điểm vài chục phần trăm mà phần cứng không đổi một chi tiết nào.
Yếu tố thứ ba là chế độ điện năng và trạng thái pin. Nhiều laptop cho điểm đẹp lúc cắm sạc ở chế độ hiệu năng cao nhưng tụt rõ khi rút sạc, trong khi tác vụ AI nền lại chủ yếu diễn ra lúc bạn đang di chuyển. Yếu tố thứ tư là băng thông bộ nhớ, thứ mà chỉ số TOPS hoàn toàn không phản ánh: NPU chia sẻ RAM hệ thống nên khi mô hình lớn dần, tốc độ bị giới hạn bởi đường truyền dữ liệu chứ không phải năng lực tính toán.
Bốn yếu tố này giải thích vì sao hai máy cùng mức TOPS vẫn cho điểm chênh nhau đáng kể, và vì sao một điểm số công bố mà thiếu ngữ cảnh thì gần như vô nghĩa. Khi đọc bất kỳ kết quả benchmark AI nào, bạn nên tìm đủ bốn thông tin đi kèm: phiên bản phần mềm đo, runtime sử dụng, chế độ điện năng và tình trạng driver. Thiếu một trong bốn, con số đó không dùng để so sánh được với máy khác.
NPU và GPU rời khác nhau ra sao khi chạy cùng một bài đo
Điểm phân định rõ nhất giữa hai khối xử lý là bộ nhớ. NPU chia sẻ RAM hệ thống và được thiết kế cho tải nhẹ chạy liên tục, còn GPU rời có bộ nhớ riêng với băng thông cao hơn nhiều lần. RTX 4070 Laptop có 4.608 nhân CUDA, VRAM 8GB GDDR6, băng thông 256 GB/s, Fire Strike 30.051 và Time Spy 11.959,5. RTX 4080 Laptop tăng lên 7.424 nhân CUDA, VRAM 12GB GDDR6X, băng thông 432 GB/s, Fire Strike 41.431 và Time Spy 18.441.
Khi mô hình vượt quá dung lượng bộ nhớ đồ họa, tốc độ sụt rất mạnh dù điểm tổng vẫn cao, nên VRAM thường mới là giới hạn thật sự chứ không phải TOPS. Ngược lại, ở nhóm tác vụ nền, lợi thế thuộc về NPU: hiệu ứng webcam, khử ồn cuộc gọi và nhận diện ảnh nhẹ chạy suốt buổi họp sẽ tốn ít điện hơn đáng kể khi được đẩy sang NPU thay vì bắt GPU rời thức liên tục.
Xu hướng này còn rõ hơn với thế hệ kế tiếp. Intel công bố tại CES 2026 rằng Core Ultra Series 3 nền Panther Lake có NPU đạt 50 TOPS và tổng nền tảng khoảng 180 TOPS khi cộng cả CPU và GPU tích hợp. Mức tăng này cho thấy các tác vụ AI nền sẽ ngày càng được đẩy hết sang NPU, còn GPU rời vẫn giữ vai trò cho nhóm mô hình lớn cần bộ nhớ riêng.
Muốn thấy khác biệt này bằng số thật, cách trực quan nhất là chạy Procyon hai lượt trên cùng một máy có đủ cả hai khối xử lý, một lượt chọn NPU và một lượt chọn GPU. MSI Katana A17 AI với Ryzen 9 8945HS và RTX 4070 Laptop là ví dụ dễ hình dung vì có CPU 8 nhân 16 luồng, NPU 16 TOPS và GPU rời 321 TOPS AI trong cùng thân máy. Bạn có thể tham khảo cấu hình MSI Katana A17 AI đang bán nếu muốn một máy có sẵn cả hai đường chạy để thử nghiệm.
Tư vấn chọn cấu hình theo nhu cầu tại TP.HCM
Nếu ngân sách của bạn ở phân khúc 20 – 30 triệu, ưu tiên hợp lý là CPU đời mới, RAM đủ rộng và một NPU khả dụng cho tác vụ nền. Đừng kỳ vọng chạy mô hình tạo ảnh lớn mượt như máy có GPU rời. Nhóm này phù hợp xử lý văn phòng, họp trực tuyến, lọc nền, tóm tắt nội dung và dùng các dịch vụ AI trực tuyến. Điểm benchmark AI trong trường hợp này chủ yếu giúp bạn tránh mua nhầm máy chỉ có CPU đời cũ nhưng được gắn nhãn tiếp thị mập mờ.
Nếu bạn làm nội dung, thiết kế, dựng hình hoặc thử nghiệm mô hình cục bộ, ngân sách nên ưu tiên GPU rời trước rồi mới xét NPU. RTX 4070 Laptop với 321 TOPS AI và RTX 4080 Laptop với 542 TOPS AI có ý nghĩa thực tế hơn NPU 11 – 16 TOPS khi tác vụ cần VRAM và nhân CUDA. Ngược lại, nếu bạn di chuyển nhiều, họp liên tục và cần máy mát cùng yên tĩnh, một mẫu như HP OmniBook X Flip bản Core Ultra Series 2 sẽ hợp hơn, vì NPU giúp giảm tải cho CPU và GPU nên máy ít nóng và giữ được thời lượng pin.
Tóm lại, hãy chọn theo ba nhóm nhu cầu: văn phòng và họp trực tuyến chọn máy có NPU, pin tốt và CPU tiết kiệm điện; sáng tạo nội dung chọn GPU rời kèm CPU đa nhân mạnh; workstation di động chọn cấu hình có VRAM lớn, RAM rộng và hệ thống tản nhiệt ổn định. Về công cụ Benchmark AI, Procyon phù hợp khi công việc xoay quanh hình ảnh, còn Geekbench AI phù hợp khi bạn cần đánh giá đa dạng hơn về độ chính xác. Ranh giới cụ thể giữa việc NPU là đủ hay phải cần GPU rời được tôi phân tích riêng trong bài phần mềm có thực sự gọi tới NPU hay không.
Câu hỏi thường gặp (FAQ)
NPU TOPS là gì và có khác TFLOPS của GPU không?
TOPS là số phép tính nghìn tỷ mỗi giây, thường được công bố ở độ chính xác INT8 và là con số đỉnh trên lý thuyết. TFLOPS của GPU lại đo phép tính dấu phẩy động, thường ở FP16 hoặc FP32. Hai đơn vị này không quy đổi cho nhau, nên đặt NPU 16 TOPS cạnh một GPU rời rồi kết luận cái nào mạnh hơn là so sai thang đo. Cách đúng là chạy cùng một bài đo trên cả hai khối xử lý rồi so thời gian hoàn tất.
Vì sao hai máy cùng mức TOPS lại cho điểm lệch nhau?
Có bốn nguyên nhân thường gặp. Thứ nhất là runtime: cùng phần cứng nhưng chạy qua OpenVINO, DirectML hay TensorRT sẽ cho kết quả khác nhau. Thứ hai là phiên bản driver, vốn thay đổi khá thường xuyên với NPU đời mới. Thứ ba là chế độ điện năng và trạng thái pin, ảnh hưởng trực tiếp tới xung nhịp duy trì. Thứ tư là băng thông bộ nhớ, thứ mà chỉ số TOPS hoàn toàn không phản ánh.
NPU hay GPU rời chạy tác vụ AI nhanh hơn?
Tùy loại tác vụ. Với mô hình lớn cần nhiều bộ nhớ như tạo ảnh, dựng hình hoặc xử lý video, GPU rời vượt trội nhờ VRAM riêng và băng thông cao, ví dụ RTX 4080 Laptop có 12GB GDDR6X ở 432 GB/s. Với tác vụ nhẹ chạy liên tục như lọc nền webcam hay khử ồn cuộc gọi, NPU hiệu quả hơn vì tiêu thụ điện thấp và không buộc GPU thức suốt buổi họp. Nhiều máy hiện nay có cả hai và hệ điều hành sẽ phân bổ theo từng ứng dụng.
Cần chuẩn bị gì trước khi tự chạy benchmark AI trên máy?
Bạn nên cập nhật driver đồ họa và driver NPU lên bản mới nhất từ trang hãng, cắm sạc và đặt chế độ điện năng ở mức hiệu năng cao để tránh máy giảm xung. Sau đó ghi lại phiên bản benchmark, phiên bản runtime và nhiệt độ phòng, vì đây là bốn thông tin cần có nếu muốn so với lần chạy sau hoặc với máy khác. Nên chạy tối thiểu ba lượt rồi lấy giá trị trung vị, vì lượt đầu thường thấp hơn do hệ thống còn đang nạp mô hình.
Để lại một bình luận