NPU là gì? Khác CPU, GPU ở đâu và có nên mua laptop AI?

NPU là gì mà gần đây hãng laptop nào cũng nhắc tới? Tên đầy đủ của nó là Neural Processing Unit, có thể hiểu là bộ xử lý thần kinh. Đây là phần cứng chuyên xử lý những phép tính thường gặp trong trí tuệ nhân tạo. Nó không thay CPU, cũng không biến chiếc laptop thành nhà tiên tri. Việc chính của NPU là chạy một số tác vụ AI ngay trên thiết bị với mức điện năng thấp hơn.

NPU đã có trên điện thoại từ khá lâu, nhưng người dùng PC chỉ thật sự gặp cụm từ này dày đặc khi máy tính AI và Copilot+ PC xuất hiện. Từ đó sinh ra một mớ câu hỏi: NPU khác GPU ở đâu, TOPS có phải càng cao càng tốt, máy không có NPU còn dùng AI được không, và có nên đổi laptop chỉ vì con chip mới này?

Câu trả lời ngắn là: NPU hữu ích, nhưng chỉ hữu ích rõ rệt khi phần mềm của bạn biết dùng nó. Nhìn mỗi con số TOPS để mua máy cũng giống chọn ô tô bằng công suất động cơ rồi quên kiểm tra ghế có vừa lưng hay không.

NPU là gì và nó làm việc gì?

NPU là bộ tăng tốc được thiết kế cho các phép tính của mạng nơ-ron, nền tảng của nhiều ứng dụng AI hiện nay. Theo tài liệu về phần cứng AI của Intel, NPU được tối ưu cho các phép toán như nhân ma trận, tích chập và hàm kích hoạt. Đây đều là những công việc lặp lại rất nhiều khi một mô hình AI suy luận từ dữ liệu đã học.

“Suy luận” ở đây không có gì huyền bí. Đó là lúc mô hình đã được huấn luyện dùng dữ liệu đầu vào để cho ra kết quả. Ví dụ, phần mềm nhận tiếng nói rồi chuyển thành chữ, camera tách người khỏi nền, ứng dụng khử tiếng ồn trong cuộc gọi hoặc công cụ nhận diện vật thể trong ảnh.

CPU và GPU cũng chạy được các tác vụ ấy. Điểm khác là NPU được làm riêng cho chúng, nên có thể duy trì công việc AI trong thời gian dài mà đỡ ngốn pin và đỡ chiếm tài nguyên của CPU, GPU. Trên laptop, lợi ích này đáng giá hơn một màn trình diễn vài giây. Máy họp video cả buổi cần chạy hiệu ứng nền ổn định mà quạt không gào như máy sấy tóc mới là bài toán thật.

NPU khác CPU và GPU ở đâu?

Ba loại bộ xử lý này không phải ba đội kéo co. Một máy tính hiện đại phân công việc cho từng thành phần tùy loại tác vụ. Phần mềm, hệ điều hành và trình điều khiển quyết định công việc nào nên chạy ở đâu.

CPU linh hoạt và giỏi điều phối

CPU là bộ xử lý trung tâm. Nó chạy hệ điều hành, xử lý logic, điều phối thiết bị và đảm nhận đủ loại công việc có trình tự phức tạp. CPU có ít lõi mạnh hơn theo cách hiểu phổ thông, phản hồi tốt với tác vụ cần xử lý tuần tự và thay đổi liên tục.

CPU vẫn có thể chạy mô hình AI nhỏ. Tuy nhiên, nếu bắt nó làm phép tính mạng nơ-ron liên tục, máy có thể tốn điện hơn và còn ít tài nguyên cho các ứng dụng khác. Đây là lúc bộ tăng tốc chuyên dụng có ích.

GPU mạnh về xử lý song song

GPU vốn sinh ra để xử lý đồ họa, nơi rất nhiều điểm ảnh cần được tính cùng lúc. Kiến trúc xử lý song song cũng hợp với việc huấn luyện và chạy mô hình AI lớn. GPU rời thường có hiệu năng cao và bộ nhớ riêng, nên vẫn là lựa chọn quan trọng cho dựng hình, chơi game, xử lý video và AI nặng.

Đổi lại, GPU mạnh thường dùng nhiều điện hơn. Nếu tác vụ AI nhỏ chạy âm thầm cả ngày, dùng GPU có thể giống gọi xe tải để chở một túi rau. Chở được, nhưng chưa chắc hợp lý.

NPU ưu tiên hiệu quả điện năng

NPU tập trung vào suy luận AI và thường được tích hợp trong bộ xử lý hoặc hệ thống trên chip. Nó phù hợp với nhận dạng tiếng nói, xử lý hình ảnh, làm mờ nền, theo dõi ánh mắt, dịch trực tiếp và những tác vụ AI chạy đều đặn. Mục tiêu không phải luôn thắng GPU về tốc độ tuyệt đối. Mục tiêu là làm đúng việc với ít điện hơn.

Nói gọn lại: CPU xử lý việc chung, GPU gánh khối lượng song song lớn, NPU chạy các tác vụ AI phù hợp một cách tiết kiệm. Trong thực tế, cả ba có thể phối hợp. Intel cũng mô tả máy tính AI là hệ thống dùng CPU, GPU và NPU, thay vì chọn một rồi cho hai bộ xử lý còn lại ngồi chơi.

TOPS là gì, và vì sao không nên nhìn mỗi TOPS?

TOPS là viết tắt của trillion operations per second, tức nghìn tỷ phép tính mỗi giây. Một NPU 40 TOPS về lý thuyết có thể thực hiện khoảng 40 nghìn tỷ phép toán trong một giây ở kiểu dữ liệu và điều kiện đo nhất định.

Microsoft đặt NPU từ 40 TOPS trở lên trong nhóm yêu cầu phần cứng của Copilot+ PC. Trang thông số Windows 11 chính thức còn nêu các yêu cầu khác, gồm bộ xử lý tương thích, RAM 16 GB và bộ nhớ 256 GB. Vì thế, laptop có NPU 40 TOPS chưa chắc tự động là Copilot+ PC nếu phần còn lại không đạt chuẩn.

TOPS giúp so sánh sơ bộ, nhưng không kể hết câu chuyện. Kết quả thực tế còn phụ thuộc vào kiểu số mà hãng dùng khi đo, băng thông bộ nhớ, giới hạn nhiệt, trình điều khiển, công cụ phát triển và mức độ tối ưu của từng ứng dụng. Hai NPU có cùng TOPS vẫn có thể cho trải nghiệm khác nhau.

Quan trọng hơn, phần mềm phải hỗ trợ NPU. Nếu ứng dụng chỉ biết gọi CPU hoặc GPU, NPU mạnh đến đâu cũng không tự chen vào làm hộ. Nó sẽ nằm yên, rất tiết kiệm điện theo nghĩa đen.

NPU dùng được vào việc gì trên laptop?

Những tác vụ phù hợp nhất thường có ba đặc điểm: dùng mô hình đã huấn luyện, chạy lặp lại và cần tiết kiệm điện. Một số ví dụ dễ gặp gồm:

• lọc tiếng ồn, làm mờ nền và tự căn khung hình khi gọi video;
• chuyển giọng nói thành văn bản hoặc dịch phụ đề trên thiết bị;
• nhận diện chủ thể, phân loại ảnh và hỗ trợ chỉnh ảnh;
• phát hiện khuôn mặt, cử chỉ hoặc trạng thái người dùng cho tính năng hệ thống;
• chạy mô hình ngôn ngữ hay mô hình hình ảnh nhỏ đã được tối ưu cho phần cứng.

Lợi ích của xử lý trên thiết bị là độ trễ thấp, có thể hoạt động khi mạng kém và giảm lượng dữ liệu phải gửi lên dịch vụ đám mây. Dù vậy, “chạy cục bộ” không mặc nhiên đồng nghĩa “riêng tư tuyệt đối”. Ứng dụng vẫn có thể đồng bộ dữ liệu hoặc gửi kết quả lên máy chủ nếu chính sách của nó cho phép. Muốn biết dữ liệu đi đâu, vẫn phải đọc quyền truy cập và tài liệu của ứng dụng.

NPU cũng không làm mọi dịch vụ AI chạy cục bộ. Khi bạn mở một chatbot trên web, phần suy luận chính thường diễn ra tại máy chủ của nhà cung cấp. NPU trong laptop không tăng tốc máy chủ ở đầu kia Internet. Nó có thể hỗ trợ vài tính năng cục bộ của trình duyệt hoặc hệ điều hành, nhưng không biến gói mạng thành tên lửa.

Máy không có NPU còn dùng AI được không?

Có. Bạn vẫn dùng chatbot, tạo ảnh trên web, gọi API, chạy mô hình bằng CPU hoặc GPU và sử dụng nhiều tính năng AI khác. Bài AI là gì, phân biệt AI, học máy và AI tạo sinh giải thích rõ hơn vì sao “AI” là tên của cả một nhóm công nghệ, không phải tên riêng của một con chip.

Nếu công việc chủ yếu là Word, trình duyệt, phần mềm kế toán và chatbot trên web, thiếu NPU chưa phải lý do để bỏ chiếc máy đang chạy tốt. Một CPU ổn, đủ RAM và ổ SSD nhanh thường ảnh hưởng đến trải nghiệm hàng ngày rõ hơn.

Nếu bạn thường xuyên dựng video, chạy mô hình lớn hoặc làm đồ họa 3D, GPU vẫn đáng quan tâm hơn NPU. NPU phát huy tốt ở tác vụ AI được tối ưu, nhất là trên laptop cần thời lượng pin. Chọn đúng bộ xử lý theo công việc sẽ đỡ tốn tiền hơn chạy theo ba chữ mới trên nhãn quảng cáo.

Có nên mua laptop có NPU?

Nếu mua máy mới và dự định dùng trong vài năm, chọn mẫu có NPU là phương án hợp lý khi giá chênh không quá lớn. Hệ điều hành và phần mềm sáng tạo đang bổ sung dần khả năng chạy AI trên thiết bị. NPU cho máy thêm dư địa để dùng các tính năng ấy mà không liên tục gọi GPU.

Nhưng không nên đổi một laptop còn tốt chỉ để lấy NPU. Hãy kiểm tra bốn việc trước khi trả tiền.

Ứng dụng cần dùng có hỗ trợ NPU không?

Xem tài liệu của ứng dụng hoặc hỏi nhà cung cấp. Đừng suy từ chữ “AI” trong quảng cáo ra việc nó chắc chắn chạy trên NPU. Có phần mềm chỉ dùng đám mây, có phần mềm dùng GPU, cũng có phần mềm hỗ trợ một số dòng NPU nhưng chưa hỗ trợ dòng khác.

Hiệu năng toàn máy có cân đối không?

RAM, SSD, màn hình, bàn phím, pin và khả năng tản nhiệt vẫn quan trọng. Một NPU đẹp số nhưng máy chỉ có lượng RAM vừa sát nhu cầu sẽ nhanh bí khi mở nhiều ứng dụng. Với người làm đồ họa hoặc lập trình AI, dung lượng RAM và GPU có thể đáng tiền hơn vài TOPS bổ sung.

Có thật sự cần chuẩn Copilot+ PC không?

Nếu bạn muốn dùng các tính năng dành riêng cho Copilot+ PC, hãy kiểm tra đúng danh sách máy và yêu cầu hiện tại của Microsoft. Đừng chỉ nhìn nhãn “AI PC” do nhà sản xuất đặt. AI PC là cách gọi rộng, còn Copilot+ PC là nhóm thiết bị Windows có bộ yêu cầu cụ thể.

So giá với nhu cầu hiện tại

Đặt hai cấu hình cạnh nhau và xem phần chênh giá mua được gì. Nếu bản có NPU mới hơn còn cho pin tốt, CPU tốt và nhiều RAM hơn, khoản chênh có thể đáng. Nếu khác biệt duy nhất là một tính năng bạn chưa có phần mềm để dùng, cứ bình tĩnh. Công nghệ không giận vì bạn chưa mua ngay đâu.

Cách kiểm tra máy Windows có NPU hay không

Trên Windows 11, cách nhanh nhất là mở Task Manager bằng tổ hợp Ctrl + Shift + Esc, chọn tab Performance rồi tìm mục NPU. Nếu mục này xuất hiện, Windows đã nhận bộ xử lý và thường hiển thị mức sử dụng theo thời gian thực.

Nếu không thấy, có ba khả năng: máy không có NPU, trình điều khiển chưa đúng hoặc phiên bản Windows chưa hiển thị phần cứng đó. Hãy tra đúng mã CPU trên trang của hãng, cài bản cập nhật Windows và trình điều khiển từ nhà sản xuất laptop. Không nên tải một gói driver lạ chỉ vì trang đó hứa “mở khóa AI”. Mở khóa chưa thấy, mở cửa cho mã độc thì dễ hơn.

Bạn cũng có thể kiểm tra trang thông số kỹ thuật của laptop. Tìm các cụm Neural Processing Unit, NPU, Ryzen AI, Intel AI Boost hoặc Qualcomm Hexagon, tùy nền tảng. Sau đó đối chiếu với tài liệu chính thức thay vì chỉ tin tên gian hàng.

Hiểu NPU vừa đủ để không mua nhầm

NPU là bộ xử lý chuyên dụng giúp chạy một số tác vụ AI ngay trên thiết bị với hiệu quả điện năng tốt. Nó bổ sung cho CPU và GPU chứ không thay thế hai thành phần ấy. Con số TOPS đáng xem, nhưng phần mềm hỗ trợ, cấu hình toàn máy và nhu cầu thực tế mới quyết định bạn có hưởng lợi hay không.

Người đang mua laptop mới nên xem NPU như một tiêu chí trong cả bộ cấu hình. Người đã có máy tốt không cần vội đổi chỉ vì quảng cáo AI PC. Hãy bắt đầu từ ứng dụng mình dùng, kiểm tra nó chạy ở đâu, rồi mới chọn phần cứng. Làm ngược lại rất dễ mua một con chip xịn để… ngắm biểu đồ trong Task Manager.

Nguồn tham khảo: Intel: Artificial Intelligence Hardware; Microsoft: Windows 11 và yêu cầu Copilot+ PC; Microsoft Learn: hướng dẫn thiết bị Copilot+ PC.