AMD vừa đưa AI biên lên một tầm cao mới khi cập nhật trình điều khiển gần đây, công ty hiện đã hỗ trợ LLM lớn cho người dùng PC.
Nền tảng Strix Halo của AMD đã mang sức mạnh AI cao cấp đến các máy tính tiêu dùng, thiết lập các tiêu chuẩn mới
Team Red thực sự là một trong những công ty hàng đầu đã đưa sức mạnh tính toán AI khổng lồ vào máy tính tiêu dùng thông qua các engine XDNA của mình. Các sản phẩm APU của AMD, chẳng hạn như các sản phẩm trong dòng Strix Point và Strix Halo, mang đến hiệu năng AI cao nhất hiện có, và giờ đây, AMD đã đưa AI biên lên một tầm cao mới. Trình điều khiển Adrenalin Edition 25.8.1 mới nhất của công ty đã
hỗ trợ mô hình LLM tham số lên đến 128B, và điều này giờ đây sẽ cho phép các thiết bị tiêu dùng hỗ trợ các mô hình như Llama 4 Scout của Meta, một thành tựu độc nhất vô nhị.
Điều thú vị là, thông qua Bộ nhớ Đồ họa Biến đổi (VGM) của AMD, người dùng có thể cung cấp tới 96 GB bộ nhớ đồ họa cho iGPU, cho phép các mô hình quy mô lớn chạy cục bộ. Vì mô hình Llama được đề cập ở trên là một triển khai dựa trên MoE, nó chỉ sử dụng 17B tham số khi chạy, nhưng mặc dù vậy, người dùng vẫn có thể có số liệu TPS khá tốt, cho phép LLM được sử dụng như một trợ lý AI có năng lực cao.
Quan trọng hơn, AMD đã có những bước tiến vượt bậc về kích thước ngữ cảnh mô hình, và trong khi tiêu chuẩn công nghiệp thông thường với bộ xử lý tiêu dùng là khoảng 4096 token, công ty đã tăng kích thước này lên gấp nhiều lần, đạt đến độ dài ngữ cảnh 256.000 token, cho phép kiểm soát quy trình làm việc tốt hơn nhiều và không bao giờ phải lo lắng về hiệu suất. Đây là những con số đáng nể của AMD, cho thấy cơn sốt “tính toán AI” thực sự đã lan rộng sang PC tiêu dùng.
Hiện tại, nền tảng Strix Halo chỉ có sẵn trên một số thiết bị hạn chế, và chúng không dễ dàng tiếp cận, một số thậm chí còn có giá vượt quá 2.000 đô la. Tuy nhiên, những tiến bộ của AMD trong lĩnh vực tính toán AI quả thực rất đáng lạc quan, và nó giúp “sức mạnh AI” có thể tiếp cận được với tất cả mọi người, mặc dù bạn sẽ cần phải mang theo một khoản tiền lớn để sở hữu những thiết bị hiện có.
Theo wccftech.com
