AMD Ryzen AI Software Platform sẽ là nền tảng phần mềm giúp thúc đẩy sự phát triển của trí thông minh nhân tạo.

Trong vòng vài năm trở lại đây, AI đã bước ra từ những câu chuyện khoa học viễn tưởng để rồi được ứng dụng vào trong nhiều hệ thống, cũng như là phần mềm khác nhau. Trong nhiều trường hợp, những ứng dụng này sẽ nằm trên đám mây (cloud) hoặc là chạy trên những hệ thống điện toán quy mô lớn. Mục tiêu của AMD với Ryzen AI và kiến trúc AMD XDNA đó là mở rộng việc tiếp cận AI và phát triển phần mềm AI bằng cách mang đến những công nghệ xử lý AI đến với các PC cục bộ.

Ryzen AI

Việc chuyển các tác vụ AI ra khỏi đám mây vào các phần cứng cục bộ sẽ giúp cải thiện độ trễ, giúp bảo vệ những dữ liệu nhạy cảm khỏi đám mây, và giúp xử lý nhanh hơn so với việc phải xếp hàng chờ sử dụng dịch vụ đám mây. Engine Ryzen AI được tích hợp bên trong một số vi xử lý Ryzen 7000 series sẽ cung cấp một bộ gia tốc riêng nằm trên die để chạy những tác vụ này. Tuy nhiên, đó là về mặt phần cứng, còn về mặt phần mềm thì cho đến thời điểm hiện tại, AMD vẫn chưa chia sẻ gì nhiều.

Ryzen AI

Nền tảng phần mềm Ryzen AI sẽ được ra mắt rộng rãi vào cuối năm 2023, và nó sẽ cung cấp cho các nhà phát triển những công cụ cần thiết để thêm AI vào các ứng dụng sẵn có, cũng như là để tạo ra các chương trình hoàn toàn mới với khả năng tận dụng lợi thế của AI theo cách hiệu quả nhất.

AMD đã bắt đầu giai đoạn tung phần mềm ra thị trường hồi tháng 5/2023, với những bản demo và đoạn code mẫu cho các nhà phát triển thử nghiệm. Vào mùa hè 2023, AMD mở rộng giai đoạn này với những bản cập nhật định kỳ để hỗ trợ các nhà khai thác mới đang chạy trên IPU và để hỗ trợ lượng tử hóa (quantization) cho các mô hình ONNX, PyTorch, TensorFlow. Để tìm hiểu thêm, mời bạn tham khảo trang phần mềm Ryzen AI tại đây.

Ryzen AI

Những phiên bản previews sớm và những đợt hợp tác với một số nhà phát triển sẽ được AMD mở rộng để hỗ trợ nhiều nhà phát triển AI hơn, cũng như là các hệ sinh thái liên quan khi toàn bộ nền tảng phần mềm Ryzen AI chính thức trình làng vào cuối năm 2023. Những phiên bản trong tương lai sẽ hỗ trợ thêm các nhà khai thác chạy AMD XDNA. ONNXRT Execution Provider (EP) có hỗ trợ upstream cho Vitis AI Execution Provider sẽ tự quyết định việc sắp xếp các tác vụ trên CPU hay là engine AI XDNA của AMD, tùy theo tính chất của tác vụ đó.

Các nhà phát triển có thể xài các mô hình đã được huấn luyện trong format PT, TF, ONNX, lượng tử hóa những mô hình đó với AMD Vitis AI Quantizer hoặc Microsoft Olive Quantizer thành INT8 và triển khai nó bằng cách sử dụng ONNX Runtime với Vitis AI Execution Provider. Vitis AI Execution Provider sẽ phân vùng và biên soạn code để chạy trên CPU hoặc là Engine AI XDNA của AMD.

Vào cuối năm 2023, AMD sẽ tung ra thêm công cụ, thư viện, và hướng dẫn để dễ ứng dụng AI hơn. Tất cả những thứ này đều là 1 phần trong chiến dịch giúp đơn giản hóa AI ở mọi cấp độ, từ việc huấn luyện các mô hình cho đến triển khai nó ở quy mô cục bộ trên các hệ thống sử dụng Ryzen AI. AMD còn có ý định hỗ trợ thêm các mô hình Generative AI.

Mục tiêu của AMD đối với nền tảng phần mềm Ryzen AI là rút ngắn khoảng cách giữa việc ra mắt phần cứng và ra mắt phần mềm dành cho người dùng cuối, từ đó cho phép các lập trình viên và người dùng cuối có thể nhận ra những lợi ích của việc dùng AI để xử lý công việc, ngay cả khi giai đoạn phát triển còn tương đối non trẻ ở thời điểm hiện tại. Các phiên bản ra mắt trong mùa hè 2023 và những chức năng mở rộng mà AMD sẽ cung cấp trong cuối năm 2023 sẽ giúp tăng tốc việc phát triển hệ sinh thái AI và đem những lợi ích của nó đến với các nhà phát triển.

Mời các bạn tham khảo thêm một số thông tin liên quan tại GVN 360 như:

Nguồn: AMD

Mời các bạn theo dõi fanpage của chúng mình theo đường link dưới đây để cập nhật những tin tức về game, công nghệ và nhiều thông tin thú vị khác nữa nhé!

GVN 360

BÀI VIẾT LIÊN QUANXEM THÊM