Siêu máy tính: Meta đang xây dựng cỗ máy chuyên dụng để chạy AI | H-care.vn

Công ty mẹ của Facebook, Meta, đang xây dựng siêu máy tính dành riêng cho AI mạnh nhất thế giới để phát triển các công cụ nhận dạng giọng nói tốt hơn, tự động dịch giữa các ngôn ngữ khác nhau và giúp xây dựng siêu dữ liệu 3D ảo của nó.

Mặc dù còn lâu mới hoàn thành, nhưng AI Research SuperCluster (RSC) đã hoạt động và đã vượt trội so với siêu máy tính nhanh nhất trước đây của Meta. Chiếc máy đó được thiết kế vào năm 2017 và được trang bị 22.000 đơn vị xử lý đồ họa (GPU) mạnh mẽ, mặc dù được thiết kế để chơi game nhưng lại là công cụ hiệu quả cao để đào tạo các mô hình AI.

Hiện tại, RSC chỉ có 6080 GPU, nhưng chúng mạnh hơn so với máy trước đó và nó đã nhanh hơn gấp ba lần so với người tiền nhiệm của nó trong việc đào tạo các mô hình AI lớn. Hiệu suất hiện tại của nó ngang bằng với siêu máy tính Perlmutter tại Trung tâm Điện toán Khoa học Nghiên cứu Năng lượng Quốc gia ở California, hiện đang xếp thứ năm trong bảng xếp hạng TOP500 siêu máy tính của thế giới.

Khi RSC hoàn thành, nó sẽ bao gồm 16.000 GPU và sẽ mạnh gấp gần ba lần so với hiện tại. Meta nói rằng, tại thời điểm này, nó sẽ là siêu máy tính được tối ưu hóa cho AI nhanh nhất trên thế giới, với hiệu suất gần 5 exaflop.

Siêu máy tính có thể được thiết kế để vượt trội trong một số nhiệm vụ nhất định. Máy của Meta chuyên dùng để đào tạo và chạy các mô hình AI lớn. Sẽ có nhiều máy tính mạnh hơn trên thế giới khi nó hoàn thành, nhưng chỉ một số ít và không có máy tính nào chia sẻ kiến ​​trúc hoặc mục đích sử dụng chính xác của nó.

Nghiên cứu AI tiên tiến nhất dựa trên quy mô trong những năm gần đây và các máy móc ngày càng mạnh mẽ dành cho các mô hình đào tạo. Một trong những mạng thần kinh lớn nhất, mô hình tạo ngôn ngữ tự nhiên Megatron-Turing, có 530 tỷ tham số, tương đương với các kết nối giữa các tế bào não. Meta cho biết máy của anh ấy cuối cùng sẽ chạy các mô hình với hàng nghìn tỷ tham số.

James Knight của Đại học Sussex, Vương quốc Anh, cho biết chiếc máy tính được đề xuất có quy mô “khổng lồ”, nhưng nó có thể không vượt qua được một số thách thức trong nghiên cứu AI. Ông nói: “Một hệ thống lớn như vậy chắc chắn sẽ cho phép họ xây dựng những mô hình lớn hơn. “Tuy nhiên, tôi không nghĩ việc đơn giản tăng kích thước của các mô hình ngôn ngữ sẽ giải quyết được các vấn đề đã được chứng minh rõ ràng về việc các mô hình hiện tại lặp lại ngôn ngữ phân biệt giới tính và phân biệt chủng tộc hoặc không đạt các bài kiểm tra cơ bản về lý luận logic.”