IBM trình làng công nghệ truyền dữ liệu quang học đột phá, mang đến khả năng đào tạo AI “tốc độ ánh sáng”

IBM đã phát triển thành công một công nghệ quang học mới có thể hỗ trợ đào tạo các mô hình AI với “tốc độ ánh sáng”, đồng thời tiết kiệm năng lượng đáng kể. IBM cho biết bằng cách áp dụng những đột phá mới này vào các trung tâm dữ liệu, năng lượng tiết kiệm được khi đào tạo một mô hình AI điển hình tương đương với mức sử dụng năng lượng hàng năm của 5.000 hộ gia đình tại Hoa Kỳ.

Theo IBM, trong khi các trung tâm dữ liệu kết nối với thế giới bên ngoài bằng cáp quang, thì bên trong, dây đồng vẫn là loại vật liệu được sử dụng chủ yếu. Những sợi dây lõi đồng này có nhiệm vụ kết nối các bộ tăng tốc GPU dành nhiều thời gian chờ dữ liệu từ các thiết bị khác trong khi sử dụng năng lượng, từ đó làm tăng đáng kể chi phí vận hành. Bình luận về công nghệ truyền dữ liệu quang học mới, ông Dario Gil, Phó chủ tịch cấp cao kiêm Giám đốc nghiên cứu tại IBM, cho biết:

Khi AI tạo ra nhu cầu nhiều năng lượng và sức mạnh xử lý hơn, trung tâm dữ liệu phải phát triển – và công nghệ quang học đóng gói chung có thể giúp các trung tâm dữ liệu quy mô hớn thích ứng tốt hơn với nhu cầu từ tương lai. Với bước đột phá này, các bộ xử lý của tương lai sẽ giao tiếp giống như cách cáp quang truyền dữ liệu vào và ra khỏi trung tâm dữ liệu, mở ra kỷ nguyên mới về truyền thông nhanh hơn, bền vững hơn có thể xử lý khối lượng công việc AI khổng lồ.

IBM phác thảo nguyên mẫu công nghệ Quang học đồng đóng gói (co-package optics - CPO) mới của mình trong một bài báo kỹ thuật. Về cơ bản, cách tăng đáng kể băng thông trong các trung tâm dữ liệu, thời gian chết của GPU có thể được giảm thiểu, tăng tốc quá trình xử lý AI.

IBM tự tin cam kết công nghệ này có thể giúp việc đào tạo các mô hình ngôn ngữ lớn (LLM) có thể được rút ngắn từ ba tháng xuống còn ba tuần. Đồng thời, hiệu quả năng lượng tăng lên sẽ cắt giảm mức sử dụng năng lượng và giảm chi phí liên quan đến việc đào tạo LLM.