Cơ sở hạ tầng của nhiều doanh nghiệp chưa sẵn sàng cho AI

Keysight Technologies hợp tác với Heavy Reading vừa phát hành báo cáo về kết nối mạng cho cụm AI Beyond the Bottleneck: AI Cluster Networking Report 2025. Báo cáo cho thấy, việc ứng dụng trí tuệ nhân tạo (AI) đang được triển khai nhanh hơn khả năng đáp ứng của cơ sở hạ tầng. Nghiên cứu toàn cầu này cho thấy các nhà cung cấp dịch vụ viễn thông và dịch vụ đám mây cần khẩn trương chuyển dịch từ mô hình mở rộng sang tối ưu hóa để có thể hỗ trợ các ứng dụng AI thế hệ tiếp theo.

Trong bối cảnh trí tuệ nhân tạo đang được tăng tốc triển khai trong mọi ngành nghề, nhu cầu về cơ sở hạ tầng trung tâm dữ liệu cũng tăng nhanh. Chỉ xây dựng cơ sở hạ tầng mới là chưa đủ, 62% đối tượng tham gia khảo sát cho biết mong muốn khai thác tối đa cơ sở hạ tầng hiện tại mà không cần đầu tư mới. Các nhà mạng chuyển sang chiến lược tối ưu hóa hiệu năng, chẳng hạn như giả lập các ứng dụng AI thực tiễn, không chỉ để xác nhận hiệu năng mà còn để nâng cao hiệu suất và đẩy nhanh triển khai các cụm AI thế hệ sau.

Gần 89% đối tượng tham gia khảo sát có kế hoạch tăng cường hoặc tiếp tục đầu tư vào cơ sở hạ tầng AI trong năm tới. Nguyên nhân cho sự tăng trưởng này bao gồm tích hợp đám mây (51%), nâng cấp lên GPU nhanh hơn (49%) và tốc độ mạng cao hơn (45%).

Cách tiếp cận ưu tiên tối ưu hóa: Trong khi vẫn tiếp tục đầu tư, 62% nhà mạng cho biết họ mong muốn khai thác nhiều hơn giá trị từ hạ tầng hiện có mà không cần đầu tư mới.

Giả lập trở thành công cụ thiết yếu: 95% đối tượng tham gia khảo sát cho biết giả lập ứng dụng thực tiễn là năng lực trọng yếu, nhưng họ vẫn thiếu công cụ để mô phỏng hiệu quả các môi trường AI với quy mô sản xuất.

Áp lực ngày càng cao về cơ sở hạ tầng: Hơn 50% nhà mạng coi hạn chế về ngân sách (59%), hạn chế về hạ tầng (55%) và thiếu hụt nhân lực (51%) là những chướng ngại lớn nhất khi mở rộng AI.

Sự trỗi dậy của kết nối mạng tốc độ cao: Việc ứng dụng các công nghệ kết nối mạng tiên tiến đang dần tăng tốc, khi 34% đối tượng khảo sát đang khám phá công nghệ 800G, 22% thử nghiệm 1.6T và 58% đánh giá lựa chọn kết nối mạng hiệu năng cao Ultra Ethernet.

Xử lý các điểm tắc nghẽn mạng là mục tiêu tiếp theo: Khi 55% nhà mạng triển khai liên kết 400G và đang tìm hiểu nghiên cứu công nghệ 1.6T, dung lượng mạng được coi là nhân tố quyết định khả năng mở rộng của AI.