Cisco mới đây công bố kết hợp cùng NVIDIA mở rộng giải pháp Secure AI Factory, mang đến một khuôn khổ triển khai công nghệ trí tuệ nhân tạo (AI) trên toàn bộ hạ tầng – từ các trung tâm dữ liệu đến các môi trường biên nơi dữ liệu được tạo và các quyết định được đưa ra.

Theo đó, các doanh nghiệp, nhà cung cấp neocloud (tạm dịch: loại hình hạ tầng đám mây thế hệ mới, chuyên cung cấp GPU và tài nguyên tính toán hiệu năng cao cho các ứng dụng AI), sovereign cloud (tạm dịch: đám mây chủ quyền) và các nhà cung cấp dịch vụ hiện có thể đưa AI từ giai đoạn thử nghiệm (pilot) sang triển khai ở quy mô sản xuất mà không cần phải ghép nối các hệ thống rời rạc. Giải pháp này giúp rút ngắn thời gian triển khai từ vài tháng xuống còn vài tuần, đồng thời tích hợp các yếu tố bảo mật ngay khi bắt đầu.

AI không chỉ nằm ở trung tâm dữ liệu

Theo ông Chuck Robbins - Chủ tịch kiêm Tổng Giám đốc Cisco, phần lớn các tổ chức đều nhận thấy tiềm năng của AI trong việc chuyển đổi hoạt động kinh doanh, nhưng vẫn đang tìm cách triển khai công nghệ này một cách an toàn và ở quy mô lớn.

"Qua việc hợp tác với NVIDIA, Cisco đang giải quyết thách thức này bằng một kiến trúc thiết lập mới với tiêu chuẩn cao hơn về hiệu năng, đồng thời giúp việc triển khai, vận hành và bảo mật hạ tầng AI trở nên đơn giản hơn", Chuck Robbins nói.

Ông Jensen Huang - Nhà sáng lập kiêm Tổng Giám đốc NVIDIA - cho biết: "Các nhà máy AI (AI factory) đang thúc đẩy quá trình chuyển đổi trong mọi ngành công nghiệp, và yếu tố bảo mật cần được tích hợp ở mọi lớp – từ phần cứng đến phần mềm – nhằm bảo vệ dữ liệu, ứng dụng và hạ tầng. NVIDIA và Cisco đang cùng xây dựng nền tảng hạ tầng AI an toàn từ lõi đến biên (core-to-edge), giúp doanh nghiệp tự tin mở rộng năng lực AI".

Hoạt động suy luận AI (AI inference) ngày càng diễn ra tại chính nơi dữ liệu được tạo ra và các quyết định cần được đưa ra ngay lập tức — từ khu vực điều trị trong bệnh viện cho đến việc phân tích video theo thời gian thực tại nhà máy, nhằm đảm bảo an toàn cho người lao động. Thực tế này đang định hình lại cách xây dựng hạ tầng công nghệ, khi các tác vụ suy luận AI cần được vận hành ngay tại chỗ — gần hơn với dữ liệu, thiết bị và thời điểm cần đưa ra quyết định.

Theo đó, việc hỗ trợ GPU NVIDIA RTX PRO 4500 Blackwell Server Edition trên các nền tảng Cisco UCS và Cisco Unified Edge giúp doanh nghiệp vận hành các khối lượng công việc AI quan trọng ngay tại biên, mà không cần hạ tầng phần cứng quy mô trung tâm dữ liệu tiêu tốn nhiều năng lượng và không gian.

Cùng đó, Cisco công bố thiết kế tham chiếu Cisco AI Grid với NVIDIA, kết hợp sức mạnh của Cisco Mobility Services Platform (Tạm dịch: Nền tảng Dịch vụ Di động Cisco) cùng GPU NVIDIA RTX PRO Blackwell Series. Giải pháp này cho phép các nhà cung cấp dịch vụ tận dụng hạ tầng mạng hiện có để cung cấp các dịch vụ quản lý cho ứng dụng AI tại biên, với độ tin cậy đạt chuẩn nhà mạng và đảm bảo yêu cầu về chủ quyền dữ liệu.

Nâng cao hiệu năng và hiệu quả cho các nhà máy AI

Tiếp nối các hệ thống mới ra mắt gần đây, được trang bị Cisco Silicon One G300 cho kiến trúc scale-out (Tạm dịch: Mở rộng theo chiều ngang) và P200 cho kiến trúc scale-across (Tạm dịch: Mở rộng đa hệ thống/ kết nối nhiều cụm hạ tầng), Cisco tiếp tục nâng cao hiệu năng hạ tầng, đồng thời đơn giản hóa và tăng tốc quá trình triển khai.

Các bộ chuyển mạch tốc độ cao mới nhất của Cisco được thiết kế để đáp ứng những khối lượng công việc AI đòi hỏi cao nhất, bao gồm mẫu Cisco N9100 mới với băng thông 102.4 Tbps, được trang bị chip chuyển mạch Ethernet NVIDIA Spectrum-6. Được bổ sung vào dòng N9100 800G, hiện thiết bị này đã được thương mại hóa rộng rãi, sử dụng chip chuyển mạch Ethernet NVIDIA Spectrum-4.

Cùng đó, Cisco Nexus Hyperfabric - hiện là một phần của Cisco Nexus One, sẽ hỗ trợ các bộ chuyển mạch Cisco N9000 Series, bao gồm dòng N9100 sử dụng chip Ethernet NVIDIA Spectrum-X. Nhờ đó, các tổ chức có thể đơn giản hóa quá trình tích hợp hạ tầng vốn phức tạp với nhiều nhà cung cấp, đồng thời chuyển sang giải pháp toàn diện (full-stack), và rút ngắn thời gian triển khai và giảm gánh nặng vận hành cho đội ngũ CNTT.

Các khách hàng đang xây dựng nhà máy AI quy mô lớn hiện có hai lộ trình triển khai đã được kiểm chứng để lựa chọn: một nhà máy AI dựa trên kiến trúc tham chiếu tuân thủ chương trình NVIDIA Cloud Partner (NCP), và một Cisco Cloud Reference Architecture được xây dựng trên nền tảng Cisco Silicon One, tuân theo cùng các nguyên tắc thiết kế.

Trong bối cảnh các mô hình AI ngày càng trở thành tài sản có giá trị cao và các tác nhân AI ngày càng hoạt động tự chủ hơn, có khả năng thực hiện hành động, đưa ra quyết định và tương tác với các tác nhân khác, yếu tố bảo mật không thể chỉ được xem xét sau cùng. Cisco đang tích hợp các cơ chế bảo vệ ngay trong kiến trúc Secure AI Factory kết hợp cùng NVIDIA nhằm bảo vệ hệ thống trước cả các mối đe dọa từ bên ngoài lẫn những hành vi bất thường từ các AI agent, bao gồm bảo vệ hạ tầng AI và bảo mật tác nhân AI.

Trong đó, Cisco AI Defense sẽ hỗ trợ và bảo mật các môi trường chạy OpenShell của NVIDIA – một phần của NVIDIA Agent Toolkit – thông qua việc bổ sung các cơ chế kiểm soát và rào chắn bảo vệ nhằm quản lý hoạt động của các tác nhân AI và các hành động do chúng thực hiện.