ChatGPT hoạt động nhờ hàng chục nghìn GPU Nvidia mà Microsoft đang nâng cấp

Một báo cáo mới đã tiết lộ số lượng lớn GPU Nvidia được Microsoft sử dụng và những đổi mới mà hãng đã thực hiện trong việc sắp xếp chúng để giúp OpenAI đào tạo ChatGPT. Tin tức được đưa ra khi Microsoft công bố một bản nâng cấp đáng kể cho siêu máy tính AI của mình để tiếp tục sáng kiến AI sáng tạo trong nước.

Theo Bloomberg, OpenAI đã đào tạo ChatGPT trên một siêu máy tính được Microsoft xây dựng từ hàng chục nghìn GPU Nvidia A100. Microsoft đã công bố một mảng mới sử dụng GPU H100 mới hơn của Nvidia trong tuần này.

Thách thức mà các công ty phải đối mặt bắt đầu vào năm 2019 sau khi Microsoft đầu tư 1 tỷ USD vào OpenAI đồng thời đồng ý xây dựng một siêu máy tính AI cho công ty khởi nghiệp. Tuy nhiên, Microsoft không có phần cứng nội bộ cho những gì OpenAI cần.

Sau khi mua lại chip của Nvidia, Microsoft đã phải suy nghĩ lại về cách sắp xếp số lượng GPU khổng lồ như vậy để tránh tình trạng quá nóng và mất điện. Công ty sẽ không nói chính xác chi phí nỗ lực là bao nhiêu, nhưng phó chủ tịch điều hành Scott Guthrie đưa ra con số trên vài trăm triệu đô la.

Việc chạy đồng thời tất cả các A100 buộc Redmond phải xem xét cách đặt chúng và nguồn điện của chúng. Nó cũng phải phát triển phần mềm mới để tăng hiệu quả, đảm bảo thiết bị mạng có thể chịu được lượng dữ liệu khổng lồ, thiết kế các khay cáp mới mà nó có thể sản xuất độc lập và sử dụng nhiều phương pháp làm mát. Tùy thuộc vào sự thay đổi của khí hậu, các kỹ thuật làm mát bao gồm bay hơi, làm mát đầm lầy và không khí bên ngoài.

Xem thêm: ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Kể từ thành công ban đầu của ChatGPT, Microsoft và một số đối thủ của nó đã bắt đầu làm việc trên các mô hình AI song song cho các công cụ tìm kiếm và các ứng dụng khác. Để tăng tốc độ AI tổng quát của mình, công ty đã giới thiệu máy ảo ND H100 v5, một máy ảo có thể sử dụng từ tám đến hàng nghìn GPU Nvidia H100.

H100s kết nối thông qua NVSwitch và NVLink 4.0 với băng thông chia đôi 3,6TB/giây giữa mỗi trong số 8 GPU cục bộ trong mỗi máy ảo. Mỗi GPU tự hào có băng thông 400 Gb/giây thông qua các kết nối Nvidia Quantum-2 CX7 InfiniBand và 64GB/giây PCIe5. Mỗi máy ảo quản lý 3,2Tb/giây thông qua mạng lưới cây mỡ không chặn. Hệ thống mới của Microsoft cũng có bộ xử lý Intel Xeon thế hệ thứ 4 và RAM DDR5 16 kênh 4800 MHz.

Microsoft có kế hoạch sử dụng máy ảo ND H100 v5 cho công cụ tìm kiếm Bing mới do AI hỗ trợ, trình duyệt web Edge và Microsoft Dynamics 365. Máy ảo hiện có sẵn để xem trước và sẽ đạt tiêu chuẩn với danh mục đầu tư Azure. Người dùng tiềm năng có thể yêu cầu quyền truy cập .

Cập nhật ngày:
14-03-2023, 15:12

TIN LIÊN QUAN

Sự kiện AI lớn của NVIDIA đã đến

Khi người sáng lập và CEO của NVIDIA, Jensen Huang, ca ngợi về trí thông minh nhân tạo trong quá khứ, hầu hết chúng ta đều cảm thấy đó chỉ là lời quảng cáo phô trương - loại ngôn từ cao sang mà chúng ta thường thấy từ một nhà điều hành với nguồn

ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Các tính năng nâng cao của ChatGPT, chẳng hạn như gỡ lỗi mã lệnh, viết bài luận hoặc kể một câu chuyện cười, khiến chatbot AI này nhanh chóng gây tiếng vang trên toàn cầu. Chưa dừng lại ở đó, OpenAI sẽ tiếp tục nâng cấp sản phẩm nổi tiếng nhất của

ChatGPT bị sập cùng hàng loạt công cụ OpenAI, người dùng không thể truy cập

Hàng loạt sản phẩm của OpenAI, trong đó có ChatGPT, không thể sử dụng từ chiều 21/2.

Nóng: Microsoft vừa đuổi việc nhóm đạo đức AI - Đâu là nguyên nhân?

Dù đang đầu tư mạnh mẽ vào việc phát triển các sản phẩm trí tuệ nhân tạo (AI) nhưng nhóm đạo đức và xã hội cho AI của Microsoft lại vừa bị sa thải. Hãy cùng Trangcongnghe.vn đi tìm hiểu sự việc này ngay nhé!

Kỹ sư Google tiết lộ bí mật gây sốc: Google “học lỏm” ChatGPT

Sau khi rời Google, kỹ sư này đã chuyển sang làm việc tại ChatGPT. Lý do sẽ được Trangcongnghe.vn tiết lộ chi tiết trong phần nội dung dưới đây.

[CỰC NÓNG] Bản update ChatGPT sắp được “tung” ra - Hứa hẹn là “cơn địa chấn” với giới công nghệ

Phiên bản update ChatGPT mới nhất sắp được ra mắt với những tính năng đa dạng và độc đáo, hứa hẹn mang đến trải nghiệm tuyệt vời cho người dùng. ChatGPT có khả năng tạo ra video, hình ảnh và âm nhạc dựa trên các từ khóa gợi ý, giúp người dùng tạo

OpenAI được định giá khoảng 29 tỷ USD khi đầu tư vào trí thông minh nhân tạo

trangcongnghe.vn - Cơn sốt đầu tư vào trí thông minh nhân tạo rộng rãi đang nóng lên, kể từ khi Chat GPT của OpenAI tạo ra sự bùng nổ công nghệ chatbot vào cuối năm ngoái. Với OpenAI do Microsoft hậu thuẫn và các công ty khởi nghiệp khác huy động

GPT-4 vượt mặt “đàn anh” ChatGPT chỉ với 5 yếu tố

Mô hình AI GPT-4 mới của OpenAI đã được ra mắt một cách hoành tráng với khả năng cung cấp năng lượng cho nhiều ứng dụng, từ tình nguyện viên ảo cho người khiếm thị đến bot học ngôn ngữ được cải tiến trong Duolingo. Tuy nhiên, GPT-4 khác biệt với

THỦ THUẬT HAY

Thủ thuật

[iOS] Hướng dẫn tạo hình trái tim trên widget khi sử dụng Magic Launcher Pro

Thời gian gần đây, cộng đồng mạng xã hội Facebook đang rộ lên phong trào tạo hình trái tim trên widget của Magic Launcher Pro khá là thú vị. Tuy nhiên, mình thấy còn khá nhiều bạn chưa biết cách làm mặc dù đó chỉ là

Thủ thuật

Hướng dẫn cài đặt ứng dụng mô phỏng hệ mặt trời Solar System 3D Simulator

Với dung lượng chỉ 5 MB bạn sẽ nhanh chóng tải Solar System 3D Simulator về máy và tiến hành cài đặt Solar System 3D Simulator theo hướng dẫn dưới đây của chúng tôi bạn sẽ có ngay cho mình 1 hệ thống mô phỏng chuyển

Thủ thuật

Cách chơi game không bị lag, mượt trên máy cấu hình thấp

Với các dòng máy tính, laptop cao cấu hiện nay thì việc tải game không có gì phải bàn. Tuy nhiên nếu bạn đang sở hữu một chiếc PC đời cổ, với cấu hình khiêm tốn thì việc chơi game giật lag là điều không tránh khỏi. Để

Thủ thuật

Cách dùng 7Zip để mã hóa tập tin, thư mục trên Windows 10

Người dùng thường chọn 7-Zip để giải nén tập tin, nhưng có lẽ nhiều người không biết rằng phần mềm này còn có thể mã hóa tập tin và thư mục bằng thuật toán mã hóa AES-256.

Thủ thuật

Bỏ túi 5 cách khắc phục smartphone bị nóng khi chơi game đổi thưởng

Nhiều anh em chơi game trên điện thoại thường gặp tình trạng máy nóng lên khi đang sử dụng. Đây là vấn đề phổ biến mà nhiều anh em game thủ thấy khó chịu. Nguyên nhân vấn đề này là gì? Nóng máy khi chơi game có làm ảnh

ĐÁNH GIÁ NHANH

Đánh giá / Máy tính

Đánh giá LENOVO LEGION 5I PRO (2022): chơi game nhanh, mượt.

Phiên bản 2022 này có gì mới? Nó nhanh hơn, với sự hỗ trợ của bộ vi xử lý mới nhất Intel thế hệ thứ 12 và bộ vi xử lý AMD’s Ryzen 6000 H-series, cùng với các GPU mới và mạnh mẽ hơn.

Thiết bị số / Đánh giá

Đánh giá Loa Bluetooth Tronsmart Element T6 – Gã black panther châu Á

Tronsmart là cái tên còn khá mới lạ bên cạnh những ông lớn như Sony, JBL,.. nhưng không vì thế mà hãng loa đến từ Trung Quốc này sản xuất nhưng sản phẩm giá rẻ với chất lượng làng nhàng như đồng hương khác. Chất lượng

Điện thoại / Đánh giá

Cảm nhận thiết kế OPPO F9: dành cho những người yêu cái đẹp

OPPO F9 đã có một bước tiến lớn so với các thế hệ trước và so với các đối thủ nhờ thiết kế màn hình “giọt nước” độc đáo. Đây cũng là chiếc điện thoại OPPO dòng F đầu tiên có camera kép để cạnh tranh sòng phẳng với những