ChatGPT hoạt động nhờ hàng chục nghìn GPU Nvidia mà Microsoft đang nâng cấp

Một báo cáo mới đã tiết lộ số lượng lớn GPU Nvidia được Microsoft sử dụng và những đổi mới mà hãng đã thực hiện trong việc sắp xếp chúng để giúp OpenAI đào tạo ChatGPT. Tin tức được đưa ra khi Microsoft công bố một bản nâng cấp đáng kể cho siêu máy tính AI của mình để tiếp tục sáng kiến AI sáng tạo trong nước.

Theo Bloomberg, OpenAI đã đào tạo ChatGPT trên một siêu máy tính được Microsoft xây dựng từ hàng chục nghìn GPU Nvidia A100. Microsoft đã công bố một mảng mới sử dụng GPU H100 mới hơn của Nvidia trong tuần này.

Thách thức mà các công ty phải đối mặt bắt đầu vào năm 2019 sau khi Microsoft đầu tư 1 tỷ USD vào OpenAI đồng thời đồng ý xây dựng một siêu máy tính AI cho công ty khởi nghiệp. Tuy nhiên, Microsoft không có phần cứng nội bộ cho những gì OpenAI cần.

Sau khi mua lại chip của Nvidia, Microsoft đã phải suy nghĩ lại về cách sắp xếp số lượng GPU khổng lồ như vậy để tránh tình trạng quá nóng và mất điện. Công ty sẽ không nói chính xác chi phí nỗ lực là bao nhiêu, nhưng phó chủ tịch điều hành Scott Guthrie đưa ra con số trên vài trăm triệu đô la.

Việc chạy đồng thời tất cả các A100 buộc Redmond phải xem xét cách đặt chúng và nguồn điện của chúng. Nó cũng phải phát triển phần mềm mới để tăng hiệu quả, đảm bảo thiết bị mạng có thể chịu được lượng dữ liệu khổng lồ, thiết kế các khay cáp mới mà nó có thể sản xuất độc lập và sử dụng nhiều phương pháp làm mát. Tùy thuộc vào sự thay đổi của khí hậu, các kỹ thuật làm mát bao gồm bay hơi, làm mát đầm lầy và không khí bên ngoài.

Xem thêm: ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Kể từ thành công ban đầu của ChatGPT, Microsoft và một số đối thủ của nó đã bắt đầu làm việc trên các mô hình AI song song cho các công cụ tìm kiếm và các ứng dụng khác. Để tăng tốc độ AI tổng quát của mình, công ty đã giới thiệu máy ảo ND H100 v5, một máy ảo có thể sử dụng từ tám đến hàng nghìn GPU Nvidia H100.

H100s kết nối thông qua NVSwitch và NVLink 4.0 với băng thông chia đôi 3,6TB/giây giữa mỗi trong số 8 GPU cục bộ trong mỗi máy ảo. Mỗi GPU tự hào có băng thông 400 Gb/giây thông qua các kết nối Nvidia Quantum-2 CX7 InfiniBand và 64GB/giây PCIe5. Mỗi máy ảo quản lý 3,2Tb/giây thông qua mạng lưới cây mỡ không chặn. Hệ thống mới của Microsoft cũng có bộ xử lý Intel Xeon thế hệ thứ 4 và RAM DDR5 16 kênh 4800 MHz.

Microsoft có kế hoạch sử dụng máy ảo ND H100 v5 cho công cụ tìm kiếm Bing mới do AI hỗ trợ, trình duyệt web Edge và Microsoft Dynamics 365. Máy ảo hiện có sẵn để xem trước và sẽ đạt tiêu chuẩn với danh mục đầu tư Azure. Người dùng tiềm năng có thể yêu cầu quyền truy cập .

Cập nhật ngày:
14-03-2023, 15:12

TIN LIÊN QUAN

Sự kiện AI lớn của NVIDIA đã đến

Khi người sáng lập và CEO của NVIDIA, Jensen Huang, ca ngợi về trí thông minh nhân tạo trong quá khứ, hầu hết chúng ta đều cảm thấy đó chỉ là lời quảng cáo phô trương - loại ngôn từ cao sang mà chúng ta thường thấy từ một nhà điều hành với nguồn

ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Các tính năng nâng cao của ChatGPT, chẳng hạn như gỡ lỗi mã lệnh, viết bài luận hoặc kể một câu chuyện cười, khiến chatbot AI này nhanh chóng gây tiếng vang trên toàn cầu. Chưa dừng lại ở đó, OpenAI sẽ tiếp tục nâng cấp sản phẩm nổi tiếng nhất của

ChatGPT bị sập cùng hàng loạt công cụ OpenAI, người dùng không thể truy cập

Hàng loạt sản phẩm của OpenAI, trong đó có ChatGPT, không thể sử dụng từ chiều 21/2.

Nóng: Microsoft vừa đuổi việc nhóm đạo đức AI - Đâu là nguyên nhân?

Dù đang đầu tư mạnh mẽ vào việc phát triển các sản phẩm trí tuệ nhân tạo (AI) nhưng nhóm đạo đức và xã hội cho AI của Microsoft lại vừa bị sa thải. Hãy cùng Trangcongnghe.vn đi tìm hiểu sự việc này ngay nhé!

Kỹ sư Google tiết lộ bí mật gây sốc: Google “học lỏm” ChatGPT

Sau khi rời Google, kỹ sư này đã chuyển sang làm việc tại ChatGPT. Lý do sẽ được Trangcongnghe.vn tiết lộ chi tiết trong phần nội dung dưới đây.

[CỰC NÓNG] Bản update ChatGPT sắp được “tung” ra - Hứa hẹn là “cơn địa chấn” với giới công nghệ

Phiên bản update ChatGPT mới nhất sắp được ra mắt với những tính năng đa dạng và độc đáo, hứa hẹn mang đến trải nghiệm tuyệt vời cho người dùng. ChatGPT có khả năng tạo ra video, hình ảnh và âm nhạc dựa trên các từ khóa gợi ý, giúp người dùng tạo

OpenAI được định giá khoảng 29 tỷ USD khi đầu tư vào trí thông minh nhân tạo

trangcongnghe.vn - Cơn sốt đầu tư vào trí thông minh nhân tạo rộng rãi đang nóng lên, kể từ khi Chat GPT của OpenAI tạo ra sự bùng nổ công nghệ chatbot vào cuối năm ngoái. Với OpenAI do Microsoft hậu thuẫn và các công ty khởi nghiệp khác huy động

GPT-4 vượt mặt “đàn anh” ChatGPT chỉ với 5 yếu tố

Mô hình AI GPT-4 mới của OpenAI đã được ra mắt một cách hoành tráng với khả năng cung cấp năng lượng cho nhiều ứng dụng, từ tình nguyện viên ảo cho người khiếm thị đến bot học ngôn ngữ được cải tiến trong Duolingo. Tuy nhiên, GPT-4 khác biệt với

THỦ THUẬT HAY

Thủ thuật

Tính năng Windows 10 ẩn này sẽ mang đến công nghệ âm thanh Virtual Surround

Bản cập nhật Windows 10 Creators Update của Microsoft chứa một 'kho vàng' ẩn mà bạn chưa khám phá hết. Một trong số đó là Windows Sonic - công cụ âm thanh spatial surround mới dành cho Windows 10.

Thủ thuật

Nhưng lỗi phổ biến của máy in và cách khắc phục - sự cố máy in.

Có một số vấn đề về lỗi máy in phổ biến nhất định mà hầu hết người sử dụng phải đối mặt một hoặc hai lần trong quá trình sử dụng máy in của họ. Tuy nhiên, những sự cố máy in phổ biến

Thủ thuật

Hướng dẫn sử dụng cơ bản Xiaomi 11 Lite 5G NE

Bài hướng dẫn sử dụng dưới đây sẽ giúp bạn nhanh chóng làm chủ và trải nghiệm tốt hơn với chiếc Xiaomi 11 Lite 5G NE của mình, bạn sẽ dễ dàng hơn trong việc sử dụng điện thoại từ những bước cơ bản nhất.

Thủ thuật

Cách khắc phục các lỗi thường gặp trong Google Chrome

Tuy nhiên điều đó không có nghĩa là Google Chrome hoàn hảo, rất nhiều lỗi phát sinh trong quá trình sử dụng Chrome gây khí chịu cho người dùng. Bài viết này chúng tôi sẽ tổng hợp tất cả các lỗi đó và hướng dẫn cách

Điện thoại / Thủ thuật

Hướng dẫn ẩn địa chỉ IP trên iPhone bằng iCloud Private Relay

Trên iOS 15, Apple mới đây đã bổ sung thêm tính năng Private Relay giúp người dùng có thể ẩn địa chỉ IP trên iPhone để duyệt web an toàn hơn.

ĐÁNH GIÁ NHANH

Điện thoại / Đánh giá

Đập hộp và trên tay Asus Zenfone Max Plus giá chỉ 5.5 triệu

Asus là một nhà sản xuất rất chú trọng tới việc nâng cao trải nghiệp người dùng, chính vì vậy mà các sản phẩm được Asus ra mắt luôn bắt kịp xu hướng phát triển smartphone hiện nay, và màn hình tràn viền cũng không nằm

Công nghệ / Điện thoại / Đánh giá

Đánh giá Pixel 6 Pro: Chiến binh đáng gờm của “ông lớn” Google năm 2021

Năm nay, thị trường smartphone đã xuất hiện rất nhiều sản phẩm cao cấp đến từ các thương hiệu khác nhau. Trong số đó, không thể không nhắc đến chiếc điện thoại Pixel 6 Pro. Sản phẩm vừa ra mắt cách đây không lâu và

Xe cộ / Đánh giá

Đánh giá Mitsubishi Outlander: crossover đẹp và chất, đẳng cấp Nhật Bản

Sau hành trình dài trải nghiệm khám phá, chúng tôi mới hiểu vì sao Mitsubishi Motors Việt Nam lại tự tin vào quyết tâm giành chiến thắng khi tung Outlander mới vào thị trường cạnh tranh đầy khốc liệt.