ChatGPT hoạt động nhờ hàng chục nghìn GPU Nvidia mà Microsoft đang nâng cấp

Một báo cáo mới đã tiết lộ số lượng lớn GPU Nvidia được Microsoft sử dụng và những đổi mới mà hãng đã thực hiện trong việc sắp xếp chúng để giúp OpenAI đào tạo ChatGPT. Tin tức được đưa ra khi Microsoft công bố một bản nâng cấp đáng kể cho siêu máy tính AI của mình để tiếp tục sáng kiến AI sáng tạo trong nước.

Theo Bloomberg, OpenAI đã đào tạo ChatGPT trên một siêu máy tính được Microsoft xây dựng từ hàng chục nghìn GPU Nvidia A100. Microsoft đã công bố một mảng mới sử dụng GPU H100 mới hơn của Nvidia trong tuần này.

Thách thức mà các công ty phải đối mặt bắt đầu vào năm 2019 sau khi Microsoft đầu tư 1 tỷ USD vào OpenAI đồng thời đồng ý xây dựng một siêu máy tính AI cho công ty khởi nghiệp. Tuy nhiên, Microsoft không có phần cứng nội bộ cho những gì OpenAI cần.

Sau khi mua lại chip của Nvidia, Microsoft đã phải suy nghĩ lại về cách sắp xếp số lượng GPU khổng lồ như vậy để tránh tình trạng quá nóng và mất điện. Công ty sẽ không nói chính xác chi phí nỗ lực là bao nhiêu, nhưng phó chủ tịch điều hành Scott Guthrie đưa ra con số trên vài trăm triệu đô la.

Việc chạy đồng thời tất cả các A100 buộc Redmond phải xem xét cách đặt chúng và nguồn điện của chúng. Nó cũng phải phát triển phần mềm mới để tăng hiệu quả, đảm bảo thiết bị mạng có thể chịu được lượng dữ liệu khổng lồ, thiết kế các khay cáp mới mà nó có thể sản xuất độc lập và sử dụng nhiều phương pháp làm mát. Tùy thuộc vào sự thay đổi của khí hậu, các kỹ thuật làm mát bao gồm bay hơi, làm mát đầm lầy và không khí bên ngoài.

Xem thêm: ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Kể từ thành công ban đầu của ChatGPT, Microsoft và một số đối thủ của nó đã bắt đầu làm việc trên các mô hình AI song song cho các công cụ tìm kiếm và các ứng dụng khác. Để tăng tốc độ AI tổng quát của mình, công ty đã giới thiệu máy ảo ND H100 v5, một máy ảo có thể sử dụng từ tám đến hàng nghìn GPU Nvidia H100.

H100s kết nối thông qua NVSwitch và NVLink 4.0 với băng thông chia đôi 3,6TB/giây giữa mỗi trong số 8 GPU cục bộ trong mỗi máy ảo. Mỗi GPU tự hào có băng thông 400 Gb/giây thông qua các kết nối Nvidia Quantum-2 CX7 InfiniBand và 64GB/giây PCIe5. Mỗi máy ảo quản lý 3,2Tb/giây thông qua mạng lưới cây mỡ không chặn. Hệ thống mới của Microsoft cũng có bộ xử lý Intel Xeon thế hệ thứ 4 và RAM DDR5 16 kênh 4800 MHz.

Microsoft có kế hoạch sử dụng máy ảo ND H100 v5 cho công cụ tìm kiếm Bing mới do AI hỗ trợ, trình duyệt web Edge và Microsoft Dynamics 365. Máy ảo hiện có sẵn để xem trước và sẽ đạt tiêu chuẩn với danh mục đầu tư Azure. Người dùng tiềm năng có thể yêu cầu quyền truy cập .

ChatGPT chuẩn bị update, phiên bản sẽ làm đảo lộn cả thế giới

Các tính năng nâng cao của ChatGPT, chẳng hạn như gỡ lỗi mã lệnh, viết bài luận hoặc kể một câu chuyện cười, khiến chatbot AI này nhanh chóng gây tiếng vang trên toàn cầu. Chưa dừng lại ở đó, OpenAI sẽ tiếp tục nâng cấp sản phẩm nổi tiếng nhất của

[CỰC NÓNG] Bản update ChatGPT sắp được “tung” ra - Hứa hẹn là “cơn địa chấn” với giới công nghệ

Phiên bản update ChatGPT mới nhất sắp được ra mắt với những tính năng đa dạng và độc đáo, hứa hẹn mang đến trải nghiệm tuyệt vời cho người dùng. ChatGPT có khả năng tạo ra video, hình ảnh và âm nhạc dựa trên các từ khóa gợi ý, giúp người dùng tạo

OpenAI được định giá khoảng 29 tỷ USD khi đầu tư vào trí thông minh nhân tạo

trangcongnghe.vn - Cơn sốt đầu tư vào trí thông minh nhân tạo rộng rãi đang nóng lên, kể từ khi Chat GPT của OpenAI tạo ra sự bùng nổ công nghệ chatbot vào cuối năm ngoái. Với OpenAI do Microsoft hậu thuẫn và các công ty khởi nghiệp khác huy động

CEO OpenAI đã hối hận vì phát hành ChatGPT quá sớm?

Ngày 19/2, Sam Altman, CEO Op enAI, đã có những chia sẻ về chatbot AI ChatGPT trên Twitter.

AI sẽ được tích hợp cho Facebook, Instagram và WhatsApp

CEO Mark Zuckerberg cho biết một nhóm chuyên gia về AI đang nghiên cứu cách ứng dụng công nghệ này nhằm nâng cao trải nghiệm người dùng Facebook, Instagram và WhatsApp.

ChatGPT và Bard AI đắt đỏ gấp 10 lần so với tìm kiếm thông thường

Google ước tính mất hàng tỷ USD để vận hành Bard như một công cụ tìm kiếm, đắt đỏ gấp 10 lần so với thông thường. 'Mỗi truy vấn trên AI như chatbot Bard có thể khiến công ty tốn phí gấp 10 lần so với tìm kiếm thông tin bằng từ khóa trên Google

Startup Humane “Kẻ huỷ diệt iphone” đã huy động vốn thành công lên tới 230 triệu USD

trangcongnghe.vn - Startup Humane “Kẻ huỷ diệt iphone” được thành lập bởi nhóm thiết kế và kỹ thuật cũ của Apple Imran Chaudhri và Bethany Bongiorno, hôm nay đã huy động thành công 230 triệu đô la để xây dựng cái mà họ gọi là “Nền tảng dịch vụ đám

THỦ THUẬT HAY

Thủ thuật

Cách đồng bộ hóa dữ liệu Y tế iCloud trong iOS 11

Bây giờ, Apple cho phép bạn đồng bộ dữ liệu sức khỏe của bạn ở iCloud trong iOS 11 trên iPhone và iPad.

Thủ thuật

Cách chơi game Liên quân Mobile trên máy tính

Chơi game Liên quân Mobile trên máy tính hay nói cách khác là cài đặt game Liên quân Mobile và chơi trên một trong những giả lập Android đang phổ biến trên thị trường hiện nay.

Thủ thuật

Hướng dẫn tăng tốc độ Internet trong Windows 10 version 1709

Hầu hết các bản cập nhật Windows 10 đều từ vài trăm MB đến GB, và đa số người dùng đều phàn nàn rằng kết nối internet của họ sẽ trở nên quá chậm khi Windows Update đang tải về bản cập nhật.

Thủ thuật

Cách khám phá vũ trụ và hệ mặt trời trên Google Maps

Google Maps mới cho phép người dùng thám hiểm vũ trụ, khám phá hệ mặt trời ngay trên chiếc máy tính của mình. Giờ đây việc xem Mặt trăng, Trái đất, sao Hỏa, Sao Kim, Sao Diêm Vương ngay trên Google Maps không còn là

Thủ thuật

Hướng dẫn làm USB Boot chuẩn Legacy và UEFI với DLCBoot 2017 v3.4

Dù bạn là một kỹ thuật viên máy tính hay sửa Windows dạo, hoặc chỉ đơn thuần là người thích vọc vạch thì USB cứu hộ vẫn là một thứ không thể thiếu được. Hôm nay, TECHRUM sẽ hướng dẫn các bạn cách để tạo một chiếc USB

ĐÁNH GIÁ NHANH

Thiết bị số / Đánh giá

HP LaserJet Pro MFP M130nw: giải pháp in ấn tiết kiệm cho doanh nghiệp

Lựa chọn một chiếc máy in cho văn phòng hoặc gia đình là một vấn đề nhiều người quan tâm đến. Trong đó đối tượng khách hàng doanh nghiệp thì yếu tố giá thành và tính năng được đặt lên hàng đầu. Nếu như ‘hầu bao’ của

Điện thoại / Đánh giá

Điện thoại giá rẻ Samsung Galaxy A03 và những điểm cần lưu ý

Galaxy A03 – mẫu smartphone tích hợp những công nghệ tốt nhất trong phân khúc với Bộ đôi camera 48MP sắc nét, camera xóa phông nghệ thuật và bộ lọc phong phú mở rộng giới hạn sáng tạo của giới trẻ. Bên cạnh đó, dung

Nổi bật :

TIN LIÊN QUAN