Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Tại hội nghị Hot Chips đang diễn ra tại Cupertino, California, Microsoft đã gây bất ngờ khi ra mắt một nền tảng phần cứng dành riêng cho AI với tên gọi Brainwave. 
Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay GPU.

Các nhà nghiên cứu tại Microsoft đã cho chạy một mô hình máy học có tên Gated Recurrent Unit trên chip lập trình (FPGA) Stratix 10 mới của Intel ở tốc độ xử lý 39,5 TFLOPS mà không định loạt tiến trình, nhờ đó hệ thống máy học có thể đạt được hiệu năng xử lý theo thời gian thực.

Mô hình được Microsoft chọn có tỉ lệ lớn hơn nhiều lần so với các mạng thần kinh ảo như Alexnet và Resnet-50 vốn được nhiều công ty khác sử dụng để đánh giá hiệu năng phần cứng được họ phát triển. Do đó, độ trễ thấp là yếu tố cực kỳ quan trọng để có thể triển khai các hệ thống máy học ở tỉ lệ lớn như vậy bởi người dùng dĩ nhiên không hề mong muốn phải chờ đợi quá lâu để ứng dụng phản hồi.

Doug Burger - kỹ sư tại Microsoft Research cho biết: ' Chúng tôi gọi đây là AI thời gian thực bởi ý tưởng ở đây là khi bạn gởi một chỉ thị vào chip, bạn sẽ muốn có được câu trả lời ngay lập tức.'

Microsoft hiện đang sử dụng Brainwave với rất nhiều chip lập trình FPGA trang bị cho các trung tâm dữ liệu của hãng. Theo Burger, Brainwave sẽ cho phép các dịch vụ của Microsoft hỗ trợ nhanh hơn với các tính năng AI. Thêm vào đó, công ty cũng đã có kế hoạch cung cấp nền tảng Brainwave cho các khách hàng phía thứ 3 thông qua nền tảng đám mây Azure.

Brainwave nạp một mô hình máy học đã qua huấn luyện vào bộ nhớ của chip Stratix 10 và nó sẽ nằm ở đây suốt vòng đời của hệ thống. Phần cứng này sau đó có thể được dùng để tính toán những gì có bên trong một mô hình được thiết kế tạo ra dữ liệu, chẳng hạn như các đoạn văn bản dự đoán trước. Trong tình huống một mô hình máy học quá lớn để có thể chạy trên một con FPGA riêng lẻ, phần mềm sẽ triển khai và thực thi nó trên nhiều phần cứng khác.

Microsoft hiện không phải là công ty duy nhất đầu tư vào phần cứng giúp tăng tốc quá trình xử lý của máy học. Google hồi đầu năm cũng đã công bố thế hệ 2 của Tensor Processing Unit - một con chip dành riêng cho mục đích thực thi và huấn luyện cho các mô hình máy học. Kéo theo sau đó là một loạt các công ty khởi nghiệp cũng bắt đầu phát triển các phần cứng tăng tốc dành riêng cho máy học.

Nhắc đến chip lập trình FPGA, nhiều ý kiến cho rằng nó không nhanh hay không thể đạt hiệu suất như các con chip được phát triển riêng cho tác vụ thực thi hoạt động của mô hình máy học. Thế nhưng Burger cho rằng mốc hiệu năng đạt được qua hệ thống demo của Microsoft Research chứng minh rằng FPGA có thể đạt hiệu năng cao tương tự.

Thêm vào đó, hiệu năng mà Microsoft Research đạt được dựa trên một nền tảng phần cứng mới và Burger nói sẽ còn rất nhiều điều mà Microsoft và Intel có thể làm để tối ưu hóa hiệu năng phần cứng lẫn phần mềm chạy trên Brainwave. Với những cải tiến trong tương lai, việc Microsoft đạt được năng lực tính toán đến 90 TFLOPS với chip Stratix 10 của Intel điều có thể xảy ra.

Hiện tại Brainwave hỗ trợ các mô hình máy học được huấn luyện sẵn được phát triển từ thư viện Microsoft CNTK và TensorFlow của Google. Burger cho biết nhóm nghiên cứu hiện đang mở rộng khả năng tương thích với các công cụ khác như Caffe. Công ty vẫn chưa đưa ra lộ trình phát hành Brainwave cho khách hàng nhưng đã bắt đầu phối hợp với các đối tác phía thứ 3 để có thể hỗ trợ mọi mô hình máy học để chúng có thể chạy trên Brainwave.

Theo: VentureBeat

TIN LIÊN QUAN

Microsoft sẽ phát hành laptop Surface chạy chip Picasso tích hợp đồ họa Radeon của AMD vào cuối năm 2019

Theo ghi nhận từ trang Laptop Mag, Microsoft có thể phát hành chiếc laptop Surface mới chạy chip Picasso tích hợp đồ họa Radeon của AMD vào cuối năm 2019.

Microsoft kết hợp với Google đưa Google Chrome lên phiên bản Windows 10 sử dụng chip ARM

Các kỹ sư của Microsoft và Google đang kết hợp với nhau để đưa trình duyệt Google Chrome lên phiên bản Windows 10 sử dụng chip ARM. Thông tin chính thức được tuyên bố từ giám đốc điều hành của Qualcomn. Phiên bản có sử dụng trình duyệt Chrome là

Microsoft tuyển kĩ sư test máy dùng chip Snapdragon 845, sẽ có smartphone mới?

ABAL Technologies là công ty đã làm việc với Microsoft trong thời gian dài nhằm cung cấp nhân sự trong nhiều lĩnh vực khác nhau cho gã khổng lồ này.

Microsoft thành lập một "trường đại học" dạy về AI cho nhân viên của mình

Microsoft cũng thế, và họ đã quyết định thành lập nên một 'trường đại học' dành cho nhân viên của mình để dạy về AI nói chung và machine learning nói riêng.

Microsoft vô tình khiến "con đẻ" Surface Pro 4 trở thành sản phẩm thiếu an toàn

Theo Softpedia, Microsoft mới đây đã tung ra bộ tiêu chuẩn chính thức cho các thiết bị Windows 10 được coi đạt mức độ 'an toàn cao'.

Microsoft phát hành ứng dụng đoán nét mặt bạn đang diễn tả

Microsoft vừa phát hành một ứng dụng Windows miễn phí có tên gọi là Emoji8, ứng dụng sử dụng Windows Machine Learning để đoán nét mặt bạn đang diễn tả khi bắt chước một biểu tượng cảm xúc (emoji). Nếu tạo được nét mặt càng giống với biểu tượng

Microsoft đang phát triển chip AI mới, không chỉ dùng cho HoloLens

Bằng cách tạo ra chip AI của riêng mình, Microsoft có thể xử lý tất cả các thông tin đến từ bộ cảm biến ngay trên bảng mạch với độ trễ thấp.

Nguyên nhân và cách kiểm tra thiết bị gặp lỗi tương thích trên Windows 10 October 2018 Update

Gần đây, một lỗi tương thích nghiêm trọng trên Windows 10 October 2018 Update đã được Microsoft phát hiện. Ngay sau đó, Microsoft đã chặn bản cập nhật này với một số thiết bị sử dụng chip Intel. Trong bài viết này, TCN sẽ chia sẻ về nguyên nhân và

THỦ THUẬT HAY

Cách mở các tab vừa đóng trên iPhone hoặc iPad

Các trình duyệt trên điện thoại di động hiện đại cho phép bạn mở lại các tab vừa đóng, giống như các trình duyệt trên máy tính để bàn. Trong trình duyệt Safari của Apple dành cho iPhone và iPad, tính năng này ẩn, nhưng

Làm thế nào để iPhone đọc tên người gọi đến khi có cuộc gọi?

Bạn đang bận làm việc gì đó mà không thể cầm iPhone để xem cuộc gọi đến nhưng vẫn muốn biết người gọi là ai, cuộc gọi có quan trọng hay không để trả lời thì mẹo hay dưới đây mà TECHRUM giới thiệu sẽ giúp bạn giải quyết

Smarty Uninstaller: Công cụ hỗ trợ gỡ bỏ phần mềm đang miễn phí bản quyền chính chủ

Chắc hẳn bạn đã không còn xa lạ gì với công cụ hỗ trợ gỡ bỏ phần mềm Your Uninstaller! Tuy nhiên thay vì sử dụng một phiên bản 'bẻ khóa' và tiềm ẩn nhiều mối nguy hại cho thiết bị của mình, TCN xin chia sẻ cùng bạn đọc

Cách lịch sử tìm kiếm trên Google đã lưu trước đó trên mọi thiết bị

Giống như Facebook và Apple, Google đã giới thiệu chính sách bảo mật người dùng mới để tuân thủ luật bảo mật dữ liệu mới của GDPR sẽ có hiệu lực vào ngày 25 tháng 5. Quan trọng hơn, Google đã cải thiện việc kiểm soát

Hướng dẫn sạc và sử dụng Laptop đúng cách

Cách sử dụng Laptop của mỗi người khác nhau và thông thường các bạn đang có những suy nghĩ sai lêch về cách sử dụng. Bài viết dưới đây, dienmayxanh.com sẽ đưa ra một vài gợi ý giúp bạn sử dụng và sạc Laptop một cách

ĐÁNH GIÁ NHANH

Đánh giá Honda CBR650F 2018 - Mô-tô tầm trung gây sốt trên toàn thế giới

Xuất hiện lần đầu tiên trên thế giới vào năm 1991, CBR600F sau đó đã được thay thế bằng mẫu CBR600F2, huyền thoại này được đánh giá là một trong những chiếc xe máy tốt nhất mọi thời đại.

Đánh giá camera iPhone 13 Pro Max: Chụp ảnh, quay video đỉnh chóp xứng nhanh đệ nhất

iPhone 13 Pro Max là mẫu iPhone cao cấp nhất của nhà Táo hiện nay. Không chỉ sở hữu cấu hình siêu mạnh mẽ, màn hình 120Hz siêu mượt, iPhone 13 Pro Max còn được nâng cấp rất nhiều cho hệ thống camera. Bài đánh giá

Đánh giá nhanh Xiaomi Mi Max 3: Phù hợp vỡi những tiêu chí “ngon, bổ, rẻ”

Sau sự thành công vang dội của hai người đàn anh Mi Max và Mi Max 2, Xiaomi đã tiếp tục cho ra mắt Mi Max 3 với sự nâng cấp đáng kể về thiết kế màn hình viền mỏng, hiệu năng mạnh mẽ cùng chip Snapdragon 636, dung lượng