Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính

Trí tuệ nhân tạo (AI) và máy học (Machine Learning) là 2 xu hướng lớn nhất trong lĩnh vực máy tính ngày nay nhưng phần lớn hoạt động tính toán lại được thực hiện tại các trung tâm dữ liệu. Các máy chủ tại đây được trang bị phần cứng đặc thù, tối ưu hóa hoạt động tính toán phức tạp và quy mô lớn đồng thời tiết kiệm điện năng.
Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính
Thế nhưng hoạt động tính toán này đang dần chuyển dang các thiết bị biên, cụ thể là máy tính thông thường, máy tính bảng hay thiết bị IoT và để tạo điều kiện cho lập trình viên triển khai công nghệ máy học một cách dê dàng hơn, Microsoft đã vừa công bố một bộ hàm lập trình mới có tên WinML.
WinML là một bộ hàm lập trình (API) cho phép lập trình viên khai thác toàn diện năng lực tính toán của mọi thiết bị chạy Windows 10 để thực hiện các mô hình 'dạy' trước cho máy (pre-trained machine learning) và từ đó đưa hoạt động tính toán AI từ đám mây xuống xử lý trên thiết bị tại chỗ khi cần.
Có nhiều lý để đưa tác vụ AI về xử lý bằng sức mạnh phần cứng của máy. Lý do đầu tiên là tốc độ xử lý!? Mặc dù sức mạnh tính toán trên đám mây rất lớn nhưng suy cho cùng, chúng ta vẫn phải truyền tải dữ liệu lên đám mây và dĩ nhiên phải tốn nhiều tiền để đổi lấy tốc độ. Đó là chưa kể độ trễ của kết nối mạng dĩ nhiên chậm hơn rất nhiều so với tốc độ truy xuất bộ nhớ nội tại và việc xử lý các tập dữ liệu khổng lồ có thể sẽ rất khó nếu không sử dụng đường truyền băng thông lớn, dành riêng và chi phí đắt đỏ. Do đó, khi đưa tác vụ tính toán về xử lý trên máy, tốc độ xử lý có thể được cải thiện đáng kể nhờ độ trễ thấp hơn rất nhiều và kết quả gần như có ngay theo thời gian thực. Chi phí vận hành có thể được cắt giảm thông qua việc giảm nhu cầu sử dụng đường truyền băng thông rộng và thời gian truy xuất đám mây.
Vì các lý do bảo mật và quy tắc dữ liệu nên nhiều ngành công nghiệp vẫn chưa thể khai thác AI và máy học để xử lý các tập dữ liệu lớn. Do đó WinML sẽ cung cấp một giải pháp đơn giản hơn để chuyển các phần việc tính toán từ đám mây xuống máy tính tại chỗ, điều này có nghĩa các doanh nghiệp sẽ có thể đảm bảo mọi hoạt động đều tuân theo các quy tắc cần thiết.
Một ví dụ được Microsoft đưa ra như sau: chẳng hạn một hệ thống công nghiệp có chức năng chụp lại hình ảnh về sản phẩm để xác định liệu sản phẩm có đạt chuẩn hay có lỗi sản xuất hay không - đây là một tác vụ lý tưởng dành cho các công cụ AI chẳng hạn như Microsoft Computer Vision API. Nếu dạng tác vụ này được chuyển sang một chiếc máy tính công nghiệp để xử lý thì hiệu năng sẽ cao hơn mà không tốn chi phí cho các dịch vụ ngoài hay đòi hỏi kết nối đám mây.
Bộ hàm lập trình mới của Microsoft mang lại nhiều lợi ích giúp các nhà phát triển tích hợp chúng vào sản phẩm của mình. Điều quan trọng nhất là hàm lập trình này sẽ thực hiện tất cả các phần việc nặng nhọc nhất cho lập trình viên nhờ đó họ không cần lo lắng về loại phần cứng nào có trên chiếc máy sẽ chạy ứng dụng của mình. WinML engine sẽ khai thác phần cứng một cách linh hoạt và tạo mã lập trình để tối ưu hiệu năng có sẵn từ phần cứng của thiết bị. Engine được xây dựng dựa trên Direct 3D và nếu hệ thống có GPU hỗ trợ DX12, nó sẽ khai thác DX12 để tính toán shader. Nếu GPU có bộ nhớ VRAM lớn, tác vụ có thể được chuyển hẳn sang xử lý bằng GPU và nếu không có GPU hỗ trợ DX12 hay hiệu năng của GPU tích hợp không đủ, engine sẽ tự đổi chuyển ngược về CPU. Mã được tạo khi chạy runtime và nó luôn tối ưu hóa theo phần cứng cũng như tự cập nhật để khai thác các phần cứng mới như dòng VPU Intel Movidius.
Điều đáng chú ý nhất là engine hỗ trợ cả dòng Snapdragon 835 hiện đã được dùng trên một số mẫu laptop chạy Windows 10 ARM cũng như các thiết bị IoT. Thêm vào đó, WinML API mang lại lợi ích cho các mô hình máy học được 'dạy' từ trước. Nhờ đó dữ liệu và cấu trúc mô hình có thể được nạp vào engine để tiến hành phân tích và cho ra xác suất.
WinML khai thác các tiêu chuẩn công nghiệp như ONNX ML và ONNX được triển khai bởi Microsoft, Facebook và Amazon. Bên cạnh đó nó còn được hỗ trợ bởi các nhà sản xuất phần cứng lớn như Intel, AMD, Nvidia, ARM, Qualcomm, Huawei.
Theo: AnandTech

TIN LIÊN QUAN

Microsoft thành lập một "trường đại học" dạy về AI cho nhân viên của mình

Microsoft cũng thế, và họ đã quyết định thành lập nên một 'trường đại học' dành cho nhân viên của mình để dạy về AI nói chung và machine learning nói riêng.

Microsoft phát hành ứng dụng đoán nét mặt bạn đang diễn tả

Microsoft vừa phát hành một ứng dụng Windows miễn phí có tên gọi là Emoji8, ứng dụng sử dụng Windows Machine Learning để đoán nét mặt bạn đang diễn tả khi bắt chước một biểu tượng cảm xúc (emoji). Nếu tạo được nét mặt càng giống với biểu tượng

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Châu Á sẽ là khu vực chủ lực để phát triển AI toàn cầu

Phải mất gần bảy thập kỷ, con người mới đạt được những thành tựu về AI như ngày nay. Tuy nhiên, trong những năm qua, sự hội tụ của dữ liệu lớn (big data), điện toán đám mây (clould computing), cùng với những đột phá trong thuật toán phần mềm

Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay

Cải tiến trợ lý ảo Siri, Apple chiêu mộ cựu giám đốc AI của Google

John Giannandrea, cựu giám đốc bộ phận tìm kiếm về trí tuệ nhân tạo của Google đã gia nhập Apple. Sự việc này được The New York đưa tin chỉ một ngày sau khi John Giannandrea thông báo ông đã từ bỏ vai trò của mình tại Google. Giannandrea là một

Trong một số trường hợp, AI có thể tự lập trình ra đồng bọn với khả năng cao hơn bản của con người

Dự án trí thông minh nhân tạo AI AutoML của Google đã thành công trong việc dạy các phần mềm machine learning cách lập trình ra thêm những phần mềm machine learning khác và trong một số trường hợp, máy có thể tạo ra những những phần mềm AI tốt hơn

Microsoft Word chuẩn bị được bổ sung thêm công cụ kiểm tra và sửa lỗi chính tả, ngữ pháp vô cùng thông minh

Ứng dụng Microsoft Word cho Windows 10 hiện sẽ trở nên thông minh hơn một chút với trình kiểm tra ngữ pháp mới có tên 'Microsoft Editor'. Công cụ này đã có sẵn trên phiên bản web của Word một thời gian, nhưng bây giờ Microsoft mới đem công cụ này

THỦ THUẬT HAY

Khắc phục tình trạng giật, lag khi sử dụng Facebook Messenger

Nhiều người dùng thiết bị di động cho biết, mỗi khi có tin nhắn từ Facebook Messenger, khung trò chuyện bung ra chậm và lag. Nguyên nhân nằm ở hình ảnh đại diện trò chuyện hiển thị lên khung chat mỗi khi sử dụng ứng

Top 10 ứng dụng vẽ tranh trên Android tốt nhất

Vẽ tranh là hoạt động giúp phát triển tư duy và sáng tạo tuyệt vời. Ngày nay, nhờ sự phát triển của công nghệ, bạn có thể vẽ tranh ở bất cứ nơi đâu chỉ cần có smartphone trong tay.

Hướng dẫn truy cập mạng Wi-Fi khi quên mật khẩu bằng WPS

Mỗi modem Wi-Fi hiện nay đều được nhà sản xuất trang bị cho tính năng WPS, đây là tiêu chuẩn mới giúp việc truy cập mạng Wi-Fi một cách dễ dàng và nhanh chóng.

Hướng dẫn cách đăng video TikTok đơn giản, dễ làm

Một trong những điểm thu hút người dùng của TikTok chính là hệ thống quay video của nó rồi sau đó chia sẻ lên nhiều nền tảng khác bằng các tùy chọn khác nhau. Vậy thì cách đăng video TikTok được thực hiện như thế nào

[Cài đặt miễn phí] Full bộ key win 10 home 64bit vĩnh viễn mới nhất cập nhật 2023

Key Win 10 là một chuỗi ký tự gồm 25 ký tự khác nhau được phát hành bởi Microsoft để người dùng có thể kích hoạt bản quyền Windows 10 trên máy tính của mình. Tuy nhiên, để sở hữu được key Win 10 Pro 20H2, 21H1 hay các

ĐÁNH GIÁ NHANH

Đánh giá BMW 320i 2018 về thiết kế vận hành và giá lăn bánh mới nhất

Xe BMW 320i 2018 nói riêng và BMW 3-Series nói chung là dòng sedan hạng sang cỡ nhỏ hướng đến giới trẻ yêu thích thể thao và cảm giác lái mà hãng xe Đức này mang đến, tại thị trường Việt Nam, 320i được bán ra với 2

Đánh giá chi tiết Meizu M5: Thách thức lớn ở phân khúc giá rẻ

Hôm nay hãy cùng FPTShop đánh giá chi tiết về Meizu M5, chiếc smartphone giá rẻ hứa hẹn sẽ gây bão thị trường trong thời gian sắp tới

Đập hộp và một số đánh giá nhanh về Xiaomi Mi Note 3

Xiaomi Mi Note vốn là một dòng smartphone cao cấp của Xiaomi. Tuy nhiên với sự xuất hiện của dòng Xiaomi Mi Mix thì những chiếc Mi Note đã ít gây sự chú ý hơn.