Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính

Trí tuệ nhân tạo (AI) và máy học (Machine Learning) là 2 xu hướng lớn nhất trong lĩnh vực máy tính ngày nay nhưng phần lớn hoạt động tính toán lại được thực hiện tại các trung tâm dữ liệu. Các máy chủ tại đây được trang bị phần cứng đặc thù, tối ưu hóa hoạt động tính toán phức tạp và quy mô lớn đồng thời tiết kiệm điện năng.
Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính
Thế nhưng hoạt động tính toán này đang dần chuyển dang các thiết bị biên, cụ thể là máy tính thông thường, máy tính bảng hay thiết bị IoT và để tạo điều kiện cho lập trình viên triển khai công nghệ máy học một cách dê dàng hơn, Microsoft đã vừa công bố một bộ hàm lập trình mới có tên WinML.
WinML là một bộ hàm lập trình (API) cho phép lập trình viên khai thác toàn diện năng lực tính toán của mọi thiết bị chạy Windows 10 để thực hiện các mô hình 'dạy' trước cho máy (pre-trained machine learning) và từ đó đưa hoạt động tính toán AI từ đám mây xuống xử lý trên thiết bị tại chỗ khi cần.
Có nhiều lý để đưa tác vụ AI về xử lý bằng sức mạnh phần cứng của máy. Lý do đầu tiên là tốc độ xử lý!? Mặc dù sức mạnh tính toán trên đám mây rất lớn nhưng suy cho cùng, chúng ta vẫn phải truyền tải dữ liệu lên đám mây và dĩ nhiên phải tốn nhiều tiền để đổi lấy tốc độ. Đó là chưa kể độ trễ của kết nối mạng dĩ nhiên chậm hơn rất nhiều so với tốc độ truy xuất bộ nhớ nội tại và việc xử lý các tập dữ liệu khổng lồ có thể sẽ rất khó nếu không sử dụng đường truyền băng thông lớn, dành riêng và chi phí đắt đỏ. Do đó, khi đưa tác vụ tính toán về xử lý trên máy, tốc độ xử lý có thể được cải thiện đáng kể nhờ độ trễ thấp hơn rất nhiều và kết quả gần như có ngay theo thời gian thực. Chi phí vận hành có thể được cắt giảm thông qua việc giảm nhu cầu sử dụng đường truyền băng thông rộng và thời gian truy xuất đám mây.
Vì các lý do bảo mật và quy tắc dữ liệu nên nhiều ngành công nghiệp vẫn chưa thể khai thác AI và máy học để xử lý các tập dữ liệu lớn. Do đó WinML sẽ cung cấp một giải pháp đơn giản hơn để chuyển các phần việc tính toán từ đám mây xuống máy tính tại chỗ, điều này có nghĩa các doanh nghiệp sẽ có thể đảm bảo mọi hoạt động đều tuân theo các quy tắc cần thiết.
Một ví dụ được Microsoft đưa ra như sau: chẳng hạn một hệ thống công nghiệp có chức năng chụp lại hình ảnh về sản phẩm để xác định liệu sản phẩm có đạt chuẩn hay có lỗi sản xuất hay không - đây là một tác vụ lý tưởng dành cho các công cụ AI chẳng hạn như Microsoft Computer Vision API. Nếu dạng tác vụ này được chuyển sang một chiếc máy tính công nghiệp để xử lý thì hiệu năng sẽ cao hơn mà không tốn chi phí cho các dịch vụ ngoài hay đòi hỏi kết nối đám mây.
Bộ hàm lập trình mới của Microsoft mang lại nhiều lợi ích giúp các nhà phát triển tích hợp chúng vào sản phẩm của mình. Điều quan trọng nhất là hàm lập trình này sẽ thực hiện tất cả các phần việc nặng nhọc nhất cho lập trình viên nhờ đó họ không cần lo lắng về loại phần cứng nào có trên chiếc máy sẽ chạy ứng dụng của mình. WinML engine sẽ khai thác phần cứng một cách linh hoạt và tạo mã lập trình để tối ưu hiệu năng có sẵn từ phần cứng của thiết bị. Engine được xây dựng dựa trên Direct 3D và nếu hệ thống có GPU hỗ trợ DX12, nó sẽ khai thác DX12 để tính toán shader. Nếu GPU có bộ nhớ VRAM lớn, tác vụ có thể được chuyển hẳn sang xử lý bằng GPU và nếu không có GPU hỗ trợ DX12 hay hiệu năng của GPU tích hợp không đủ, engine sẽ tự đổi chuyển ngược về CPU. Mã được tạo khi chạy runtime và nó luôn tối ưu hóa theo phần cứng cũng như tự cập nhật để khai thác các phần cứng mới như dòng VPU Intel Movidius.
Điều đáng chú ý nhất là engine hỗ trợ cả dòng Snapdragon 835 hiện đã được dùng trên một số mẫu laptop chạy Windows 10 ARM cũng như các thiết bị IoT. Thêm vào đó, WinML API mang lại lợi ích cho các mô hình máy học được 'dạy' từ trước. Nhờ đó dữ liệu và cấu trúc mô hình có thể được nạp vào engine để tiến hành phân tích và cho ra xác suất.
WinML khai thác các tiêu chuẩn công nghiệp như ONNX ML và ONNX được triển khai bởi Microsoft, Facebook và Amazon. Bên cạnh đó nó còn được hỗ trợ bởi các nhà sản xuất phần cứng lớn như Intel, AMD, Nvidia, ARM, Qualcomm, Huawei.
Theo: AnandTech

TIN LIÊN QUAN

Microsoft thành lập một "trường đại học" dạy về AI cho nhân viên của mình

Microsoft cũng thế, và họ đã quyết định thành lập nên một 'trường đại học' dành cho nhân viên của mình để dạy về AI nói chung và machine learning nói riêng.

Microsoft phát hành ứng dụng đoán nét mặt bạn đang diễn tả

Microsoft vừa phát hành một ứng dụng Windows miễn phí có tên gọi là Emoji8, ứng dụng sử dụng Windows Machine Learning để đoán nét mặt bạn đang diễn tả khi bắt chước một biểu tượng cảm xúc (emoji). Nếu tạo được nét mặt càng giống với biểu tượng

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Châu Á sẽ là khu vực chủ lực để phát triển AI toàn cầu

Phải mất gần bảy thập kỷ, con người mới đạt được những thành tựu về AI như ngày nay. Tuy nhiên, trong những năm qua, sự hội tụ của dữ liệu lớn (big data), điện toán đám mây (clould computing), cùng với những đột phá trong thuật toán phần mềm

Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay

Cải tiến trợ lý ảo Siri, Apple chiêu mộ cựu giám đốc AI của Google

John Giannandrea, cựu giám đốc bộ phận tìm kiếm về trí tuệ nhân tạo của Google đã gia nhập Apple. Sự việc này được The New York đưa tin chỉ một ngày sau khi John Giannandrea thông báo ông đã từ bỏ vai trò của mình tại Google. Giannandrea là một

Trong một số trường hợp, AI có thể tự lập trình ra đồng bọn với khả năng cao hơn bản của con người

Dự án trí thông minh nhân tạo AI AutoML của Google đã thành công trong việc dạy các phần mềm machine learning cách lập trình ra thêm những phần mềm machine learning khác và trong một số trường hợp, máy có thể tạo ra những những phần mềm AI tốt hơn

Microsoft Word chuẩn bị được bổ sung thêm công cụ kiểm tra và sửa lỗi chính tả, ngữ pháp vô cùng thông minh

Ứng dụng Microsoft Word cho Windows 10 hiện sẽ trở nên thông minh hơn một chút với trình kiểm tra ngữ pháp mới có tên 'Microsoft Editor'. Công cụ này đã có sẵn trên phiên bản web của Word một thời gian, nhưng bây giờ Microsoft mới đem công cụ này

THỦ THUẬT HAY

Mách bạn bí quyết làm việc hiệu quả trên Outlook

Với việc cung cấp nhiều tính năng hấp dẫn, Outlook đã được nhiều người dùng lựa chọn so với những nền tảng email khác. Bài viết này sẽ cung cấp một số mẹo và thủ thuật hữu ích để bạn có thể sử dụng Outlook một cách

Hướng dẫn khắc phục các lỗi cơ bản trên iOS

Hệ điều hành iOS 10 đã được Apple cho ra mắt cách đây vài tháng, tuy đã trải qua khá nhiều bản cập nhật nhưng chắc chắn sẽ tồn tại nhiều lỗi và lỗ hổng nhỏ mà Apple chưa thể xử lý hết.

7 cách làm, tùy chỉnh trong bài sẽ giúp Windows 10 của bạn "nhanh như gió"

Bạn muốn tăng tốc Windows 10, cải thiện tốc độ Windows 10 hay tăng tốc khởi động Windows 10? Mọi cách tăng tốc Windows 10 đều có trong bài viết này, bạn hãy đọc và áp dụng để máy tính Windows 10 chạy nhanh hơn nhé!

8 thủ thuật Google Play có thể bạn chưa biết

Trong quá trình 'lượn lờ' trên Google Play bạn gặp những ứng dụng, game mình thích thì tốt nhất hãy lưu vào danh sách yêu thích để thuận tiện sử dụng mỗi khi cần thiết bằng cách: Nhấn vào biểu tượng Thêm vào danh sách

10 điều bạn phải nhớ trước khi muốn sửa chữa hay nâng cấp máy tính

Chắc chắn nhiều bạn đã từng nhiều lần sửa chữa hay nâng cấp máy tính của mình rồi, có thể gặp nhiều sai lầm dẫn đến kết quả là máy tính không thể hoạt động được. Vậy nên, hôm nay mình chia sẻ cho các bạn 10 điều phải

ĐÁNH GIÁ NHANH

So sánh AirPods 2 và AirPods 3: Nâng cấp mới có làm nên chuyện?

Có thể nói, AirPods 3 được Apple trang bị nhiều tính năng mới hấp dẫn, đáp ứng tốt mọi nhu cầu của người dùng so với AirPods 2 trước đó.

Đánh giá chi tiết camera của Vivo V11

So với các thế hệ trước như Vivo V9, ở thế hệ Vivo V11 có camera kép ở mặt sau với cảm biến chính 12MP, ống kính f/1.8 và cảm biến độ sâu 5MP. Máy ảnh có thể tự động lấy nét theo cụm và có đèn flash LED đơn bên cạnh.

Đánh giá chi tiết thời lượng Pin Galaxy C9 Pro

C9 Pro được trang bị màn hình 6 inch Super AMOLED, Full HD, mật độ điểm ảnh 367 ppi, chạy chip Snapdragon 653, dung lượng RAM 6GB, chạy Android 6.0 Marshmallow, 2 SIM. Camera trước/sau đều 16MP, pin 4.000 mAh, hỗ trợ