Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính

Trí tuệ nhân tạo (AI) và máy học (Machine Learning) là 2 xu hướng lớn nhất trong lĩnh vực máy tính ngày nay nhưng phần lớn hoạt động tính toán lại được thực hiện tại các trung tâm dữ liệu. Các máy chủ tại đây được trang bị phần cứng đặc thù, tối ưu hóa hoạt động tính toán phức tạp và quy mô lớn đồng thời tiết kiệm điện năng.
Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính
Thế nhưng hoạt động tính toán này đang dần chuyển dang các thiết bị biên, cụ thể là máy tính thông thường, máy tính bảng hay thiết bị IoT và để tạo điều kiện cho lập trình viên triển khai công nghệ máy học một cách dê dàng hơn, Microsoft đã vừa công bố một bộ hàm lập trình mới có tên WinML.
WinML là một bộ hàm lập trình (API) cho phép lập trình viên khai thác toàn diện năng lực tính toán của mọi thiết bị chạy Windows 10 để thực hiện các mô hình 'dạy' trước cho máy (pre-trained machine learning) và từ đó đưa hoạt động tính toán AI từ đám mây xuống xử lý trên thiết bị tại chỗ khi cần.
Có nhiều lý để đưa tác vụ AI về xử lý bằng sức mạnh phần cứng của máy. Lý do đầu tiên là tốc độ xử lý!? Mặc dù sức mạnh tính toán trên đám mây rất lớn nhưng suy cho cùng, chúng ta vẫn phải truyền tải dữ liệu lên đám mây và dĩ nhiên phải tốn nhiều tiền để đổi lấy tốc độ. Đó là chưa kể độ trễ của kết nối mạng dĩ nhiên chậm hơn rất nhiều so với tốc độ truy xuất bộ nhớ nội tại và việc xử lý các tập dữ liệu khổng lồ có thể sẽ rất khó nếu không sử dụng đường truyền băng thông lớn, dành riêng và chi phí đắt đỏ. Do đó, khi đưa tác vụ tính toán về xử lý trên máy, tốc độ xử lý có thể được cải thiện đáng kể nhờ độ trễ thấp hơn rất nhiều và kết quả gần như có ngay theo thời gian thực. Chi phí vận hành có thể được cắt giảm thông qua việc giảm nhu cầu sử dụng đường truyền băng thông rộng và thời gian truy xuất đám mây.
Vì các lý do bảo mật và quy tắc dữ liệu nên nhiều ngành công nghiệp vẫn chưa thể khai thác AI và máy học để xử lý các tập dữ liệu lớn. Do đó WinML sẽ cung cấp một giải pháp đơn giản hơn để chuyển các phần việc tính toán từ đám mây xuống máy tính tại chỗ, điều này có nghĩa các doanh nghiệp sẽ có thể đảm bảo mọi hoạt động đều tuân theo các quy tắc cần thiết.
Một ví dụ được Microsoft đưa ra như sau: chẳng hạn một hệ thống công nghiệp có chức năng chụp lại hình ảnh về sản phẩm để xác định liệu sản phẩm có đạt chuẩn hay có lỗi sản xuất hay không - đây là một tác vụ lý tưởng dành cho các công cụ AI chẳng hạn như Microsoft Computer Vision API. Nếu dạng tác vụ này được chuyển sang một chiếc máy tính công nghiệp để xử lý thì hiệu năng sẽ cao hơn mà không tốn chi phí cho các dịch vụ ngoài hay đòi hỏi kết nối đám mây.
Bộ hàm lập trình mới của Microsoft mang lại nhiều lợi ích giúp các nhà phát triển tích hợp chúng vào sản phẩm của mình. Điều quan trọng nhất là hàm lập trình này sẽ thực hiện tất cả các phần việc nặng nhọc nhất cho lập trình viên nhờ đó họ không cần lo lắng về loại phần cứng nào có trên chiếc máy sẽ chạy ứng dụng của mình. WinML engine sẽ khai thác phần cứng một cách linh hoạt và tạo mã lập trình để tối ưu hiệu năng có sẵn từ phần cứng của thiết bị. Engine được xây dựng dựa trên Direct 3D và nếu hệ thống có GPU hỗ trợ DX12, nó sẽ khai thác DX12 để tính toán shader. Nếu GPU có bộ nhớ VRAM lớn, tác vụ có thể được chuyển hẳn sang xử lý bằng GPU và nếu không có GPU hỗ trợ DX12 hay hiệu năng của GPU tích hợp không đủ, engine sẽ tự đổi chuyển ngược về CPU. Mã được tạo khi chạy runtime và nó luôn tối ưu hóa theo phần cứng cũng như tự cập nhật để khai thác các phần cứng mới như dòng VPU Intel Movidius.
Điều đáng chú ý nhất là engine hỗ trợ cả dòng Snapdragon 835 hiện đã được dùng trên một số mẫu laptop chạy Windows 10 ARM cũng như các thiết bị IoT. Thêm vào đó, WinML API mang lại lợi ích cho các mô hình máy học được 'dạy' từ trước. Nhờ đó dữ liệu và cấu trúc mô hình có thể được nạp vào engine để tiến hành phân tích và cho ra xác suất.
WinML khai thác các tiêu chuẩn công nghiệp như ONNX ML và ONNX được triển khai bởi Microsoft, Facebook và Amazon. Bên cạnh đó nó còn được hỗ trợ bởi các nhà sản xuất phần cứng lớn như Intel, AMD, Nvidia, ARM, Qualcomm, Huawei.
Theo: AnandTech

TIN LIÊN QUAN

Microsoft thành lập một "trường đại học" dạy về AI cho nhân viên của mình

Microsoft cũng thế, và họ đã quyết định thành lập nên một 'trường đại học' dành cho nhân viên của mình để dạy về AI nói chung và machine learning nói riêng.

Microsoft phát hành ứng dụng đoán nét mặt bạn đang diễn tả

Microsoft vừa phát hành một ứng dụng Windows miễn phí có tên gọi là Emoji8, ứng dụng sử dụng Windows Machine Learning để đoán nét mặt bạn đang diễn tả khi bắt chước một biểu tượng cảm xúc (emoji). Nếu tạo được nét mặt càng giống với biểu tượng

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Châu Á sẽ là khu vực chủ lực để phát triển AI toàn cầu

Phải mất gần bảy thập kỷ, con người mới đạt được những thành tựu về AI như ngày nay. Tuy nhiên, trong những năm qua, sự hội tụ của dữ liệu lớn (big data), điện toán đám mây (clould computing), cùng với những đột phá trong thuật toán phần mềm

Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay

Cải tiến trợ lý ảo Siri, Apple chiêu mộ cựu giám đốc AI của Google

John Giannandrea, cựu giám đốc bộ phận tìm kiếm về trí tuệ nhân tạo của Google đã gia nhập Apple. Sự việc này được The New York đưa tin chỉ một ngày sau khi John Giannandrea thông báo ông đã từ bỏ vai trò của mình tại Google. Giannandrea là một

Trong một số trường hợp, AI có thể tự lập trình ra đồng bọn với khả năng cao hơn bản của con người

Dự án trí thông minh nhân tạo AI AutoML của Google đã thành công trong việc dạy các phần mềm machine learning cách lập trình ra thêm những phần mềm machine learning khác và trong một số trường hợp, máy có thể tạo ra những những phần mềm AI tốt hơn

Microsoft Word chuẩn bị được bổ sung thêm công cụ kiểm tra và sửa lỗi chính tả, ngữ pháp vô cùng thông minh

Ứng dụng Microsoft Word cho Windows 10 hiện sẽ trở nên thông minh hơn một chút với trình kiểm tra ngữ pháp mới có tên 'Microsoft Editor'. Công cụ này đã có sẵn trên phiên bản web của Word một thời gian, nhưng bây giờ Microsoft mới đem công cụ này

THỦ THUẬT HAY

Cách khắc phục khi Facebook của bạn bị 'dính' Virus

Nếu Facebook bị virus hoặc tài khoản của bạn đã bị hack? Dưới đây là bốn cách mà bạn nên thử: phục hồi tài khoản của bạn, thay đổi mật khẩu của bạn, loại bỏ các ứng dụng nghi ngờ, và thực hiện quét virus.

Đem tính năng bảo mật độc quyền của Galaxy A 2017 lên mọi máy Android

Bộ đôi Samsung A5 2017 và A7 2017 được trang bị tính năng bảo mật SecureFolder, xuất hiện lần đầu tiên trên siêu phẩm Galaxy Note 7. Đây là cách bạn mang tính năng độc đáo này lên tất cả các máy Android khác dễ dàng.

Cách tạo hình ảnh động với hiệu ứng đặc biệt chỉ với iOS 11 và Live Photo

Bản cập nhật iOS 11 mang lại khá nhiều thay đổi trong giao diện cũng như thêm các tính năng hay. Bài viết này sẽ hướng dẫn bạn tạo ra những bức...

Muốn chống theo dõi vị trí điện thoại, tắt định vị GPS là chưa đủ

Sở hữu một chiếc smartphone hiện đại sẽ mang lại nhiều tiện ích hữu dụng cho người dùng tuy nhiên cũng ẩn chứa không ít rủi ro. Một trong số đó là việc bị theo dõi vị trí bí mật. Hôm nay chúng tôi sẽ chia sẻ cho các

Cách sửa lỗi Adobe Flash Player bị chặn trên Cốc Cốc và Firefox

Không hiển thị nội dung Flash, Plugin không hồi đáp hoặc bị treo là những lỗi thường xuyên xảy ra khi duyệt web, chơi game khiến người dùng vô cùng khó chịu. Vậy phải làm sao đây?

ĐÁNH GIÁ NHANH

Đánh giá chi tiết thiết kế và cấu hình của Sharp Aquos S3

Được nâng cấp lớn về thiết kế cho tương xứng hơn với giá, ngoại hình của Sharp Aquos S3 được thay thế chất liệu nhựa bằng kính cong 3D kết hợp cùng với khung kim loại, điều này làm cho chiếc máy sang trọng cứng cáp

So sánh tốc độ iPhone X và iPhone 7 Plus

So với iPhone X, iPhone 7 Plus không thua kém là bao nhiêu cho thấy đây vẫn là một sản phẩm đỉnh cao của Apple.

Đánh giá pin Zenfone Go và Go Plus: Quá trâu trong tầm giá

Đánh giá pin của Zenfone Go và Go Plus - 2 smartphone có giá bán cực kì hấp dẫn và thiết kế trẻ trung đang được bán tại thị trường Việt Nam