Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính

Trí tuệ nhân tạo (AI) và máy học (Machine Learning) là 2 xu hướng lớn nhất trong lĩnh vực máy tính ngày nay nhưng phần lớn hoạt động tính toán lại được thực hiện tại các trung tâm dữ liệu. Các máy chủ tại đây được trang bị phần cứng đặc thù, tối ưu hóa hoạt động tính toán phức tạp và quy mô lớn đồng thời tiết kiệm điện năng.
Microsoft công bố hàm API giúp nhà phát triển đưa hoạt động tính toán AI từ đám mây xuống máy tính
Thế nhưng hoạt động tính toán này đang dần chuyển dang các thiết bị biên, cụ thể là máy tính thông thường, máy tính bảng hay thiết bị IoT và để tạo điều kiện cho lập trình viên triển khai công nghệ máy học một cách dê dàng hơn, Microsoft đã vừa công bố một bộ hàm lập trình mới có tên WinML.
WinML là một bộ hàm lập trình (API) cho phép lập trình viên khai thác toàn diện năng lực tính toán của mọi thiết bị chạy Windows 10 để thực hiện các mô hình 'dạy' trước cho máy (pre-trained machine learning) và từ đó đưa hoạt động tính toán AI từ đám mây xuống xử lý trên thiết bị tại chỗ khi cần.
Có nhiều lý để đưa tác vụ AI về xử lý bằng sức mạnh phần cứng của máy. Lý do đầu tiên là tốc độ xử lý!? Mặc dù sức mạnh tính toán trên đám mây rất lớn nhưng suy cho cùng, chúng ta vẫn phải truyền tải dữ liệu lên đám mây và dĩ nhiên phải tốn nhiều tiền để đổi lấy tốc độ. Đó là chưa kể độ trễ của kết nối mạng dĩ nhiên chậm hơn rất nhiều so với tốc độ truy xuất bộ nhớ nội tại và việc xử lý các tập dữ liệu khổng lồ có thể sẽ rất khó nếu không sử dụng đường truyền băng thông lớn, dành riêng và chi phí đắt đỏ. Do đó, khi đưa tác vụ tính toán về xử lý trên máy, tốc độ xử lý có thể được cải thiện đáng kể nhờ độ trễ thấp hơn rất nhiều và kết quả gần như có ngay theo thời gian thực. Chi phí vận hành có thể được cắt giảm thông qua việc giảm nhu cầu sử dụng đường truyền băng thông rộng và thời gian truy xuất đám mây.
Vì các lý do bảo mật và quy tắc dữ liệu nên nhiều ngành công nghiệp vẫn chưa thể khai thác AI và máy học để xử lý các tập dữ liệu lớn. Do đó WinML sẽ cung cấp một giải pháp đơn giản hơn để chuyển các phần việc tính toán từ đám mây xuống máy tính tại chỗ, điều này có nghĩa các doanh nghiệp sẽ có thể đảm bảo mọi hoạt động đều tuân theo các quy tắc cần thiết.
Một ví dụ được Microsoft đưa ra như sau: chẳng hạn một hệ thống công nghiệp có chức năng chụp lại hình ảnh về sản phẩm để xác định liệu sản phẩm có đạt chuẩn hay có lỗi sản xuất hay không - đây là một tác vụ lý tưởng dành cho các công cụ AI chẳng hạn như Microsoft Computer Vision API. Nếu dạng tác vụ này được chuyển sang một chiếc máy tính công nghiệp để xử lý thì hiệu năng sẽ cao hơn mà không tốn chi phí cho các dịch vụ ngoài hay đòi hỏi kết nối đám mây.
Bộ hàm lập trình mới của Microsoft mang lại nhiều lợi ích giúp các nhà phát triển tích hợp chúng vào sản phẩm của mình. Điều quan trọng nhất là hàm lập trình này sẽ thực hiện tất cả các phần việc nặng nhọc nhất cho lập trình viên nhờ đó họ không cần lo lắng về loại phần cứng nào có trên chiếc máy sẽ chạy ứng dụng của mình. WinML engine sẽ khai thác phần cứng một cách linh hoạt và tạo mã lập trình để tối ưu hiệu năng có sẵn từ phần cứng của thiết bị. Engine được xây dựng dựa trên Direct 3D và nếu hệ thống có GPU hỗ trợ DX12, nó sẽ khai thác DX12 để tính toán shader. Nếu GPU có bộ nhớ VRAM lớn, tác vụ có thể được chuyển hẳn sang xử lý bằng GPU và nếu không có GPU hỗ trợ DX12 hay hiệu năng của GPU tích hợp không đủ, engine sẽ tự đổi chuyển ngược về CPU. Mã được tạo khi chạy runtime và nó luôn tối ưu hóa theo phần cứng cũng như tự cập nhật để khai thác các phần cứng mới như dòng VPU Intel Movidius.
Điều đáng chú ý nhất là engine hỗ trợ cả dòng Snapdragon 835 hiện đã được dùng trên một số mẫu laptop chạy Windows 10 ARM cũng như các thiết bị IoT. Thêm vào đó, WinML API mang lại lợi ích cho các mô hình máy học được 'dạy' từ trước. Nhờ đó dữ liệu và cấu trúc mô hình có thể được nạp vào engine để tiến hành phân tích và cho ra xác suất.
WinML khai thác các tiêu chuẩn công nghiệp như ONNX ML và ONNX được triển khai bởi Microsoft, Facebook và Amazon. Bên cạnh đó nó còn được hỗ trợ bởi các nhà sản xuất phần cứng lớn như Intel, AMD, Nvidia, ARM, Qualcomm, Huawei.
Theo: AnandTech

TIN LIÊN QUAN

Microsoft thành lập một "trường đại học" dạy về AI cho nhân viên của mình

Microsoft cũng thế, và họ đã quyết định thành lập nên một 'trường đại học' dành cho nhân viên của mình để dạy về AI nói chung và machine learning nói riêng.

Microsoft phát hành ứng dụng đoán nét mặt bạn đang diễn tả

Microsoft vừa phát hành một ứng dụng Windows miễn phí có tên gọi là Emoji8, ứng dụng sử dụng Windows Machine Learning để đoán nét mặt bạn đang diễn tả khi bắt chước một biểu tượng cảm xúc (emoji). Nếu tạo được nét mặt càng giống với biểu tượng

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Châu Á sẽ là khu vực chủ lực để phát triển AI toàn cầu

Phải mất gần bảy thập kỷ, con người mới đạt được những thành tựu về AI như ngày nay. Tuy nhiên, trong những năm qua, sự hội tụ của dữ liệu lớn (big data), điện toán đám mây (clould computing), cùng với những đột phá trong thuật toán phần mềm

Microsoft giới thiệu Brainwave - phần cứng tăng tốc xử lý cho AI dùng chip Stratix 10 của Intel

Microsoft cho biết các mô hình máy học (Machine Learning) sẽ chạy nhanh hơn với độ trễ thấp trên Brainware và nền tảng này cho phép các nhà phát triển tích hợp mô hình máy học trực tiếp lên chip bán dẫn, từ đó đạt được hiệu năng cao hơn cả CPU hay

Cải tiến trợ lý ảo Siri, Apple chiêu mộ cựu giám đốc AI của Google

John Giannandrea, cựu giám đốc bộ phận tìm kiếm về trí tuệ nhân tạo của Google đã gia nhập Apple. Sự việc này được The New York đưa tin chỉ một ngày sau khi John Giannandrea thông báo ông đã từ bỏ vai trò của mình tại Google. Giannandrea là một

Trong một số trường hợp, AI có thể tự lập trình ra đồng bọn với khả năng cao hơn bản của con người

Dự án trí thông minh nhân tạo AI AutoML của Google đã thành công trong việc dạy các phần mềm machine learning cách lập trình ra thêm những phần mềm machine learning khác và trong một số trường hợp, máy có thể tạo ra những những phần mềm AI tốt hơn

Microsoft Word chuẩn bị được bổ sung thêm công cụ kiểm tra và sửa lỗi chính tả, ngữ pháp vô cùng thông minh

Ứng dụng Microsoft Word cho Windows 10 hiện sẽ trở nên thông minh hơn một chút với trình kiểm tra ngữ pháp mới có tên 'Microsoft Editor'. Công cụ này đã có sẵn trên phiên bản web của Word một thời gian, nhưng bây giờ Microsoft mới đem công cụ này

THỦ THUẬT HAY

Những ứng dụng và trò chơi nổi bật mới phát hành trên App Store

Hiện tại, trên cửa hàng ứng dụng App Store đã xuất hiện không ít ứng dụng mới dành cho iPhone và iPad. Tất nhiên không phải cái nào mới cũng hay và hữu ích. Để giúp bạn dễ dàng hơn trong việc tìm kiếm thêm ứng dụng cho

Thử ngay ứng dụng tạo ảo giác quang học miễn phí trên iPhone X

Trong tuần vừa rồi, anh đã đăng tải một trong những tính năng điển hình của Apple ARKit (Bộ AR của Apple) đó là có thể tạo nên ảo ảnh thị giác, nguyên lý dựa trên sự theo dõi chuyển động của khuôn mặt của iPhone X,

iPhone bị đơ và những cách khắc phục lỗi iPhone bị đơ

iPhone nổi tiếng với độ ổn định, mượt mà, tuy vậy sau một vài năm sử dụng hiện tượng iPhone bị đơ xảy ra cũng không phải chuyện hiếm.

20 plugin Photoshop miễn phí và hữu ích nhất cho các chuyên gia thiết kế

Những plugin hữu ích giúp bạn tăng năng suất làm việc và tiết kiệm thời gian khi sử dụng Photoshop.

Công cụ hỗ trợ tải ảnh từ Flickr cực kỳ đơn giản và thuận tiện

Công cụ mà mình muốn chia sẻ với các bạn chính là LMT Flickr Downloader của bạn Lê Minh Thành (tác giả DownloadZing, tool tải nhạc và video chất lượng cao miễn phí từ Zing Mp3, Zing TV, Nhaccuatui...).

ĐÁNH GIÁ NHANH

Đánh giá tủ lạnh Panasonic NR-BV289QSV2 Inverter 255 lít

Điểm nổi bật nhất là thiết kế khá nhỏ gọn với ngăn đá dưới tiện lợi giúp người dùng không phải khom lưng quỳ gối khi lấy thức phẩm thường xuyên ở ngăn mát. Với chiều cao chỉ hơn 150 cm một chút nên tầm với và tầm nhìn

iPhone X và Galaxy Note8: Siêu phẩm nào chụp camera tele đỉnh hơn?

Galaxy Note 8 và iPhone X đang là những siêu phẩm hàng đầu về camera phone hiện nay

Baic Q7: Ngoài giá bán, còn gì khác để thuyết phục khách hàng Việt Nam

Với mức giá niêm yết 658 triệu (tặng 100% phí trước bạ), BAIC Q7 là một lựa chọn tương đối hấp dẫn trong phân khúc CUV 5 chỗ. Tuy nhiên, ngoài giá bán thì chiếc xe này có gì khác để thuyết phục khách hàng Việt Nam, vốn