IBM tung ra một phần mềm phát hiện hệ thống AI nói dối

IBM đã tung ra một dịch vụ phần mềm chuyên quét các hệ thống AI khi chúng hoạt động để phát hiện ra sự thiên vị và cung cấp các giải thích cho các quyết định được đưa ra bởi AI. 

IBM tung ra một phần mềm phát hiện hệ thống AI nói dối

Hệ thống tin cậy và minh bạch mới chạy trên Cloud của IBM và làm việc với các model được xây dựng từ một loạt các machine learning framework và AI – bao gồm công nghệ Watson của chính IBM, cũng như là Tensorflow, SparkML, AWS SageMaker và AzureML.

SaaS (chạy hoàn toàn tự động) giúp giải thích việc ra quyết định và phát hiện liệu AI có đang thiên vị hay không- vì vậy khi các quyết định được đưa ra – nó sẽ có khả năng xác định được các kết quả có thể không được công bằng.

Nó cũng sẽ tự động đề xuất dữ liệu để thêm vào mô hình giúp giảm thiểu bất kỳ sai lệch nào đã được phát hiện.

Tính năng giải thích về các quyết định của AI bao gồm việc đưa ra các yếu tố nào ảnh hưởng đến việc ra quyết định; sự tự tin trong đề xuất; và các yếu tố đằng sau sự tự tin đó.

IBM cũng cho biết phần mềm có lưu giữ thông tin về độ chính xác, hiệu suất và tính công bằng của mô hình AI, cùng với phả hệ của hệ thống AI – nghĩa là nó có thể dễ dàng truy vấn và thu hồi nếu cần thiết cho dịch vụ hay để tuân theo quy định và yêu cầu.

Đối với một ví dụ về mặt tuân thủ, framework bảo mật GDPR của EU tham chiếu đến việc đưa ra quyết định tự động và bao gồm quyền cho mọi người được nghe giải thích chi tiết về cách các thuật toán hoạt động trong một số trường hợp nhất định – điều đó có nghĩa là các doanh nghiệp có thể cần phải kiểm tra AI của họ.

IBM AI scanner tool cung cấp một phân tích các quyết định tự động thông qua các dashboard – Nhờ đó mà bạn không cần phải có kĩ năng IT để đọc hiểu chúng.

IBM cũng không phải là công ty đầu tiên phát hiện cơ hội kinh doanh xung quanh vấn đề về AI thiên vị. Một vài tháng trước Accenture đã đưa ra một công cụ để xác định và sửa chữa AI nhằm giúp chúng công bằng hơn.

Ngoài việc tung ra công cụ kiểm toán AI (trả tiền), IBM cho biết bộ phận nghiên cứu của họ sẽ tung ra một bộ công cụ open sourcing chuyên phát hiện và giảm thiểu vấn đề thiên vị trong AI – với mục đích khuyến khích quá trình “hợp tác toàn cầu để giải quyết vấn đề này”.

“IBM hiện đang dẫn đầu ngành công nghiệp trong việc thiết lập các nguyên tắc tin cậy và minh bạch cho sự phát triển của công nghệ AI mới. Chúng tôi đang mang lại giải pháp mới cho các doanh nghiệp sử dụng AI vốn phải đối mặt với nhiều rủi ro tiềm ẩn đến ​​bất kỳ quyết định sai lầm nào của nó” – David Kenny, SVP của các giải pháp nhận thức tại IBM, cho biết trong một tuyên bố.

Techtalk via techcrunch

Nguồn: https://techtalk.vn/ibm-ra-mat-cong-cu-phat-hien-ai-co-noi-doi-hay-khong.html

TIN LIÊN QUAN

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Bưu điện TP. HCM tiếp nhận hồ sơ giải quyết thủ tục hành chính tại nhà

TP. Hồ Chí Minh hiện đang siết chặt giãn cách xã hội, tuy nhiên, một số người dân vẫn có nhu cầu giải quyết thủ tục hành chính TTHC đối với một số lĩnh vực được phép hoạt động.

Apple quyết định bảo mật trên App Store về mọi thứ

Theo The Verge, trong một thông báo gửi đến các nhà phát triển thông qua cổng thông tin App Store Connect, “nhà táo” cho biết tất cả ứng dụng và bản cập nhật mới sẽ phải có liên kết đến chính sách bảo mật của các nhà phát triển ở trong phần siêu dữ

Ứng dụng blockchain trong chuỗi cung ứng để hỗ trợ nông dân Úc

Tiếp cận tài chính là cần thiết đối với các doanh nghiệp DN nhỏ đang tìm cách ứng dụng những công nghệ hiện đại trong hoạt động sản xuất kinh doanh, đặc biệt là trong chuỗi cung ứng. So với các DN lớn, các DN nhỏ và vừa SMB thường gặp hạn chế về

Các nội dung cải cách hành chính trọng tâm, tạo điều kiện hỗ trợ doanh nghiệp trước đại dịch COVID-19

Nghị quyết số 76/NQ-CP về Chương trình tổng thể cải cách hành chính giai đoạn 2021-2031 được Chính phủ ban hành đề ra 6 nội dung trọng tâm cần cải cách mạnh mẽ, góp sức hỗ trợ các doanh nghiệp hồi sinh.

Những thách thức khi ứng dụng công nghệ 4.0 xây dựng tương lai bền vững

Cuộc cách mạng công nghiệp CMCN 4.0 thể hiện nhiều cơ hội và tiềm năng to lớn, nhưng ứng dụng các công nghệ của CMCN 4.0 như thế nào, cũng như quản trị công nghệ ra sao chính là bài toán mà các chính phủ phải đối mặt khi xây dựng một tương lai bền

Vi xử lý AI là gì? Nó khác với chip bình thường như thế nào?

Ở IFA năm nay, Huawei đã giới thiệu Kirin 970 và gọi đây là con chip đầu tiên sở hữu bộ vi xử lý thần kinh chuyên dụng (NPU).

Bảo vệ thế giới kết nối của bạn với giải pháp người dùng mới

Mỗi cá thể là duy nhất. Điều này cũng đúng với hành vi online của con người, hình thành nên thế giới số của cá nhân họ. Đó là lí do các chuyên gia của Kaspersky Lab phát minh và cấp bằng sáng chế cho công nghệ bảo mật thích ứng này. Kaspersky

THỦ THUẬT HAY

Cách chặn video phản cảm, không phù hợp với trẻ nhỏ trên YouTube

Thời gian gần đây, trên YouTube xuất hiện khá nhiều video chứa hình ảnh nhạy cảm, hở hang, bạo lực nhưng lại có nội dung dành cho trẻ em. Với những nhân vật hoạt hình nổi tiếng như: Người nhện, Bạch tuyết, Công chúa

Cách gửi email tự hủy(Confidential Mode)trong Gmail

Gmail đã tung ra tính năng mới có tên Confidential Mode cho phép người dùng gửi email tự hủy và không thể chuyển tiếp cho người dùng khác hoặc in ra.

Những điều bạn không thể bỏ qua về Diablo 4 Beta của Blizzard

Chuẩn bị đối mặt với lũ địa ngục vào cuối tháng này. Người chơi Diablo 4 Beta sẽ chuẩn bị đối mặt với “địa ngục” mới trong phiên bản mới vào cuối tháng này. Hãy để Trangcongnghe.vn đưa bạn đi tìm hiểu kỹ hơn về phiên

Hướng dẫn giảm dung lượng ảnh trực tuyến mà không ảnh hưởng đến chất lượng hình ảnh

Shrink Me hỗ trợ giảm dung lượng hình ảnh, nhưng không giới hạn số lượng ảnh tải lên, cũng như dung lượng ảnh tải lên. Số dung lượng ảnh giảm xuống tương đối nhiều mà chất lượng ảnh không hề bị thay đổi so với ảnh gốc.

Trình duyệt Safari chạy chậm trên Macbook, đây là cách tăng tốc

Apple cho rằng Safari là trình duyệt nhanh nhất hiện nay, điều này có thể đúng trên các thiết bị iOS. Trên Macbook hầu hết người dùng sử dụng trình duyệt Chrome nhiều hơn vì trình duyệt Safari được đánh giá khá là

ĐÁNH GIÁ NHANH

Đánh giá Asus Zenfone 3S Max: Smartphone tầm trung pin khủng

Thế giới di động - Đánh giá chi tiết Asus Zenfone 3S Max. Sản phẩm tầm trung mới nhất của Asus với dung lượng pin cực khủng

Video đánh giá chi tiết laptop Acer Aspire VX 15

Chiếc laptop chuyên chơi game Acer Aspire VX 15 vừa được Acer ra mắt tại CES 2017, dưới đây là video đánh giá chiếc laptop này.