IBM tung ra một phần mềm phát hiện hệ thống AI nói dối

IBM đã tung ra một dịch vụ phần mềm chuyên quét các hệ thống AI khi chúng hoạt động để phát hiện ra sự thiên vị và cung cấp các giải thích cho các quyết định được đưa ra bởi AI. 

IBM tung ra một phần mềm phát hiện hệ thống AI nói dối

Hệ thống tin cậy và minh bạch mới chạy trên Cloud của IBM và làm việc với các model được xây dựng từ một loạt các machine learning framework và AI – bao gồm công nghệ Watson của chính IBM, cũng như là Tensorflow, SparkML, AWS SageMaker và AzureML.

SaaS (chạy hoàn toàn tự động) giúp giải thích việc ra quyết định và phát hiện liệu AI có đang thiên vị hay không- vì vậy khi các quyết định được đưa ra – nó sẽ có khả năng xác định được các kết quả có thể không được công bằng.

Nó cũng sẽ tự động đề xuất dữ liệu để thêm vào mô hình giúp giảm thiểu bất kỳ sai lệch nào đã được phát hiện.

Tính năng giải thích về các quyết định của AI bao gồm việc đưa ra các yếu tố nào ảnh hưởng đến việc ra quyết định; sự tự tin trong đề xuất; và các yếu tố đằng sau sự tự tin đó.

IBM cũng cho biết phần mềm có lưu giữ thông tin về độ chính xác, hiệu suất và tính công bằng của mô hình AI, cùng với phả hệ của hệ thống AI – nghĩa là nó có thể dễ dàng truy vấn và thu hồi nếu cần thiết cho dịch vụ hay để tuân theo quy định và yêu cầu.

Đối với một ví dụ về mặt tuân thủ, framework bảo mật GDPR của EU tham chiếu đến việc đưa ra quyết định tự động và bao gồm quyền cho mọi người được nghe giải thích chi tiết về cách các thuật toán hoạt động trong một số trường hợp nhất định – điều đó có nghĩa là các doanh nghiệp có thể cần phải kiểm tra AI của họ.

IBM AI scanner tool cung cấp một phân tích các quyết định tự động thông qua các dashboard – Nhờ đó mà bạn không cần phải có kĩ năng IT để đọc hiểu chúng.

IBM cũng không phải là công ty đầu tiên phát hiện cơ hội kinh doanh xung quanh vấn đề về AI thiên vị. Một vài tháng trước Accenture đã đưa ra một công cụ để xác định và sửa chữa AI nhằm giúp chúng công bằng hơn.

Ngoài việc tung ra công cụ kiểm toán AI (trả tiền), IBM cho biết bộ phận nghiên cứu của họ sẽ tung ra một bộ công cụ open sourcing chuyên phát hiện và giảm thiểu vấn đề thiên vị trong AI – với mục đích khuyến khích quá trình “hợp tác toàn cầu để giải quyết vấn đề này”.

“IBM hiện đang dẫn đầu ngành công nghiệp trong việc thiết lập các nguyên tắc tin cậy và minh bạch cho sự phát triển của công nghệ AI mới. Chúng tôi đang mang lại giải pháp mới cho các doanh nghiệp sử dụng AI vốn phải đối mặt với nhiều rủi ro tiềm ẩn đến ​​bất kỳ quyết định sai lầm nào của nó” – David Kenny, SVP của các giải pháp nhận thức tại IBM, cho biết trong một tuyên bố.

Techtalk via techcrunch

Nguồn: https://techtalk.vn/ibm-ra-mat-cong-cu-phat-hien-ai-co-noi-doi-hay-khong.html

TIN LIÊN QUAN

Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường

PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và

Bưu điện TP. HCM tiếp nhận hồ sơ giải quyết thủ tục hành chính tại nhà

TP. Hồ Chí Minh hiện đang siết chặt giãn cách xã hội, tuy nhiên, một số người dân vẫn có nhu cầu giải quyết thủ tục hành chính TTHC đối với một số lĩnh vực được phép hoạt động.

Apple quyết định bảo mật trên App Store về mọi thứ

Theo The Verge, trong một thông báo gửi đến các nhà phát triển thông qua cổng thông tin App Store Connect, “nhà táo” cho biết tất cả ứng dụng và bản cập nhật mới sẽ phải có liên kết đến chính sách bảo mật của các nhà phát triển ở trong phần siêu dữ

Ứng dụng blockchain trong chuỗi cung ứng để hỗ trợ nông dân Úc

Tiếp cận tài chính là cần thiết đối với các doanh nghiệp DN nhỏ đang tìm cách ứng dụng những công nghệ hiện đại trong hoạt động sản xuất kinh doanh, đặc biệt là trong chuỗi cung ứng. So với các DN lớn, các DN nhỏ và vừa SMB thường gặp hạn chế về

Các nội dung cải cách hành chính trọng tâm, tạo điều kiện hỗ trợ doanh nghiệp trước đại dịch COVID-19

Nghị quyết số 76/NQ-CP về Chương trình tổng thể cải cách hành chính giai đoạn 2021-2031 được Chính phủ ban hành đề ra 6 nội dung trọng tâm cần cải cách mạnh mẽ, góp sức hỗ trợ các doanh nghiệp hồi sinh.

Những thách thức khi ứng dụng công nghệ 4.0 xây dựng tương lai bền vững

Cuộc cách mạng công nghiệp CMCN 4.0 thể hiện nhiều cơ hội và tiềm năng to lớn, nhưng ứng dụng các công nghệ của CMCN 4.0 như thế nào, cũng như quản trị công nghệ ra sao chính là bài toán mà các chính phủ phải đối mặt khi xây dựng một tương lai bền

Vi xử lý AI là gì? Nó khác với chip bình thường như thế nào?

Ở IFA năm nay, Huawei đã giới thiệu Kirin 970 và gọi đây là con chip đầu tiên sở hữu bộ vi xử lý thần kinh chuyên dụng (NPU).

Bảo vệ thế giới kết nối của bạn với giải pháp người dùng mới

Mỗi cá thể là duy nhất. Điều này cũng đúng với hành vi online của con người, hình thành nên thế giới số của cá nhân họ. Đó là lí do các chuyên gia của Kaspersky Lab phát minh và cấp bằng sáng chế cho công nghệ bảo mật thích ứng này. Kaspersky

THỦ THUẬT HAY

25 Phím tắt Kodi hữu ích mà bạn nên biết

Như chúng ta đều biết, giao diện người dùng của Kodi không quá tối ưu cho việc sử dụng bằng chuột. Cũng dễ hiểu thôi vì Kodi được xây dựng và phát triển dựa trên nền tảng là XBox.

Một số cách xem livestream trực tiếp sự kiện ra mắt Samsung Galaxy S9/S9+

Như những tin tức trước đây thì Samsung Galaxy S9/S9+ sẽ được ra mắt vào ngày 25 tháng, tức là chỉ 1 ngày trước sự kiện MWC 2018. Với những ai yêu mến công nghệ và nhất là Samfan sẽ không thể bỏ qua sự kiện đặc biệt

Hướng dẫn tra cứu thông tin tiền điện qua Zalo

Tương tự như tra cứu điểm tiêm vắc xin gần nhất, tính năng này cũng xuất thông qua một Page. Nhờ đó, bạn dễ dàng theo dõi tiền cước chưa thanh toán, giá bán điện, điểm thu tiền, cũng như có thể theo dõi biểu đồ tiêu

Tuyệt chiêu để chọn smartphone vừa "ngon" vừa rẻ không phải ai cũng biết

Việc sở hữu cho bản thân những chiếc điện thoại vừa tốt lại có mức giá phải chăng là điều ai cũng muốn. Vì thế, hôm nay mình sẽ hướng dẫn mọi người một số mẹo để có thể 'tậu' về những chiếc smartphone phù hớp nhất với

Làm sao biết iPhone đang sạc nhanh?Câu trả lời chính xác 100% là đây

Sạc nhanh bây giờ là điều không thể thiếu khi bạn sử dụng iPhone. Sẽ rất phiền toái khi phải chờ hàng giờ liền để sạc điện thoại. Vậy làm sao biết iPhone đang sạc nhanh?

ĐÁNH GIÁ NHANH

Đánh giá Xperia XA1: Thanh chocolate tầm trung ngọt ngào

Hiện tại, Xperia XA1 đang là một chiếc smartphone tầm trung đầu tiên của Sony trong 2017, nhận được nhiều sự quan tâm của người dùng. Hãy cùng...

Đánh giá Asus Zenfone 3 Max: thiết kế ấn tượng, thời lượng pin tốt

Không chỉ sở hữu thiết kế kim loại nguyên khối đẹp mắt, Asus Zenfone 3 Max còn ghi điểm với người dùng nhờ thời lượng pin vô cùng ấn tượng.

So sánh Xiaomi Mi Pad 5 và Realme Pad: Lựa chọn nào tốt hơn cho người dùng?

Xiaomi Mi Pad 5 và Realme Pad là hai chiếc máy tính bảng thuộc phân khúc tầm trung mới được trình làng gần đây. Dù có mức giá phải chăng song chúng vẫn được trang bị nhiều tính năng thú vị. Vậy đâu là lựa chọn tốt hơn