IBM tung ra một phần mềm phát hiện hệ thống AI nói dối
IBM đã tung ra một dịch vụ phần mềm chuyên quét các hệ thống AI khi chúng hoạt động để phát hiện ra sự thiên vị và cung cấp các giải thích cho các quyết định được đưa ra bởi AI.
Hệ thống tin cậy và minh bạch mới chạy trên Cloud của IBM và làm việc với các model được xây dựng từ một loạt các machine learning framework và AI – bao gồm công nghệ Watson của chính IBM, cũng như là Tensorflow, SparkML, AWS SageMaker và AzureML.
SaaS (chạy hoàn toàn tự động) giúp giải thích việc ra quyết định và phát hiện liệu AI có đang thiên vị hay không- vì vậy khi các quyết định được đưa ra – nó sẽ có khả năng xác định được các kết quả có thể không được công bằng.
Nó cũng sẽ tự động đề xuất dữ liệu để thêm vào mô hình giúp giảm thiểu bất kỳ sai lệch nào đã được phát hiện.
Tính năng giải thích về các quyết định của AI bao gồm việc đưa ra các yếu tố nào ảnh hưởng đến việc ra quyết định; sự tự tin trong đề xuất; và các yếu tố đằng sau sự tự tin đó.
IBM cũng cho biết phần mềm có lưu giữ thông tin về độ chính xác, hiệu suất và tính công bằng của mô hình AI, cùng với phả hệ của hệ thống AI – nghĩa là nó có thể dễ dàng truy vấn và thu hồi nếu cần thiết cho dịch vụ hay để tuân theo quy định và yêu cầu.
Đối với một ví dụ về mặt tuân thủ, framework bảo mật GDPR của EU tham chiếu đến việc đưa ra quyết định tự động và bao gồm quyền cho mọi người được nghe giải thích chi tiết về cách các thuật toán hoạt động trong một số trường hợp nhất định – điều đó có nghĩa là các doanh nghiệp có thể cần phải kiểm tra AI của họ.
IBM AI scanner tool cung cấp một phân tích các quyết định tự động thông qua các dashboard – Nhờ đó mà bạn không cần phải có kĩ năng IT để đọc hiểu chúng.
IBM cũng không phải là công ty đầu tiên phát hiện cơ hội kinh doanh xung quanh vấn đề về AI thiên vị. Một vài tháng trước Accenture đã đưa ra một công cụ để xác định và sửa chữa AI nhằm giúp chúng công bằng hơn.
Ngoài việc tung ra công cụ kiểm toán AI (trả tiền), IBM cho biết bộ phận nghiên cứu của họ sẽ tung ra một bộ công cụ open sourcing chuyên phát hiện và giảm thiểu vấn đề thiên vị trong AI – với mục đích khuyến khích quá trình “hợp tác toàn cầu để giải quyết vấn đề này”.
“IBM hiện đang dẫn đầu ngành công nghiệp trong việc thiết lập các nguyên tắc tin cậy và minh bạch cho sự phát triển của công nghệ AI mới. Chúng tôi đang mang lại giải pháp mới cho các doanh nghiệp sử dụng AI vốn phải đối mặt với nhiều rủi ro tiềm ẩn đến bất kỳ quyết định sai lầm nào của nó” – David Kenny, SVP của các giải pháp nhận thức tại IBM, cho biết trong một tuyên bố.
Techtalk via techcrunch
Nguồn: https://techtalk.vn/ibm-ra-mat-cong-cu-phat-hien-ai-co-noi-doi-hay-khong.htmlTIN LIÊN QUAN
Framework AI của Facebook gần như sẵn sàng được tung ra ngoài thị trường
PyTorch là một deep learning platform cho tất cả mọi thứ từ nghiên cứu phát triển các mẫu prototype đến khâu triển khai sản xuất. Nó có cung cấp một hybrid front-end, distributed training, tích hợp với Python và một hệ sinh thái của các tools và
Bưu điện TP. HCM tiếp nhận hồ sơ giải quyết thủ tục hành chính tại nhà
TP. Hồ Chí Minh hiện đang siết chặt giãn cách xã hội, tuy nhiên, một số người dân vẫn có nhu cầu giải quyết thủ tục hành chính TTHC đối với một số lĩnh vực được phép hoạt động.
Apple quyết định bảo mật trên App Store về mọi thứ
Theo The Verge, trong một thông báo gửi đến các nhà phát triển thông qua cổng thông tin App Store Connect, “nhà táo” cho biết tất cả ứng dụng và bản cập nhật mới sẽ phải có liên kết đến chính sách bảo mật của các nhà phát triển ở trong phần siêu dữ
Ứng dụng blockchain trong chuỗi cung ứng để hỗ trợ nông dân Úc
Tiếp cận tài chính là cần thiết đối với các doanh nghiệp DN nhỏ đang tìm cách ứng dụng những công nghệ hiện đại trong hoạt động sản xuất kinh doanh, đặc biệt là trong chuỗi cung ứng. So với các DN lớn, các DN nhỏ và vừa SMB thường gặp hạn chế về
Các nội dung cải cách hành chính trọng tâm, tạo điều kiện hỗ trợ doanh nghiệp trước đại dịch COVID-19
Nghị quyết số 76/NQ-CP về Chương trình tổng thể cải cách hành chính giai đoạn 2021-2031 được Chính phủ ban hành đề ra 6 nội dung trọng tâm cần cải cách mạnh mẽ, góp sức hỗ trợ các doanh nghiệp hồi sinh.
Những thách thức khi ứng dụng công nghệ 4.0 xây dựng tương lai bền vững
Cuộc cách mạng công nghiệp CMCN 4.0 thể hiện nhiều cơ hội và tiềm năng to lớn, nhưng ứng dụng các công nghệ của CMCN 4.0 như thế nào, cũng như quản trị công nghệ ra sao chính là bài toán mà các chính phủ phải đối mặt khi xây dựng một tương lai bền
Vi xử lý AI là gì? Nó khác với chip bình thường như thế nào?
Ở IFA năm nay, Huawei đã giới thiệu Kirin 970 và gọi đây là con chip đầu tiên sở hữu bộ vi xử lý thần kinh chuyên dụng (NPU).
Bảo vệ thế giới kết nối của bạn với giải pháp người dùng mới
Mỗi cá thể là duy nhất. Điều này cũng đúng với hành vi online của con người, hình thành nên thế giới số của cá nhân họ. Đó là lí do các chuyên gia của Kaspersky Lab phát minh và cấp bằng sáng chế cho công nghệ bảo mật thích ứng này. Kaspersky
THỦ THUẬT HAY
Cách dùng ảnh tạo chữ ký Gmail cực chuyên nghiệp
Sử dụng ảnh làm chữ ký trong Gmail có nhiều tiện lợi và cách thực hiện, lựa chọn cũng phong phú hơn rất nhiều.
Phân biệt 4 kiểu người khi chọn mua smartphone, bạn thuộc kiểu nào?
Để giúp bạn dễ dàng chọn lựa giữa các dòng smartphone cao cấp nửa đầu 2017, trong bài viết này, sẽ giúp bạn phân loại điện thoại dựa theo từng thế mạnh của từng máy.
Nên mua điều hòa hay quạt điều hòa?
Vào thời điểm nóng nực như thế này, các gia đình luôn muốn lựa chọn một thiết bị làm lạnh hiệu quả nhằm giúp cho căn phòng trở nên thoáng mát và dễ chịu hơn, theo đó, nhiều người dùng phân vân nên mua điều hòa hay quạt
Những điều cần làm ngay lập tức khi diệt xong Virus
Nếu máy vi tính của bạn bị nhiễm virus hoặc các loại mã độc khác, quét virus mới chỉ là bước đầu tiên. Bạn cần thực hiện thêm nhiều bước để đảm bảo rằng máy vi tính của bạn luôn được đảm bảo an toàn.
Cách tải video Facebook, Vimeo bằng tiện ích Vido - Video Downloader
Vido - Video Downloader là tiện ích cài đặt trên trình duyệt Google Chrome, có tính năng tải video, mp3 trên Facebook, Vimeo, Dailymotion,… và nhiều trang web khác.
ĐÁNH GIÁ NHANH
Đánh giá nhanh Lenovo Yoga Book: Thiết bị dành cho những ai yêu thích vẽ vời
Lần đầu tiên cầm chiếc Lenovo Yoga Book là mình đã rất ấn tượng với vẻ ngoài vô cùng quyến rũ của em nó. Nhìn tổng thể thì thiết bị giống như một quyển sổ tay lớn vậy. Với kích thước nhỏ gọn cùng trọng lượng chỉ khoảng
Đánh giá Mobiistar E-Selfie: Liệu có đủ sức cạnh tranh với các đối thủ cùng giá
Mình đánh giá khá cao việc Mobiistar đã quyết định lựa chọn tỉ lệ màn hình 18:9 cho E-Selfie và việc sử dụng màn hình tràn viền cũng góp phần làm cho chiếc máy trông đẹp hơn. Chỉ có điều viền trên và dưới còn hơi dày
Đánh giá Lenovo Ideapad 530s: Laptop ấn tượng, thiết kế cao cấp và gọn nhẹ
Chiếc Laptop được thiết kế đơn giản và đẹp mắt như mẫu Ideapad 530S được coi là một bước thay đổi mới của hãng Lenovo giống Apple làm với Macbook Air vậy. Còn điều gì thú vị của Ideapad 530S trừ dáng vẻ được phá cách