Các nhà nghiên cứu tại OpenAI tìm ra lỗi của AI: Trí tuệ nhân tạo có thể bị đánh bại bởi... một con mèo

Mèo là mèo, chứ mèo không phải là cái máy tính. Thế mới có câu 'mèo lại hoàn mèo' (dù chẳng liên quan gì).

Nhiều chuyên gia xe tự động, trong đó có CEO Elon Musk của Tesla, đưa ra dự đoán rằng chỉ trong vòng chục năm nữa, xe tự động sẽ tràn ngập phố phường. Hiển hiên là nói dễ hơn làm, ta cần một trí thông minh nhân tạo đủ khôn để tránh được vật cản, đưa hành khách ngồi trên nó tới được nơi an toàn. Nhiều thử nghiệm cho thấy ta đang có được một hệ thống thông minh như thế.

Nhưng đáng rơi nước mắt thay, có những vấn đề nan giải vẫn tồn tại.

Tuần vừa qua, một đội ngũ các nhà khoa học tại Đại học Illinois đã tuyên bố rằng rất khó để một bên thứ ba có thể can thiệp, làm sai lệch những hình ảnh mà hệ thống cảm biết môi trường xung quanh của xe tự lái nhận về. Nghiên cứu mới này của họ CÓ đưa ra lời khẳng định rằng thuật toán machine learning là một mạng lưới đáng tin, xe tự lái có thể dựa vào đó để nhận dạng được tốt những vật thể mà nó gặp phải.

Để một hacker có thể tấn công vào khả năng nhận dạng vật thể của xe, họ sẽ phải tấn công vào TOÀN BỘ các nhận dạng hình ảnh trong cơ sở dữ liệu – mọi góc độ, mọi khoảng cách và ở nhiều vận tốc xe khác nhau. Việc này có thể coi là bất khả thi.

TUY NHIÊN, những nhà nghiên cứu của OpenAI – đáng buồn (cười) thay lại là chính tổ chức nghiên cứu AI phi lợi nhuận do Elon Musk hậu thuẫn – lại chỉ ra rằng chính những thuật toán ấy có lỗi của riêng nó. Khi lỗi xuất hiện, thuật toán sẽ nhầm toàn bộ cơ sở dữ liệu hình ảnh cùng một lúc, chứ không chỉ một hình ảnh.

Đây là ví dụ mà họ đưa ra, hệ thống đã nhận nhầm con mèo là một cái máy tính:

Những cái cột bên trái tượng trưng cho những gì hệ thống trí tuệ nhân tạo nhận dạng hình ảnh mà nó gặp, và bạn có thể thấy cột “Máy tính” cao hơn hẳn – hệ thống đã nhầm. Ở góc nhìn nào, kích cỡ mèo nào thì máy cũng nhận dạng đây là cái máy tính.

Một vấn đề khác nghiêm trọng hơn, có thể được tạo ra dựa vào một phương pháp tối ưu hóa thuật toán có tên dốc xuống hình chiếu – projected gradient descent, đáng lẽ được sử dụng để xác định những lỗi có trong hình ảnh TRƯỚC KHI thuật toán bị lừa. Tuy nhiên, các nhà nghiên cứu tại OpenAI cho thấy rằng phương pháp này có thể tạo ra một lỗi khác: thuật toán phân loại có thể bị làm rối trước khi nó nhập liệu và phân tích hình ảnh. Lỗi này không chỉ ảnh hưởng tới một bước phân tích mà ảnh hưởng tới toàn bộ quá trình thu thập và phân tích dữ liệu.

Hacker vốn được biết tới khả năng ứng biến, sáng tạo đâm ra việc họ có thể tấn công vào hệ thống xe tự lái trong tương lai là hoàn toàn khả thi. Vẫn cần thêm thời gian để hoàn thiện công nghệ xe tự lái nữa, hoặc cần phải có riêng một phần mềm “chống virus” cho xe tự động, trước khi đường phố của ta tràn ngập những chiếc xe có thể tự đưa chủ nhân mình tới nơi an toàn mà không cần lái.

Các bạn có thể đọc nghiên cứu của họ tại đây.

TIN LIÊN QUAN

Elon Musk cử kỹ sư đến Thái Lan giúp giải cứu đội bóng mắc kẹt trong hang động

Với vai trò là CEO của một công ty sản xuất xe hơi (Tesla), một công ty nghiên cứu vũ trụ (SpaceX), là nhà sáng lập một công ty về cơ sở hạ tầng (The Boring Company), phát triển trí tuệ nhân tạo (OpenAI), Elon Musk đã đề nghị cho mượn chuyên môn

Elon Musk đồng ý từ chức chủ tịch Tesla

Vừa qua, Ủy ban chứng khoán Mỹ (SEC) đã gửi đơn kiện Elon Musk với cáo buộc lừa dối các nhà đầu tư. Họ cũng yêu cầu Elon Musk phải rời khỏi vị trí chủ tịch Hội đồng quản trị và bồi thường thiệc hại cho các nhà đầu tư.

Elon Musk: Cạnh tranh về trí tuệ nhân tạo có thể gây ra Thế chiến 3

Tỷ phú Elon Musk đã cảnh báo rằng sự cạnh tranh giành ưu thế trong thế giới trí tuệ nhân tạo (AI) có thể gây ra Chiến tranh Thế giới thứ Ba.

Cổ phiếu của Tesla như được đi đu quay khi Elon Musk muốn Tesla tư nhân hóa

Trước đó, Musk đã báo hiệu là muốn tư nhân hóa Tesla. Ông đã từng chia sẻ với Rolling Stone vào tháng 11 năm 2017 rằng: 'Thực chất chúng tôi kém hiệu quả hơn khi là một công ty đại chúng.' Tuy nhiên, việc Elon Musk đưa ra lời đề nghị này vào hôm

Elon Musk từng muốn bán Tesla cho Apple nhưng Tim Cook từ chối gặp mặt

Trong một cuộc phỏng vấn gần đây, Elon Musk cho biết rằng ông từng muốn bán Tesla cho Apple trong 'những ngày đen tối nhất' của giai đoạn giới thiệu Model 3, nhưng CEO Tim Cook đã 'từ chối' tham gia cuộc họp.

Tesla đang phát triển phần cứng AI chuyên dụng tốt nhất thế giới cho xe tự lái

Từ lâu người ta đã đồn Tesla đang phát triển một con chip AI và mới đây, đích thân Elon Musk đã khẳng định điều đó, đồng thời khẳng định rằng công ty “đang phát triển phần cứng AI chuyên dụng” mà họ nghĩ rằng “sẽ là tốt nhất thế giới”.

Elon Musk: Tesla Model 3 chỉ cần 1 màn hình vì bạn sẽ dành thời gian xem phim, nói chuyện, ngủ

Tầm nhìn từ ghế tài nhìn ra giờ cực kì thông thoáng và nó cũng làm cho thiết kế nội thất của xe trở nên cực kì tinh tế và đơn giản. Xe thậm chí còn không có chìa khóa vì bạn sẽ khởi động lên từ app Tesla trên điện thoại của mình.

Apple mua lại Tesla và những dự định táo bạo

Elon Musk đã chấm dứt tham vọng tư nhân hoá Tesla, iPhone và trước mắt, ông vẫn phải đối phó để tìm cách đạt được lợi nhuận và hoàn thành mục tiêu sản xuất, đặc biệt là khi Tesla đang bận tay giải quyết các vụ điều tra và các vụ kiện cáo từ bài

THỦ THUẬT HAY

Hướng dẫn cài đặt bản YouTube có thể phát nhạc khi tắt màn hình, chặn hoàn toàn quảng cáo

YouTube hiện đang là dịch vụ lưu trữ và chia sẻ video phổ biết nhất hiện nay. Không chỉ tiện lợi bởi khả năng hoạt động đa nền tảng mà còn phong phú về nội dung cung cấp tới người dùng.

Mở rộng không gian lưu trữ cho thiết bị Android

Sau một thời gian sử dụng, không gian lưu trữ của thiết bị Android sẽ ngày một đầy lên bởi rất nhiều dữ liệu khác nhau. Lúc này, việc dọn dẹp là điều vô cùng cần thiết, giúp bạn có thể lưu trữ nhiều và nhiều hơn nữa.

Top 10 ứng dụng không thể thiếu giúp bạn duy trì sự tập trung

Trong cuộc sống hiện đại ngày nay có rất nhiều nhân tố về cả khách quan và chủ quan đều khiến chúng ta khó có thể duy trì sự tập trung. Dưới đây là Top 10 ứng dụng không thể thiếu giúp duy trì sự tập trung. Mời các bạn

Cách lưu ảnh chụp màn hình bằng file PDF trên Windows 10, 11 cực đơn giản

Hướng dẫn bạn cách lưu ảnh chụp màn hình bằng file PDF để phù hợp với nhu cầu sử dụng của bạn trên Windows 10, 11 một cách đơn giản. Click xem ngay nhé!

Những ứng dụng Portable dành cho PC tốt nhất mọi thời đại(Phần 4 )

Ứng dụng portable là một phiên bản 'rút gọn' của phần mềm, có thể chạy mà không cần cài đặt trên máy chủ và không thay đổi thông tin cấu hình máy tính. Nói cách khác, bạn có thể chạy nó, sử dụng nó và không ai sẽ biết

ĐÁNH GIÁ NHANH

Đánh giá Yamaha NVX: “Bom tấn” trên thị trường xe ga Việt Nam

Sở hữu kiểu dáng với các đường nét thiết kế vô cùng đẹp mắt, trang bị động cơ BlueCore 155cc, đèn hậu và đèn pha LED, màn hình hiển thị LCD, khóa thông minh, phanh ABS… Yamaha NVX xứng đáng được gọi là “bom tấn” trên

Test OPPO F3 Lite(A57): Chip Snapdragon 435 và 3GB RAM

OPPO F3 Lite (A57) là mẫu smartphone nhấn mạnh vào khả năng selfie tuyệt vời với camera trước 16MP, khẩu độ f/2.0. Đây cũng là smartphone tầm trung có hiệu năng tốt nhất của nhà sản xuất OPPO với chip Snapdragon 435 8

Đánh giá Wiko View XL- Smartphonemàn hình Fullview tỉ lệ 18:9 giá 5 triệu

5 triệu đồng là mức giá mà hầu hệt người dùng sẵn lòng trả, nhưng với Wiko View XL- số tiền bạn bỏ ra thật sự “đáng đồng tiền bát gạo” .