Singapore khởi động Dự án Moonshot - Bộ công cụ kiểm thử trí tuệ nhân tạo tạo sinh nhằm giải quyết các thách thức về an toàn và bảo mật của Mô hình ngôn ngữ lớn (LLM)

Singapore khởi động Dự án Moonshot - Bộ công cụ kiểm thử trí tuệ nhân tạo tạo sinh nhằm giải quyết các thách thức về an toàn và bảo mật của Mô hình ngôn ngữ lớn (LLM)

SINGAPORE, 03/06/2024 /PRNewswire/ -- Bộ trưởng Bộ Thông tin và Truyền thông Singapore, bà Josephine Teo đã khởi động AI Verify- Dự án Moonshot, một bộ công cụ kiểm thử đơn giản được thiết kế để giải quyết các thách thức về an toàn và bảo mật thường liên quan đến việc sử dụng các mô hình ngôn ngữ lớn (LLM), là nền tảng của nhiều giải pháp dựa trên AI. Đây là một trong những công cụ mã nguồn mở đầu tiên trên thế giới kết hợp tấn công mô phỏng, đối chuẩn và kiểm thử ban đầu trong một nền tảng dễ sử dụng – minh chứng cho cam kết của Singapore trong việc khai thác sức mạnh của cộng đồng mã nguồn mở toàn cầu nhằm giải quyết các rủi ro của AI.



Là phiên bản beta mở rộng, Dự án Moonshot nhằm mục đích cung cấp kết quả trực quan về chất lượng và độ an toàn của mô hình hoặc ứng dụng theo cách dễ hiểu, ngay cả đối với người dùng không có chuyên môn về kỹ thuật. Dự án được phát triển thông qua quan hệ hợp tác với các đối tác như DataRobot, IBM, Singtel và Temasek nhằm đảm bảo rằng công cụ này hữu ích và phù hợp với nhu cầu của ngành.

Dự án Moonshot cũng đóng góp một phần trong bước tiến quan trọng hướng tới các tiêu chuẩn kiểm thử trên toàn cầu. Hai trong số các tổ chức kiểm thử AI hàng đầu là AI Verify Foundation (AIVF) và MLCommons đã ký kết một biên bản ghi nhớ (MOI) để hợp tác xây dựng một bộ tiêu chuẩn an toàn chung. 

AI Verify Foundation kỷ niệm ngày thành lập đầu tiên
Với mục tiêu khai thác sức mạnh của chuyên môn tập thể trong việc cho phép sử dụng AI một cách có trách nhiệm, AIVF đã tổ chức lễ kỷ niệm ngày thành lập đầu tiên tại ATxSG. Tổ chức này đã tăng gấp đôi số lượng thành viên lên hơn 120 người, với sự tham gia của Amazon Web Services (AWS) và Dell với tư cách là thành viên cao cấp mới. Ngoài ra, AIVF còn mở rộng phạm vi từ công cụ kiểm thử AI sang phát triển các sản phẩm an toàn AI đáng tin cậy như Khung quản trị AI mô hình cho AI tạo sinh, ánh xạ AI Verify với ISO 42001, cũng như tích hợp AI Verify với bộ công cụ Veritas của MAS.

Tôn vinh phụ nữ trong lĩnh vực công nghệ ở Đông Nam Á
Bộ trưởng Teo cũng tiết lộ những phát hiện từ một báo cáo chung của IMDA và Boston Consulting Group (BCG) có tiêu đề Thu hẹp khoảng cách giới tính trong công nghệ ở Đông Nam Á. Báo cáo đã khảo sát hơn 4.000 cá nhân từ Singapore, Indonesia, Malaysia, Philippines, Thái Lan và Việt Nam. Theo báo cáo, mặc dù đã có những bước tiến lớn trong việc hỗ trợ phụ nữ thuộc lĩnh vực này trên toàn khu vực nhưng vẫn còn nhiều điều cần thực hiện để cải thiện sự hiện diện của phụ nữ trong các vai trò kỹ thuật và lãnh đạo.

Bộ trưởng Teo nhấn mạnh cam kết của Singapore trong việc khuyến khích và hỗ trợ phụ nữ trong lĩnh vực công nghệ với các sáng kiến như chiến dịch SG Women in Tech (SGWIT), danh sách 100 Phụ nữ trong ngành công nghệ tại Singapore, nhằm xác định và công nhận những người cố vấn và hình mẫu để hỗ trợ phụ nữ trên hành trình lãnh đạo của họ; và TechSkills Accelerator (TeSA), cho phép các chuyên gia có được các kỹ năng phù hợp theo yêu cầu, bao gồm việc giúp phụ nữ quay trở lại vai trò kỹ thuật dễ dàng hơn sau thời gian nghỉ việc. Những sáng kiến như vậy đã tạo ra tác động to lớn khi Singapore tiếp tục dẫn đầu về số lượng phụ nữ đại diện trong lĩnh vực công nghệ ở Đông Nam Á.

LIÊN HỆ: atxsg.imda@omnicomprgroup.com

 


nguồn: Infocomm Media Development Authority of Singapore

THỦ THUẬT HAY

Hướng dẫn bảo mật 2 lớp Facebook bằng số điện thoại

Bảo mật 2 lớp Facebook bằng số điện thoại là một trong những cách thức bảo vệ tài khoản Facebook cá nhân hiệu quả nhất. Khi đăng nhập tài khoản, người dùng buộc phải nhập mật mã được gửi về số điện thoại đã đăng ký

7 cách sử dụng iPhone để đẹp và bền vững theo thời gian

Smartphone có bền đẹp theo thời gian hay không một phần cũng do cách chúng ta sử dụng. Là một siêu phẩm, iPhone luôn là thiết bị mà bất kỳ ai cũng muốn sở hữu, nhưng liệu bạn đã biết cách sử dụng đúng

Cách tải ứng dụng DaNang Smart City để bạn dễ dàng khai báo tích hợp

Ứng dụng DaNang Smart City giúp khai báo tích hợp dữ liệu tiêm chủng vào mã QR khai báo y tế trên điện thoại. Sau đây là cách tải ứng dụng DaNang Smart City...

Top 10 công cụ quản lý lỗ hổng dựa trên rủi ro (VM) hàng đầu năm 2022

Các công cụ quản lý lỗ hổng dựa trên rủi ro (VM) cung cấp cho các nhóm bảo mật Công nghệ thông tin (CNTT) khả năng tự động, liên tục để xác định, ưu tiên và khắc phục các lỗ hổng trên mạng theo rủi ro tương đối mà

Tạo một số thay đổi trên Windows bằng Registry

Windows Registry là một thành phần rắc rối nhưng có tác động mạnh tới hệ điều hành Windows. Biên tập hay chỉnh sửa trong Registry là đầy rủi ro vì nếu người dùng chỉnh sửa với công cụ không phù hợp hay làm sai một khóa

ĐÁNH GIÁ NHANH

Galaxy Z Flip3 5G: Giao hòa hoàn hảo giữa công nghệ và thời trang, chiếc điện thoại dành cho những người dẫn đầu xu hướng

Galaxy Z Flip3 5G không chỉ là một chiếc điện thoại gập đẳng cấp mà còn là một phụ kiện thời trang công nghệ hiện đại với nhiều tính năng bậc nhất thị trường. Vừa qua, Samsung đã chính thức ra mắt Galaxy Z Flip3 5G

Có nên mua iPad mini 6 không?5 lý do dưới đây sẽ giúp bạn giải đáp

iPad mini 6 được Apple trình làng cùng iPhone 13 series hồi tháng 9 và hiện đã lên kệ tại nhiều quốc gia. Thuộc thương hiệu cao cấp nhưng không ít bạn vẫn đắn đo có nên mua iPad mini 6 không. Bài viết này sẽ đưa ra 5

Samsung đã khẳng định vị thế dẫn đầu ngành công nghiệp di động thế nào trong mùa dịch?

Thành công vượt bậc từ hai sản phẩm Galaxy đột phá Samsung Galaxy Z Flip3 5G và Galaxy Fold3 5G đã là minh chứng rõ ràng cho vị thế dẫn đầu ngành công nghiệp của Samsung trong mùa dịch. Vượt qua những khó khăn về mọi