Nhật Bản thành lập cơ quan mới xây dựng các tiêu chuẩn an toàn về AI

Ảnh minh họa

Nhật Bản sẽ thành lập cơ quan mới có nhiệm vụ xây dựng các tiêu chuẩn an toàn về Trí tuệ Nhân tạo (AI) nhằm ứng phó với các rủi ro như lạm dụng AI để tạo ra các nội dung giả mạo, lan truyền thông tin sai lệch đang trở nên phổ biến.

Thông tin trên được Thủ tướng Fumio Kishida công bố tại cuộc họp của Hội đồng chiến lược AI diễn ra ngày 21/12 tại Tokyo.

Dự kiến, tổ chức mới sẽ được thành lập vào tháng 1/2024 với tên gọi “Viện An toàn AI” (AISI), trực thuộc Cơ quan Xúc tiến công nghệ thông tin (IPA), Bộ Kinh tế, Thương mại và Công nghiệp Nhật Bản (METI).

Tổ chức này sẽ bao gồm các chuyên gia về trí tuệ nhân tạo và an ninh mạng, có trách nhiệm xây dựng các tiêu chuẩn đánh giá an toàn cho các công ty phát triển trí tuệ nhân tạo và kiểm tra nguy cơ lạm dụng công nghệ này.

Trong cuộc họp, Hội đồng chiến lược trí tuệ nhân tạo cũng thảo luận về "Hướng dẫn về trí tuệ nhân tạo" với 10 nguyên tắc. Những nguyên tắc này được xây dựng dựa trên tiến trình AI Hiroshima của Nhóm các nước công nghiệp phát triển (G7), nhằm đảm bảo rằng chúng phù hợp với các tiêu chuẩn quốc tế.

Bản hướng dẫn kêu gọi các công ty và doanh nghiệp Nhật Bản đặt con người làm trung tâm trong quá trình phát triển và sử dụng trí tuệ nhân tạo. Các nguyên tắc cũng đề xuất việc tôn trọng quyền con người và sự đa dạng, thực hiện các biện pháp chống lại thông tin sai lệch, và cam kết không tham gia vào việc phát triển, cung cấp, và sử dụng dịch vụ trí tuệ nhân tạo để thao túng quyết định và cảm xúc của con người.

Bản hướng dẫn cũng nhấn mạnh vào bảo vệ quyền riêng tư, đảm bảo sự công bằng, an ninh và minh bạch. Dự kiến, bản "Hướng dẫn về trí tuệ nhân tạo" sẽ chính thức được thông qua vào tháng 3/2024 và áp dụng cho các nhà phát triển, nhà cung cấp dịch vụ trí tuệ nhân tạo và cả người sử dụng.

Khi các công cụ trí tuệ nhân tạo ngày càng trở nên phổ biến và dễ tiếp cận, công nghệ này được kỳ vọng sẽ mở rộng sang các ngành và đáp ứng đa dạng nhu cầu hơn. Tuy nhiên, các chuyên gia công nghệ cũng lưu ý, trí tuệ nhân tạo đang tiềm ẩn rất nhiều rủi ro và thách thức với những lo ngại về mức độ tin cậy liên quan đến dữ liệu, thuật toán và ứng dụng.

Vì vậy, để tối ưu hóa những lợi ích của trí tuệ nhân tạo, điều quan trọng là phải khiến công chúng tin tưởng rằng công nghệ này đang được phát triển và sử dụng một cách có trách nhiệm.