Responsible AI (AI có trách nhiệm) là cách thiết kế, phát triển, triển khai và sử dụng trí tuệ nhân tạo theo hướng an toàn, công bằng, minh bạch và có trách nhiệm với con người, xã hội và môi trường. Mục tiêu là bảo đảm AI mang lại lợi ích trong khi giảm thiểu các rủi ro và tác động tiêu cực.
(Nguồn: https://www.linkedin.com/pulse/principles-responsible-ai-anuradha-mohapatra )
Các nguyên tắc của Principle AI
AI cần đưa ra quyết định một cách công bằng, không phân biệt đối xử dựa trên giới tính, tuổi tác, chủng tộc, quốc tịch hay các đặc điểm cá nhân khác. Để đạt được điều này, dữ liệu huấn luyện phải đại diện cho toàn bộ quần thể và các mô hình cần được kiểm tra, phát hiện và giảm thiểu các thiên lệch (bias) có thể ảnh hưởng đến kết quả dự đoán.
- Reliability & Safety (Độ tin cậy và an toàn)
Hệ thống AI phải hoạt động ổn định, chính xác và an toàn trong cả điều kiện bình thường lẫn các tình huống bất ngờ. Điều này đòi hỏi quá trình kiểm thử nghiêm ngặt, giám sát hiệu năng liên tục, cập nhật mô hình khi cần thiết và đánh giá các rủi ro trước khi triển khai, đặc biệt trong các lĩnh vực như y tế, giao thông và quốc phòng.
- Privacy & Security (Quyền riêng tư và bảo mật)
AI phải bảo vệ dữ liệu cá nhân và dữ liệu nhạy cảm trong suốt vòng đời của hệ thống. Việc thu thập, lưu trữ và sử dụng dữ liệu cần tuân thủ các quy định pháp luật về quyền riêng tư, đồng thời người dùng phải được thông báo rõ ràng về cách dữ liệu của họ được sử dụng và bảo vệ trước các nguy cơ rò rỉ hoặc tấn công.
- Inclusiveness (Tính bao trùm)
AI cần được thiết kế để phục vụ mọi nhóm người trong xã hội, bao gồm cả những người khuyết tật hoặc các nhóm yếu thế. Hệ thống cần bảo đảm khả năng tiếp cận, tôn trọng sự đa dạng và tránh vô tình loại trừ bất kỳ đối tượng nào, từ đó giúp mọi người đều có cơ hội hưởng lợi từ các tiến bộ của AI.
Người dùng cần hiểu khi nào AI được sử dụng và cơ sở mà AI đưa ra các quyết định hoặc dự đoán. Việc giải thích rõ các yếu tố ảnh hưởng đến kết quả giúp tăng cường niềm tin, cho phép người dùng đánh giá tính hợp lý của quyết định và có cơ sở để điều chỉnh hành vi hoặc đưa ra quyết định phù hợp.
- Accountability (Trách nhiệm giải trình)
Các tổ chức và cá nhân phát triển, triển khai hoặc vận hành hệ thống AI phải chịu trách nhiệm đối với các quyết định và tác động của AI. Điều này đòi hỏi phải thiết lập cơ chế quản trị rõ ràng, quy định trách nhiệm của từng bên và bảo đảm luôn có sự giám sát của con người để xử lý các sự cố hoặc hậu quả phát sinh.
Tài liệu tham khảo
- https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai/responsible-ai-policies
- https://www.linkedin.com/pulse/principles-responsible-ai-anuradha-mohapatra
.png?format=2500w)
