Các hệ thống Trí tuệ nhân tạo (AI) đang đảm nhận một loạt các nhiệm vụ trước đây phụ thuộc vào chuyên môn và phán đoán của con người. Tuy nhiên, thông thường, "lý do" đằng sau hành động của chúng không rõ ràng và có thể tạo ra các lỗi đáng ngạc nhiên hoặc củng cố các quy trình sai lệch. Một cách để giải quyết vấn đề này là làm cho AI "có thể giải thích" được với con người. Ví dụ, các nhà thiết kế có thể cải thiện nó hoặc cho người dùng biết rõ hơn khi nào nên tin tưởng nó. Mặc dù các kiểu giải thích tốt nhất cho các mục đích khác nhau vẫn đang được nghiên cứu, nhưng chúng sẽ định hình sâu sắc cách sử dụng AI trong tương lai.Một số AI có thể giải thích, hoặc XAI (Explainable AI = AI có thể giải thích (XAI) là trí tuệ nhân tạo được lập trình để mô tả mục đích, lý do và quá trình ra quyết định của nó theo cách mà người bình thường có thể hiểu được. ... XAI cung cấp thông tin chung về cách chương trình AI đưa ra quyết định bằng cách tiết lộ: Điểm mạnh và điểm yếu của chương trình.) AI có thể giải thích (Explainable AI = XAI) là gì?Trí thông minh nhân tạo dường như đang len lỏi vào mọi ngõ ngách trong cuộc sống của chúng ta. Và nó đang đưa ra một số quyết định khá lớn đối với chúng ta, điều này đặt ra câu hỏi, làm thế nào để đưa ra những quyết định này? Một câu trả lời mà các tổ chức tìm thấy rất nhiều lần rất phức tạp và không được hiểu rõ. Cho dù vì lý do tuân thủ hoặc để loại bỏ sự thiên vị, cần phải làm cho khả năng ra quyết định được hiểu. Đây là nơi AI có thể giải thích (XAI) hoặc AI trong suốt xuất hiện.Hãy bắt đầu bằng cách xem danh sách ngắn các quyết định mà AI đang đưa ra cho chúng ta ở đây và ngay bây giờ.• Có hay không một khối u đã trở thành ung thư.• Có hay không một yêu cầu bảo hiểm nên được xử lý hoặc từ chối.• Có hay không một du khách được chấp thuận để đi qua an ninh sân bay.• Có hay không một khoản vay nên được thực hiện.• Có hay không việc phóng tên lửa được cho phép.• Có hay không một chiếc xe tự lái phanh.Đây là những vấn đề phức tạp rất phù hợp với sức mạnh của AI - khả năng xử lý dữ liệu lớn hơn vô hạn của con người, Mike Abramsky , CEO của RedTeam Global cho biết. Nhưng những quyết định mà AI có thể đưa ra cũng phản ánh sự yếu kém của công nghệ, vấn đề được gọi là "Hộp đen", Abramsky nói. Bởi vì học sâu không minh bạch, hệ thống đơn giản là không thể giải thích lý do tại sao nó đi đến quyết định. Không có vấn đề bao nhiêu bạn tôn trọng trước AI của, tuy nhiên. Hầu hết chúng ta cũng muốn biết cách AI đến kết luận rằng nó đã làm, nếu chỉ ra sake sự tò mò của. Những người đề xuất một phong trào gọi là AI có thể giải thích được, và lý do của họ muốn biết vượt xa sự tò mò đơn thuần. Với các hệ thống được hỗ trợ bởi AI ngày càng đưa ra các quyết định như phê duyệt thẻ tín dụng cho một ứng dụng, một chiếc xe tự lái áp dụng phanh sau khi đến gần một chướng ngại vật và khuyến nghị tạm tha cho những kẻ phạm tội bị giam giữ, nó trở nên quan trọng đối với con người để hiểu quyết định Cơ chế tạo ra AI cơ bản để xác định rằng AI đưa ra quyết định chính xác và công bằng.AI có thể giải thích (XAI) là trí thông minh nhân tạo được lập trình để mô tả mục đích, lý do và quá trình ra quyết định của nó theo cách mà người bình thường có thể hiểu được. XAI thường được thảo luận liên quan đến học tập sâu và đóng một vai trò quan trọng trong mô hình FAT ML (tính công bằng, trách nhiệm và minh bạch trong học máy).XAI cung cấp thông tin chung về cách chương trình AI đưa ra quyết định bằng cách tiết lộ:• Điểm mạnh và điểm yếu của chương trình.• Các tiêu chí cụ thể mà chương trình sử dụng để đi đến quyết định.• Tại sao một chương trình đưa ra một quyết định cụ thể trái ngược với các lựa chọn thay thế.• Mức độ tin cậy phù hợp với nhiều loại quyết định.• Những loại lỗi chương trình dễ bị.• Làm thế nào các lỗi có thể được sửa chữa.Một mục tiêu quan trọng của XAI là cung cấp thuật toán giải trình trách nhiệm. Cho đến gần đây, các hệ thống AI về cơ bản là hộp đen. Ngay cả khi đầu vào và đầu ra được biết đến, các thuật