XAIとは、構造を説明しやすいAIです。
よくニュースとかで聞くAIというのは、深層学習を利用したもの。人間の脳を模した計算の方法です。
![](https://piedpin.com/wp-content/uploads/2019/04/computer_jinkou_chinou.png)
でも実はこの深層学習、過程がめちゃ複雑。それっぽい結果は出るけど、なんでそうなったのかをAI知らない人に説明するのは難しいわけです。
![](https://piedpin.com/wp-content/uploads/2019/04/ai_kenka.png)
そこで、お偉いさんに説明するときとか、
『チラシを100枚配ったら、だいたい1~2人買うから、売り上げがこのくらい上がるよ』
みたいにわかりやすいほうが逆に良かったりします。
![](https://piedpin.com/wp-content/uploads/2019/04/kubari_chirashi.png)
こういった、なんでそうなったのかを説明しやすいAIを説明可能なAI(eXplainable AI)といいます。
まあ、なんでもかんでもAIの犠牲者の一人です。人間って複雑ですね。