Психоанализ свёрточных нейронных сетей. Часть 2.

Продолжаем интерпретировать работу нейронных сетей с помощью SHAP диаграмм. При таком подходе анализируются не те процессы, которые происходят на конкретном канале конкретного слоя, а значимость того или иного пикселя на исходной картинке. С помощью SHAP диаграмм можно анализировать, какие пиксели исходного изображения привели к повышению вероятности данного класса, а какие - к ее уменьшению. Ukrainian IT-company. Machine Learning | Data Science | Artificial Intelligence #нейронныесети #neuralnetwork #искусственныйинтеллект #нейросети #ИИ #машинноеобучение #deeplearning #machinelearning #artificialintelligence #qudata