Särdragsvärdering : En algoritm för utvärdering av särdragens betydelse i konvolutionella neurala nätverk

Sammanfattning: Neurala nätverk kan ses som en svart låda det det är svårt att förstå nätverkets komplexa beteende. Forskningsområdet inom visualisering av neurala nätverk försöker hjälpa människor att förstå nätverket och tillhandahålla ett analysverktyg som kan användas för att förbättra en nätverksarkitektur. Bland visualiseringsteknikerna finns det dekonvolutionella nätverk som visualiserar särdrag som hittats av ett Konvolutionella Neurala nätverk. Även om de hjälper till att förklara CNN: s beteende, indikerar tekniken inte huruvida ett särdrag påverkar klassificeringen positivt eller negativt. Vi presenterar ett sätt att rangordna vilka särdrag som är mest inflytelserika för en klassificering vilket kan användas för att få en djupare förståelse för hur ett CNN fattar beslut.