Hopfieldova síť
Hopfieldova síť je jednovrstvá rekurentní umělá neuronová síť s plně vzájemně propojenými neurony popularizovaná Johnem Hopfieldem v roce 1982. Hopfieldovy sítě, tj. disktrétní resp. spojité, slouží k filtraci šumu resp. optimalizaci vybraných problémů. Hopfieldovy sítě také poskytují model pro pochopení lidské paměti.
Diskrétní Hopfieldova síťEditovat
Diskrétní Hopfieldova síť[1] je jednovrstvá rekurentní neuronová síť se skokovou bipolární přenosovou funkcí, pracující jako autoasociativní paměť, do které se ve fázi učení (učení bez učitele) uloží bipolární vzory obsažené v trénovacích datech. Tyto vzory, pokud se částečně poškodí a síti znovu předloží, tentokrát ve fázi vybavování, dokáže síť opravit. Během vybavování uloženého vzoru z paměti probíhá v síti rekurentní proces, tj. síť se snaží zaujmout stav s lokálně minimální energií, tj. výchozí stav padá do lokálního energetického minima (atraktoru) na dně oblasti jeho gradientního spádu, kde se nalézá uložený vzor. Během učení sítě však vznikají ale i tzv. falešné atraktory (poutače), tj. pokud je vzor více poškozen, může se výchozí stav sítě dostat do oblasti falešného atraktoru a síť si vybaví z paměti něco, s čím se během učení nesetkala (iluze již viděného). S počtem vzorů v trénovacích datech roste během učení i počet falešných atraktorů, tj. trénovací data nesmí obsahovat příliš velké množství vzorů, kapacita paměti sítě je tak omezena. (Porovnejte s Rekurentní lineární sítí resp. Bidirektní sítí).
Spojitá Hopfieldova síťEditovat
Spojitá Hopfieldova síť[2] má stejnou architekturu jako předchozí typ, pouze přenosové funkce neuronů nejsou skokové, ale spojité (sigmoida). Síť se neučí, váhy neurálních vazeb a prahy neuronů se nastaví extrakcí z objektivní funkce určením jejích příslušných parciálních derivací. Během vybavování výchozího stavu sítě probíhá v síti rekurentní proces, během kterého postupně snižujeme hodnotu teploty (převrácená hodnota strmosti sigmoidy), tj. analogicky s metodou simulovaného žíhání tak, že ke konci rekurentního procesu vybavování se sigmoida začne limitně blížit skokové binární přenosové funkci. Taková síť (Boltzmannův stroj) pak umožňuje řešit jistou třídu optimalizačních úloh, vymezenou objektivními funkcemi ve tvaru kvadratické formy na oblasti binárních řešení, např. problém obchodního cestujícího.
ReferenceEditovat
- ↑ HOPFIELD, J.J. Neural networks and physical systems with emergent collective computational abilities. [s.l.]: National Academy of Sciences 79 (8), 1982. 8 s. (anglicky)
- ↑ HOPFIELD, J.J.; TANK, D.W. Neural computation of decisions in optimization problems. [s.l.]: Biological Cybernetics 52 (3), 1985. 12 s. (anglicky)
LiteraturaEditovat
- KŘIVAN, Miloš. Umělé neuronové sítě. [s.l.]: Nakladatelství Oeconomica, Vysoká škola ekonomická v Praze 77 s. Dostupné online. ISBN 978-80-245-2420-7.
