Když byl mým prvním synem jen dva, už miloval auta, znal všechny značky a modely (dokonce i více než já, díky svým přátelům), je mohl rozpoznat malá část obrazu. Všichni řekli: génius. Přestože zaznamenali úplnou zbytečnost těchto znalostí. Syn mezitím s nimi spal, válcoval je a dával je přesně do řady nebo do čtverce.
Když mu bylo 4, naučil se počítat a v 5 se už mohl znásobit a přidat do 1000. Dokonce jsme hráli Math Workout (tato hra je na Androidu - po práci jsem rád počítal v metru), a v určitém okamžiku se stal mnou jen to udělej. A ve svém volném čase počítal až milion, který zmrazil lidi kolem sebe. Génius! - řekli, ale my jsme to podezírali úplně.
Mimochodem, na trhu pomohl matce docela dobře - vypočítal celkovou částku rychleji než prodejci na kalkulačce.
Zároveň nikdy nehrál na hřišti, nekomunikoval s vrstevníky, nevycházel velmi dobře s dětmi a učiteli ve školce. Obecně to bylo malé rezervované dítě.
Dalším krokem byla geografie - pokusili jsme se někde nasměrovat lásku k číslům a dali jsme synovi starý sovětský atlas. Vrhl se do toho měsíc a potom se začal ptát ve složitých otázkách ve stylu:
- Tati, ve které zemi si myslíš, že má velkou oblast: Pákistán nebo Mozambik?
"Pravděpodobně Mozambik," odpověděl jsem.
- Ale ne! Oblast Pákistánu je až o 2350 km2 více, - syn naštěstí odpověděl.
Propagační video:
Současně se vůbec nezajímal o obyvatele těchto zemí ani o jejich jazyky, ošacení či lidovou hudbu. Pouze holá čísla: plocha, počet obyvatel, objem nerostných rezerv atd.
Všichni znovu obdivovali. "Chytrá po jeho letech," řekli kolem, ale zase jsem se bál, protože Pochopil jsem, že se jedná o zcela zbytečné znalosti, které nejsou vázány na životní zkušenost, a které je obtížné dále rozvíjet. Nejlepší aplikací ze všeho, co jsem našel, byl návrh spočítat, kolik aut se vejde na parkoviště, pokud je určitá země srolována asfaltem (vyjma hornatého terénu), ale rychle jsem se zastavil, protože plácne genocidu.
Je zajímavé, že v této době bylo téma automobilů úplně pryč, syn si ani nepamatoval jména svých oblíbených aut ze své obrovské sbírky, kterou jsme začali distribuovat se ztrátou zájmu. A pak začal počítat pomaleji ve své mysli a brzy zapomněl na náměstí zemí. Zároveň začal více komunikovat se svými vrstevníky, stal se více kontaktem. Genius prošel, přátelé přestali obdivovat, syn se stal jen dobrým studentem se zálibou v matematice a přesných vědách.
Opakování je matkou učení
Zdálo by se, k čemu to všechno je. To je vidět u mnoha dětí. Jejich rodiče všem prohlašují, že jejich děti jsou geniální, babičky obdivují a chválí děti za jejich „znalosti“. A pak vyrostou v obyčejné, jednoduše chytré děti, ne geniální než syn přítele mé matky.
Při studiu neuronových sítí jsem narazil na podobný jev a zdá se mi, že z této analogie lze vyvodit určité závěry. Nejsem biolog nebo neurovědec. Vše dále - moje odhady bez tvrzení, že jsou zvláště vědecké. Byl bych rád, že dostanu komentáře od odborníků.
Když jsem se snažil pochopit, jak se můj syn naučil počítat rychleji než já, tak cool (on dokončil úroveň v Math Workout za 20,4 sekundy, zatímco můj záznam byl 21,9), uvědomil jsem si, že se nepočítá vůbec. Zapamatoval si, že když se objeví 55 + 17, musíte kliknout na 72. Na 45 + 38 musíte kliknout na 83 atd. Nejprve samozřejmě počítal, ale ke skoku v rychlosti došlo v okamžiku, kdy si dokázal vzpomenout na všechny kombinace. A docela rychle si začal pamatovat nejen konkrétní nápisy, ale kombinace symbolů. To je přesně to, co učí ve škole, studují multiplikační tabulku - pamatujte si tabulku korespondence MxN -> P.
Ukázalo se, že většinu informací vnímal přesně jako spojení mezi vstupními daty a výstupními daty a že velmi obecný algoritmus, na který jsme zvyklí, abychom získali odpověď, nebyl omezen pouze na velmi dobře zaostřený vysoce specializovaný algoritmus pro počítání dvouciferných čísel. Udělal některé vynikající úkoly, ale mnohem pomaleji. Ty. To, co si všichni mysleli, že je super, bylo ve skutečnosti simulováno dobře vyškolenou neuronovou sítí pro konkrétní úkol.
Extra znalosti
Proč mají některé děti schopnost zapamatovat si tento způsob, zatímco jiné ne?
Představte si oblast zájmu dítěte (zde přistupujeme k otázce kvalitativně, bez měření). Na levé straně je pole zájmů běžného dítěte a na pravé straně pole zájmů „nadaného“dítěte. Jak se očekávalo, hlavní zájem je soustředěn v oblastech, pro které jsou zvláštní schopnosti. Ale pro každodenní věci a komunikaci s vrstevníky už fokus nestačí. Považuje tuto znalost za zbytečnou.
Zájmy běžného dítěte ve věku 5 let.
Zájmy „brilantního“dítěte ve věku 5 let.
U těchto dětí mozek analyzuje a provádí školení pouze na vybraná témata. Během tréninku se musí nervová síť v mozku naučit úspěšně klasifikovat příchozí data. Mozek má však k dispozici mnoho neuronů. Mnohem více, než je nezbytné pro běžnou práci s takovými jednoduchými úkoly. Děti obvykle řeší mnoho různých životních problémů, ale zde jsou všechny stejné zdroje hozeny do užšího rozsahu úkolů. A školení v tomto režimu snadno vede k tomu, co odborníci ML nazývají přeplněním. Síť, používající množství koeficientů (neuronů), se vyškolila takovým způsobem, že vždy dává přesně potřebné odpovědi (ale může poskytnout úplné nesmysly na mezilehlých vstupních datech, ale nikdo to nevidí). Cvičení tedy nevedlo k tomu, že mozek vybral hlavní charakteristiky a zapamatoval si je, ale k tomu, že upravil mnoho koeficientů,poskytnout přesný výsledek již známých dat (jako na obrázku vpravo). Kromě toho se mozek tak naučil i v jiných tématech, protože byl špatně vyškolen (jako na obrázku vlevo).
Co je underfitting a overfitting?
Pro ty, kteří nejsou předmětem, vám to stručně řeknu. Při tréninku neuronové sítě je úkolem vybrat určitý počet parametrů (hmotnosti spojení mezi neurony) tak, aby síť co nejpřesněji a nejpřesněji odpovídala na tréninková data (tréninkový vzorek).
Pokud je takových parametrů příliš málo, síť nebude moci vzít v úvahu podrobnosti vzorku, což povede k velmi hrubé a průměrné odpovědi, která nefunguje dobře ani na vzorku školení. Podobné jako na obrázku vlevo nahoře. Je to oblek.
Při dostatečném počtu parametrů poskytne síť dobrý výsledek, „polykání“výrazných odchylek v tréninkových datech. Taková síť bude dobře reagovat nejen na vzorek školení, ale také na další mezilehlé hodnoty. Jako na středním obrázku výše.
Pokud je však síti zadáno příliš mnoho konfigurovatelných parametrů, bude se sama trénovat, aby reprodukovávala i velké odchylky a fluktuace (včetně těch, které jsou způsobeny chybami), což může vést k úplným nesmyslům, když se pokoušíte získat odpověď na vstupní data nikoli ze vzorku školení. Něco jako obrázek vpravo nahoře. Přeplňuje se to.
Jednoduchý ilustrativní příklad.
Řekněme, že máte více bodů (modré kruhy). Abyste mohli předpovídat polohu dalších bodů, musíte nakreslit hladkou křivku. Pokud například vezmeme polynom, pak v malých stupních (až 3 nebo 4) bude naše hladká křivka zcela přesná (modrá křivka). V tomto případě nemusí modrá křivka projít přes původní body (modré body).
Pokud se však zvýší počet koeficientů (a tím i stupeň polynomu), zvýší se přesnost průchodu modrými body (nebo dokonce dojde k 100% zásahu), ale chování mezi těmito body bude nepředvídatelné (viz jak kolísá červená křivka).
Zdá se mi, že právě tendence dítěte k určitému tématu (posedlost) a úplná neznalost ostatních témat vede k tomu, že při výuce je těmto tématům dáno příliš mnoho „koeficientů“.
Vzhledem k tomu, že síť je nakonfigurována pro konkrétní vstupní data a nevybrala „funkce“, ale hloupě „zapamatovala“vstupní data, nelze ji použít s mírně odlišnými vstupními daty. Použitelnost takové sítě je velmi úzká. S věkem se obzory rozšiřují, fokus se rozmazává a již není možné přiřadit stejný počet neuronů ke stejnému úkolu - začnou se používat v nových úkolech, které jsou pro dítě potřebnější. "Nastavení" tohoto přeplněného kolapsu sítě, dítě se stává "normální", génius zmizí.
Pokud má dítě dovednost, která je sama o sobě užitečná a může být rozvíjena (například hudba nebo sport), pak může být jeho „génius“udržován po dlouhou dobu a tyto dovednosti dokonce dovedl na profesionální úroveň. Ale ve většině případů to nefunguje a po 8 až 10 letech nebude existovat stopa starých dovedností.
závěry
- máš geniální dítě? to přejde;)
- výhled a „genialita“jsou příbuzné věci a jsou přesně propojeny prostřednictvím učícího se mechanismu
- tento zjevný „génius“není s největší pravděpodobností génius vůbec, ale účinek příliš silného tréninku mozku na konkrétní úkol, aniž by tomu rozuměl - na tento úkol byly věnovány všechny zdroje
- když opravuje úzké zájmy dítěte, jeho génius zmizí
- pokud je vaše dítě „génius“a trochu rezervovanější než vrstevníci, musíte tyto dovednosti dále rozvíjet opatrně, aktivně rozvíjet své obzory paralelně a nezaměřovat se na tyto „cool“, ale obvykle zbytečné dovednosti
Autor: Sergey Poltorak