21.8.2023, 11:31
Když hloupý učí hloupého: Hloupne AI, hloupnou lidé
Pokusy s tím, že AI učí jinou AI, nevypadají úplně dobře. To by ale asi nepřekvapilo žádného rodiče, který nechává vzdělávání svých ratolestí nevzdělancům na TikToku a dalších sociálních sítích.
V poslední době se množí informace o tom, že nové verze ChatGPT nejenže odmítají odpovídat na zvídavé dotazy, jako je „Jak vyrobit vysoce efektivní atomovou bombu?“ a dělat vtipy na adresu náboženství, ale také se pozorovatelně zhoršuje ve schopnosti řešit matematické problémy.
Problém je v tom, že model OpenAI je přes své vzletně otevřené jméno (jaká ironie!) značně uzavřený, šéfové tvrdí, že jejich model nehloupne, ale nikdo netuší, co s ním vlastně dělají, jak vypadá a proč se děje to, co se děje. Jisté je, že řada držitelů autorských práv tlačí na to, aby byl jejich obsah vyňat z učení, řada států tlačí na to, aby AI neodpovídala na určité okruhy otázek – a oni zřejmě jak upravují znalostní bázi, tak i implementují nějaké mechaniky, které by zajistily, aby AI odpovídala představám regulátorů. Jak s tím souvisí to, že se jejich upravené modely výrazně zhoršily v práci s prvočísly, netuším, otázkou je, jestli to vědí alespoň experti od OpenAI.
Pokusy s tím, že AI učí jinou AI, nevypadají úplně dobře. To by ale asi nepřekvapilo žádného rodiče, který nechává vzdělávání svých ratolestí nevzdělancům na TikToku a dalších sociálních sítích.
V poslední době se množí informace o tom, že nové verze ChatGPT nejenže odmítají odpovídat na zvídavé dotazy, jako je „Jak vyrobit vysoce efektivní atomovou bombu?“ a dělat vtipy na adresu náboženství, ale také se pozorovatelně zhoršuje ve schopnosti řešit matematické problémy.
Problém je v tom, že model OpenAI je přes své vzletně otevřené jméno (jaká ironie!) značně uzavřený, šéfové tvrdí, že jejich model nehloupne, ale nikdo netuší, co s ním vlastně dělají, jak vypadá a proč se děje to, co se děje. Jisté je, že řada držitelů autorských práv tlačí na to, aby byl jejich obsah vyňat z učení, řada států tlačí na to, aby AI neodpovídala na určité okruhy otázek – a oni zřejmě jak upravují znalostní bázi, tak i implementují nějaké mechaniky, které by zajistily, aby AI odpovídala představám regulátorů. Jak s tím souvisí to, že se jejich upravené modely výrazně zhoršily v práci s prvočísly, netuším, otázkou je, jestli to vědí alespoň experti od OpenAI.
S905X 2/3 → CE 20 \ RPi4 → LE 19 \ HTPC → LE 18 \ NAS Synology DS212J/DS220+ \ Vero 4K+ → OSMC 19