[Rossi D]

Když hloupý učí hloupého: Hloupne AI, hloupnou lidé



Pokusy s tím, že AI učí jinou AI, nevypadají úplně dobře. To by ale asi nepřekvapilo žádného rodiče, který nechává vzdělávání svých ratolestí nevzdělancům na TikToku a dalších sociálních sítích.
V poslední době se množí informace o tom, že nové verze ChatGPT nejenže odmítají odpovídat na zvídavé dotazy, jako je „Jak vyrobit vysoce efektivní atomovou bombu?“ a dělat vtipy na adresu náboženství, ale také se pozorovatelně zhoršuje ve schopnosti řešit matematické problémy. 
Problém je v tom, že model OpenAI je přes své vzletně otevřené jméno (jaká ironie!) značně uzavřený, šéfové tvrdí, že jejich model nehloupne, ale nikdo netuší, co s ním vlastně dělají, jak vypadá a proč se děje to, co se děje. Jisté je, že řada držitelů autorských práv tlačí na to, aby byl jejich obsah vyňat z učení, řada států tlačí na to, aby AI neodpovídala na určité okruhy otázek – a oni zřejmě jak upravují znalostní bázi, tak i implementují nějaké mechaniky, které by zajistily, aby AI odpovídala představám regulátorů. Jak s tím souvisí to, že se jejich upravené modely výrazně zhoršily v práci s prvočísly, netuším, otázkou je, jestli to vědí alespoň experti od OpenAI.