[Rossi D]

Hledání chyb GPT-4 pomocí GPT-4



CriticGPT je specializovaný model vyvinutý na základě GPT-4, který je určen k identifikaci a kritice chyb v odpovědích ChatGPT. Model byl vycvičen pomocí metody Reinforcement Learning from Human Feedback (RLHF), při níž trenéři AI hodnotí různé odpovědi. Tento trénink zahrnoval vystavení CriticGPT mnoha chybným odpovědím záměrně vloženým školiteli, kteří pak nepřesnosti dokumentovali, jako by šlo o skutečné chyby. Prostřednictvím těchto cvičení se CriticGPT nejen učí odhalovat chyby, ale také pomáhá školitelům tím, že zvyšuje jejich schopnost identifikovat jemné chyby, které by jinak mohly být přehlédnuty v nuancovaných výstupech pokročilých systémů AI, jako je ChatGPT. (vp)