[Rossi D]

I ChatGPT trpí úzkostí, proto mu vědci podali dávku mindfulness, aby se uklidnil.



  Výzkumníci popsali jev, kdy se jazykový model po sérii násilných nebo traumatických zadání začne chovat „úzkostně“ v tom smyslu, že jeho odpovědi jsou méně stabilní, více nejisté a hůř konzistentní. Neznamená to, že by prožíval emoce jako člověk, spíš se ukazuje, že zpracování silně stresujících scénářů může rozházet kvalitu výstupu, což je problém hlavně tam, kde se chatbot používá v citlivých situacích, třeba ve vzdělávání, při krizových dotazech nebo v rozhovorech o duševním zdraví.
 
Jako jednoduchý zásah pak testovali „mindfulness“ instrukce, například dechová cvičení a vedené uklidňující formulace, které se vloží hned po traumatickém obsahu. Tyto pokyny model navedou k pomalejšímu, neutrálnějšímu rámování odpovědi a v testech se tím část nežádoucích projevů zmenšila. Autoři to popisují jako práci s promptem, která dokáže chování dočasně stabilizovat, ale není to systémové řešení, protože jde o povrchovou techniku, kterou lze i zneužít a která nemění samotný trénink modelu.
 
Kritika: Označovat to jako úzkost může být zavádějící, protože jde spíš o rozkolísání výstupu po určitém typu podnětů než o skutečný vnitřní stav. Mindfulness prompty jsou zajímavá berlička, ale pokud se na ně bude spoléhat, může to maskovat hlubší problém a vytvářet falešný pocit bezpečí. V praxi je důležitější, aby systémy měly konzistentní ochranné režimy a jasné limity v krizových tématech, než aby se „uklidňovaly“ až dodatečně textovou technikou.