[Rossi D]

Výzkumník OpenAI odchází kvůli nejisté budoucnosti reklam ChatGPT



  Zoë Hitzigová odešla z OpenAI poté, co firma začala testovat reklamy v ChatGPT. Vysvětluje to jako zásadní změnu směru, protože ChatGPT se pro mnoho lidí stal místem, kam píší mimořádně osobní věci, a právě to podle ní vytváří citlivý vztah důvěry, který reklamní model snadno naruší.
 
Její hlavní obava není, že reklama je sama o sobě nemorální, ale že jakmile se postaví reklamní motor, vznikne trvalý tlak optimalizovat zapojení uživatelů a zpeněžovat jejich pozornost. Přirovnává to k postupnému skluzu, který v minulosti zažila velká sociální média, kdy původní sliby o ochraně uživatelů časem oslabovaly pod tlakem metrik, růstu a výnosů z reklamy.
 
Hitzigová upozorňuje, že OpenAI má v rukou mimořádně cenný záznam lidské upřímnosti, protože lidé se chatbotům svěřují s obavami o zdraví, vztahy, víru i finanční situaci. V reklamním režimu se z toho stává pokušení tyto signály využít k cílení nebo k jemnému ovlivňování nákupního chování, a to i tehdy, když firma dnes tvrdí, že nastaví přísná pravidla. Podle ní je problém v dlouhodobých pobídkách, které mohou časem převážit nad původními principy.
 
Součástí jejího poselství je také názor, že existují jiné způsoby financování a řízení podobných služeb, které nevedou k tak silnému střetu zájmů mezi tím, co je dobré pro uživatele a co maximalizuje příjem z reklamy. Přesný model může být kombinace placených služeb, jasně oddělených obchodních vrstev a pravidel, která omezí manipulativní prvky, aby se zachovala důvěra v nástroj, který lidé používají jako poradce a průvodce.
 
Kritika: Text staví reklamu jako hlavní zlom, ale část problémů důvěry a pobídek existuje již u samotného honu za růstem a u tlaku na popularitu produktu, i bez reklam. Přirovnání k Facebooku je srozumitelné, ale může zjednodušovat rozdíly mezi sociální sítí a konverzačním nástrojem, kde se typ rizik i mechanismy působení liší. Pokud se má najít lepší alternativa, bude klíčové, aby byla nejen eticky čistší, ale také prakticky udržitelná a dostupná, jinak ji realita trhu rychle převálcuje.
 

 

---

Claude Cowork od společnosti Anthropic konečně přichází na Windows – a chce automatizovat váš pracovní den

 Anthropic vydal desktopový nástroj Claude Cowork pro Windows a tím ho zpřístupnil výrazně širšímu okruhu uživatelů než doposud na macOS. Jde o asistenta orientovaného na automatizaci práce na počítači, tedy nejen odpovídání v chatu, ale i práci se soubory a provádění vícekrokových úkolů, které obvykle vyžadují ruční klikání a přepínání mezi aplikacemi.
 
Windows verze má mít funkční shodu s macOS, včetně přístupu k souborům, spouštění vícekrokových postupů, podpory doplňků a konektorů přes Model Context Protocol pro napojení na další služby. Nově se zmiňuje i možnost nastavit trvalé instrukce, globálně i pro vybrané složky, aby se chování nástroje drželo stejných pravidel napříč opakovanou prací na projektech.
 
Nasazení je prezentované jako placená funkce v režimu výzkumného náhledu, určená pro předplatné tarify, nikoli pro bezplatné uživatele. Článek současně upozorňuje na bezpečnostní stránku věci, protože nástroj může pracovat se soubory a potenciálně dělat i destruktivní operace, takže dává smysl omezovat mu přístup jen na vyhrazené složky a nesvěřovat mu citlivá data. Z pohledu trhu je to také přímá konkurence pro kancelářské asistenty navázané na Windows ekosystém, protože Claude Cowork se snaží být praktickým automatizačním spolupracovníkem, ne jen dalším chatem.
 
Kritika: Přínos bude pro mnoho lidí vykoupen vyšší mírou rizika, protože jakmile asistent získá přístup k souborům, roste cena každé chyby a každého špatně pochopeného pokynu. Model konektorů a doplňků může rychle vytvořit nový uzavřený ekosystém, kde bude rozhodovat, kdo má přístup k integracím a za jakých podmínek. Placený režim a výzkumný náhled naznačují, že je to zatím spíš nástroj pro nadšence a firmy, zatímco běžný uživatel může narazit na limity, které mu automatizaci spíš zkomplikují než zjednoduší.
 

 

---

AI odhadne vaši osobnost z fotky (a dokonce předpoví, jaký budete brát plat)

 Článek popisuje trend, kdy modely umělé inteligence zkoušejí odhadovat osobnostní rysy člověka jen z jeho fotografie obličeje a z těchto odhadů pak nepřímo vyvozovat další věci, například pravděpodobný výdělek nebo profesní úspěch. Vychází to z předpokladu, že ve tváři a výrazu mohou být zachytitelné signály související s chováním, sebevědomím, sociálním stylem nebo mírou otevřenosti, a že se tyto signály dají statisticky spojit s výsledky v reálném životě.
 
Text zároveň naznačuje, že i když podobné systémy mohou v laboratorních podmínkách vykazovat určitou míru korelace, praktické použití je velmi problematické. Obličejové rysy a dojem z fotografie jsou silně ovlivněné osvětlením, úhlem, úpravami, výrazem, kulturou, věkem i tím, jak se člověk zrovna cítí. V reálném nasazení by takové hodnocení snadno sklouzlo k předsudkům a k tomu, že systém bude spíš reprodukovat stereotypy z tréninkových dat, než že by spolehlivě měřil osobnost.
 
Důležitá část se věnuje rizikům pro nábor, pojišťovnictví nebo posuzování důvěryhodnosti, protože podobný nástroj by mohl sloužit jako zdánlivě objektivní filtr. Ve skutečnosti by ale šlo o černou skříňku, která může chybovat systematicky vůči určitým skupinám lidí a její závěry by se těžko vysvětlovaly i napadaly. To otevírá otázky etiky, diskriminace, ochrany soukromí i toho, zda je vůbec přijatelné dělat z jediné fotky závěry o charakteru a budoucnosti člověka.
 
Kritika: Spojovat vzhled obličeje s osobností a výdělkem je lákavé, ale připomíná to staré zjednodušující přístupy, které se v minulosti často zvrhly v nespravedlivé posuzování lidí. I kdyby existovala slabá statistická souvislost, v jednotlivém případě je to příliš nespolehlivé na to, aby se na tom dala stavět rozhodnutí s dopadem na život člověka. Největší riziko je, že se z toho stane pohodlná zkratka, která nahradí poctivé hodnocení schopností a práce jen proto, že to vypadá moderně a údajně vědecky.