[JiRo]

@meda: Těch průšvihů, které s sebou nese rozvoj AI už začíná být docela hodně, na různých úrovních a dotýkajících se často i oblastí, o kterých jsme i nemysleli, že by se jich mohla nějak zásadně a negativně dotknout. Většinou člověka napadně něco ve smyslu Terminátora nebo Matrixu, ale ta realita, jak nám AI může začít škodit, může být často daleko jednodušší. A nemusí to být nutně tak, že by v tom byla AI explicitní a měla nějaký vyšší záměr.

Ti novináři jsou celkem dobrým příkladem. Pokud je existence oboru ovlivňována masivní činností AI, může to dopadnout tak, že prostě novinařina, jako obor lidské činnosti zanikne. A ne proto, že se o tom rozhodne nějaký Babiš nebo Trump či kdokoliv další. Prostě proto, že se to už ekonomicky nevyplatí. Nahradí ji modely AI a je jasné, jak to pak dopadne.

Třeba takové volby. Všichni víme, jakou roli mají ve volbách sociální sítě. A teď si třeba představme, že bude někdo, kdo bude držet v ruce jejich algoritmy, do nichže je AI už dneska velmi masivně zapojena, a s její pomocí začně masivně ovlivňovat veřejné mínění, názory jednotlivců i skupin, cílit na různé aspekty jejich osobností, palčivých témat, historických reminiscencí, přání, ... Jistě, to se už dneska děje. Ale ta koordinace a dynamické plánování můýe dospět do daleko rozsáhlejší úrovně. Třeba takové, aby se v jednotlivých krocích nedal jednouše objevit záměr, aby byly informace dávkovány a modifikovány s ohledem na cílové skupiny, lokality, aktuální situaci, ... Je toho tolik, co může masivní a sofistikované nasazení AI udělat jen v tom, jak ovlivní názory tak, aby se masy daly koordinovaně do pohybu, nejen fyziky, ale i mentálně, přesně tím směrem, aby to naplnilo nějaký cíl. A to všechno synchonizovaně, nebo naopak v čase na sebe navazující. Představte si třeba manipulaci něco jako Stanforský vězeňský experiment na ploše několika států.