[meda]

Našel jsem ještě text od Stanislav Fort (výzkumník ředitel, viz zpět příspěvek):
Co potřebujete vědět o Ai...
https://www.wired.cz/clanky/co-potrebuje...sledni-rok
Že já a mnoho dalších lidí neví, jak to Ai dělá, že jim dovede odpovědět a pomoci třeba s programováním, chápu.

Že ale vedoucí pracovník napíše, že neví/me, jak to Ai dělá, že pomahá s programováním, je výstraha a otřesné zjištění o lidech, kteří tomu šéfují.

A proč Ai uspěje často lépe než člověk? Predstavte si studenta u zkoušky, který může v jednom zlomku sekundy nahlednout do všech tahaků, diplomek a encyklopedií v knihovnách všech univerzit.

Pokud kombinační logika Ai vybere jako odpověď nesmysl, poučí se pro příště zpětnou vazbou od živoucího tazatele. Vzpomeňme, kolikrat jste museli odpověď Ai rozporovat.

[Rossi D]

GPT-5 má mít inteligenci na úrovni Ph.D., chvíli si na něj ale počkáme



Další verze LLM GPT-5 na sebe nechá ještě chvíli čekat. Prozradila tak Mira Murati, CTO společnosti OpenAI. Chatbot by měl dosahovat ještě vyšší inteligence, tentokrát až na úrovni PH.D. v případě některých typů úloh.
OpenAI připravuje další verzi svého chatbota ChatGPT a spolu s tím pochopitelně i LLM, na němž bude postaven. Mira Murati, CTO společnosti OpenAI, v nedávném interview pro Dartmouth Engineering zhodnotila dosavadní vývoj technologií a pohovořila i o budoucnosti. Podle ní byl GPT-3 svou inteligencí jako takové na úrovni batolete, ale GPT-4 se dostal na úroveň chytrého středoškoláka. Během několika dalších let bychom se ale měli dočkat nové verze GPT-5, která by se ve specifických úlohách (tzn. ne obecně všech) měla dostat na úroveň Ph.D. To už tedy mluvíme o vyšších stupních univerzitního vzdělání. Tyto technologie se dle jejích slov vyvíjí opravdu překotně.

---

Umělá inteligence již způsobuje chaos v globálních energetických systémech



Rychlý rozvoj umělé inteligence (AI) dramaticky zvyšuje poptávku po datových centrech, což následně zatěžuje energetické sítě po celém světě. V místech, jako je Loudoun County ve Virginii, spotřebovávají datová centra obrovské množství energie - někdy až jako 30 000 domácností. Tento nárůst poptávky po elektřině převyšuje nabídku, což vede k dlouhému čekání na přístup k síti, možným výpadkům a rostoucím nákladům na energii. Společnost Goldman Sachs odhaduje, že datová centra by mohla do roku 2030 představovat 8 % celkové spotřeby energie v USA, přičemž v roce 2022 to byla 3 %. S rostoucí velikostí a počtem datových center začínají tato spotřebovávat více elektřiny než celé státy, což komplikuje celosvětové úsilí o přechod na novou energetiku.
Technologičtí giganti jako Amazon, Microsoft a Google usilují o napájení svých datových center obnovitelnou energií, ale energetické potřeby umělé inteligence, zejména pro trénink a inferenci, jsou obrovské. Například čipy H100 společnosti Nvidia, které jsou pro AI nezbytné, odebírají značné množství energie a jejich potřeba se jen zvyšuje. Očekávaný růst AI a datových center vede k problémům s infrastrukturou, a společnosti jako Dominion Energy ve Virginii proto budují nové rozvodny a elektrická vedení, aby poptávku zvládly. I přes tyto snahy však energetické požadavky na AI nutí společnosti a státy přehodnotit své energetické strategie, včetně příklonu k jaderné energii. (vp)

[meda]

Microsoft Designer com - Ve stylu fotografie Jan Saudek, africká žena vstupuje do vody.



Microsoft Designer com - Ve stylu comics Kája Saudek, africká žena vstupuje do vody.



Microsoft Designer com - Ve stylu Josef Mánes, žena vstupuje do vody.

[Rossi D]

Bravo, to já u Midjourney i Adobe Firefly potažmo ChatGPT končím na "Saudek"   Zkoušel jsem je nějak oblafnout, ale kdepak ...

Stran Africké ženy vygenerují maximálně toto a samozřejmě to ze Saudkem nemá pranic společného:

Midjourney:





Firefly:

[meda]

@Rossi D Ale to je skvělý výsledek! Já také musel zadání měnit a oklešťovat od závadnych slov. Například "mladá ruská žena v plavkách"

[Rossi D]

OpenAI kupuje platformu pro vzdálenou spolupráci



Společnost OpenAI je na akviziční vlně a nedávno získala startup Multi, který se zaměřuje na spolupráci v oblasti podnikového videa. Společnost Multi, dříve známou jako Remotion, vybudovali Alexander Embiricos, bývalý produktový manažer společnosti Dropbox, a Charley Ho, bývalý softwarový inženýr společnosti Google. Platforma umožňovala spolupráci vzdálených týmů prostřednictvím videochatů s funkcemi, jako je sdílení obrazovky více osobami a přizpůsobitelné zkratky. Multi bude po 24. červenci ukončen a většina jeho týmu se připojí k OpenAI v rámci akviziční dohody. (vp)

[Rossi D]

Hledání chyb GPT-4 pomocí GPT-4



CriticGPT je specializovaný model vyvinutý na základě GPT-4, který je určen k identifikaci a kritice chyb v odpovědích ChatGPT. Model byl vycvičen pomocí metody Reinforcement Learning from Human Feedback (RLHF), při níž trenéři AI hodnotí různé odpovědi. Tento trénink zahrnoval vystavení CriticGPT mnoha chybným odpovědím záměrně vloženým školiteli, kteří pak nepřesnosti dokumentovali, jako by šlo o skutečné chyby. Prostřednictvím těchto cvičení se CriticGPT nejen učí odhalovat chyby, ale také pomáhá školitelům tím, že zvyšuje jejich schopnost identifikovat jemné chyby, které by jinak mohly být přehlédnuty v nuancovaných výstupech pokročilých systémů AI, jako je ChatGPT. (vp)
 

[Rossi D]

Podnik na výrobu procesorů umělé inteligence podporovaný Samem Altmanem najímá bývalého inženýra Applu, aby vedl vývoj hardwaru



Společnost Rain AI, která vyvíjí hardwarové procesory s umělou inteligencí a kterou podporuje Sam Altman z OpenAI a investiční banky, najala Jeana-Didiera Allegrucciho, bývalého manažera čipů Apple, aby vedl její hardwarové inženýrství. Tento vysoce postavený zaměstnanec naznačuje, že Rain AI má se svými procesory vážné plány.
Jean-Didier Allegrucci, který svůj profil na LinkedIn zatím neaktualizoval, pracoval od června 2007 více než 17 let na systémových čipech (SoC) společnosti Apple a dohlížel na vývoj více než 30 procesorů používaných v iPhonech, Macích, iPadech a hodinkách Apple Watch. Podle příspěvku na blogu Rain AI se Allegrucci podílel na vybudování prvotřídního vývojového týmu SoC společnosti Apple a dohlížel na oblasti, jako je metodika SoC, architektura, návrh, integrace a verifikace, takže jeho zkušenosti budou pro Rain AI nesmírně cenné. Před společností Apple pracoval J-D Allegrucci ve společnostech Vivante a ATI Technologies, které se zabývají vývojem grafických procesorů. (vp)
 

[Rossi D]

SAP, Oracle a IBM, ach jo! "Cloud a umělá inteligence" vedou starší softwarové firmy k rekordním oceněním



V souvislosti se staršími softwarovými firmami a jejich prudce rostoucím oceněním se objevuje určitý trend: Tento týden se akcie společnosti SAP poprvé dostaly nad 200 dolarů.
Společnost SAP byla založena v roce 1972 a její hodnota je v současnosti rekordně vysoká - 234 miliard dolarů. Před dvěma lety byl tento německý poskytovatel podnikového softwaru oceněn na 92 miliard dolarů a před 12 měsíci na 156 miliard dolarů, což znamená, že jen za poslední rok vzrostla jeho tržní hodnota o více než 50 %.
Tržní ocenění by nemělo být zaměňováno se zdravím společnosti, ale je užitečným ukazatelem toho, jak se společnosti daří - ať už prostřednictvím skutečných finančních výsledků, nebo smysluplných kroků, které podniká, aby se posunula s dobou. (vp)
 

[Rossi D]

Skončí muzikanti na dlažbě? YouTube chce generovat hudbu s pomocí AI


 

• YouTube plánuje AI generátor hudby
  
• Snaží se vyjednat licence od vydavatelství
  
• První vlaštovka už vznikla
  

Díky AI můžete generovat fotky, videa nebo za vás napíše diplomovou práci. YouTube ale hodlá zajít ještě dál a chce nechat umělou inteligenci generovat hudební skladby. Podkladů má na své platformě ostatně dostatek. Jenže mu chybí mu to podstatné – licence od nahrávacích společností. A ty se zatím podobné dohodě brání zuby nehty.
 

 

---

Podvody na bázi umělé inteligence a co proti nim můžete dělat

V posledních letech technologie umělé inteligence výrazně pokročila a umožňuje snadněji a levněji vytvářet realistická syntetická média, což bohužel vedlo k nárůstu podvodů s umělou inteligencí. Například klonování hlasu dokáže z několika vteřin zvukového záznamu vytvořit přesvědčivé falešné verze blízkých osob, což vede k znepokojivým podvodům, kdy jsou oběti podvedeny a posílají peníze podvodníkům vydávajícím se za členy rodiny v nesnázích. Chcete-li se chránit, je nezbytné přistupovat k nevyžádaným zprávám nebo hovorům z neznámých zdrojů s podezřením a ověřit totožnost osoby samostatnou důvěryhodnou metodou.
 
Další oblastí, kde umělá inteligence vylepšila podvody, je personalizovaný phishing a spam. Vzhledem k častým únikům dat mohou podvodníci pomocí umělé inteligence generující text vytvářet vysoce přizpůsobené a věrohodné e-maily, které jednotlivce přimějí kliknout na škodlivé odkazy nebo otevřít nebezpečné přílohy. Nejlepší obranou proti tomu je ostražitost - vyhněte se klikání na odkazy nebo otevírání příloh od neznámých odesílatelů a v případě potřeby vždy ověřte pravost podezřelých e-mailů u druhé, znalé osoby.
 
Obzvláště děsivou hrozbu představují deepfakes generované umělou inteligencí, které umožňují vytvářet falešné intimní snímky za účelem vydírání, aniž by bylo nutné použít skutečný kompromitující materiál. Tyto snímky mohou být dostatečně realistické na to, aby vyvolaly znepokojení, ale často postrádají rozlišovací znaky a mohou mít i další nesrovnalosti. Pokud se oběti stanou terčem takového podvodu, měly by to nahlásit úřadům, protože nejde jen o podvod, ale také o obtěžování. Právní opatření a rostoucí povědomí mohou pomoci v boji proti tomuto znepokojivému využívání technologie umělé inteligence. (vp)

 

[Rossi D]

Dohody o umělé inteligenci mezi společnostmi Microsoft a OpenAI, Google a Samsung pod drobnohledem EU



Partnerství Microsoftu s OpenAI by mohlo čelit antimonopolnímu vyšetřování EU, protože regulační orgány upozornily na jejich doložky o exkluzivitě, zatímco dohoda společnosti Google se společností Samsung o umělé inteligenci rovněž vyvolala kontrolu
 
Šéfka antimonopolního úřadu EU Margrethe Vestagerová v pátek uvedla, že antimonopolní orgány EU si vyžádají další názory třetích stran.
 
Tyto kroky podtrhují znepokojení regulačních orgánů po celém světě nad tím, jak velké technologické společnosti využívají své dominantní postavení v nových technologiích, což se odráží v tržní síle společností v jiných odvětvích.
 
Vestagerová v březnu zaslala dotazníky společnostem Microsoft, Google, Meta Facebook a ByteDance TikTok a dalším velkým technologickým společnostem ohledně jejich partnerství v oblasti umělé inteligence.
 
"Odpovědi jsme přezkoumali a nyní zasíláme další žádost o informace o dohodě mezi společnostmi Microsoft a OpenAI. Abychom pochopili, zda některé doložky o exkluzivitě nemohou mít negativní dopad na konkurenci," uvedla na konferenci.
Agentura Reuters jako první informovala, že regulační orgány EU připravují případ, který by mohl vést k vyšetřování partnerství mezi oběma společnostmi.
 
"Jsme připraveni odpovědět na jakékoli další otázky Evropské komise," uvedl mluvčí společnosti Microsoft.
Podle Vestagerové se na partnerství Microsoftu s OpenAI nebudou vztahovat pravidla EU pro fúze, protože nad ním neexistuje kontrola.
 
Zatímco mateřská společnost OpenAI je nezisková, Microsoft investoval 13 miliard dolarů (zhruba 1 08 425 rupií) do dceřiné společnosti, která je ziskovou společností, a získal tak 49% podíl.
 
Vestagerová také uvedla obavy z toho, že velké technologické společnosti blokují menším vývojářům umělé inteligence přístup k uživatelům a podnikům.
 
"Zasíláme také žádosti o informace, abychom lépe porozuměli účinkům dohody společnosti Google se společností Samsung o předinstalaci jejího malého modelu Gemini Nano do některých zařízení Samsung," uvedla.
 
Google v lednu uzavřel s jihokorejskou společností několikaletou dohodu o zabudování své generativní technologie umělé inteligence do chytrých telefonů Samsung řady Galaxy S24.
 
Vestagerová rovněž uvedla, že se zabývá "akvizicemi", kdy jedna společnost získá jinou hlavně kvůli jejím talentům, což je příklad březnové akvizice startupu Inflection společností Microsoft za 650 milionů dolarů (zhruba 5 422 milionů korun), která jí umožnila využívat modely společnosti Inflection a najmout většinu jejích zaměstnanců.
 
"Zajistíme, aby tyto praktiky neprošly našimi pravidly pro kontrolu fúzí, pokud v podstatě vedou ke koncentraci," řekla. (vp)
 

[meda]

Civilizace Egypta a Říma zanikly (v podstatě) na bezbřehou mašinerii úřadů a vyčerpáním prostředků na udržení.

A to ještě neměly tuhle Umělou Inteligenci, která funguje rychleji než úřady EU a energeticky hladověji.
A co produkuje většinou? Falza.

[Rossi D]

Žádná umělá inteligence od Applu, žádné upravené plodiny. Opravdu evropská regulace zlepšuje životy?



Šéf společnosti Apple Tim Cook nedávno oznámil, že výrobce iPhonů a iPadů letos nenasadí v Evropské unii svůj balíček aplikací a služeb využívajících umělou inteligenci. Ty mají uživatelům pomoct například s vytvářením textů nebo obrázků, usnadní jim také hledání na internetu.
Důvodem, proč se k takovému kroku jedna z nejhodnotnějších firem na světě odhodlala, přičemž v Americe a jinde AI nasadí, jsou regulace. Společnost se obává, že by se mohla dostat do konfliktu s evropskou směrnicí Digital Services Act, která nařizuje technologickým společnostem, jak mají v prostoru EU fungovat.
O Evropě se často hovoří jako o regulatorní velmoci. A to bez negativních znamének, protože umět vymyslet, sepsat a do praxe uvést funkční právní mechanismy, které dokážou v dobrém ovlivňovat život občanů, je svého druhu umění. Ostatně ne náhodou následně další země včetně USA od Evropy opisují, jako to bylo například s GDPR.
 

[Rossi D]

OpenAI blokuje přístup v Číně



 Na nedávné konferenci World AI Conference v Šanghaji představila společnost SenseTime svůj nový model umělé inteligence SenseNova 5.5, který se může pochlubit schopnostmi srovnatelnými s GPT-4o společnosti OpenAI. Vzhledem k tomu, že OpenAI od 9. července blokuje přístup ke svým nástrojům v Číně, využívají čínské společnosti zabývající se umělou inteligencí, jako je SenseTime, příležitost přilákat nové uživatele. SenseTime nabízí 50 milionů tokenů zdarma a bezplatné migrační služby, které vývojářům pomohou přejít z OpenAI na jejich platformu. Další čínské společnosti, včetně Baidu a Tencent Cloud, rovněž nabízejí tokeny zdarma a migrační služby, aby využily tohoto přechodu.
 
Rozhodnutí USA zablokovat služby OpenAI v Číně přichází v době rostoucího napětí a omezení vývozu pokročilých polovodičů, které jsou pro vývoj AI klíčové. Tento krok vyvolal v čínské komunitě AI obavy o spravedlivý přístup k technologiím, ale také otevřel dveře domácím společnostem k posílení jejich pozice. Čínské společnosti zabývající se umělou inteligencí nyní závodí o získání trhu, nabízejí pobídky bývalým uživatelům OpenAI a snaží se snížit výkonnostní rozdíly oproti svým americkým protějškům. Přestože čelí cenové válce, která může mít dopad na inovace, mohla by tato situace urychlit růst a testování čínských modelů AI.
 
Čínští komentátoři považují odchod společnosti OpenAI za příležitost, aby se průmysl AI v zemi stal samostatnějším. Státní média a akademici tvrdí, že by to mohlo podpořit nezávislost a inovace v čínském technologickém sektoru. Omezení ze strany USA však již mají dopad na čínské společnosti a firmy jako Kuaishou pociťují omezení v důsledku nedostatku čipů. Vzhledem k tomu, že čínské společnosti tyto problémy překonávají, mohou se uchýlit ke kreativním řešením, aby sankce obešly a pokračovaly v pokroku v oblasti umělé inteligence.
 

[Rossi D]

Microsoft i Apple upustili od plánů představenstva OpenAI, protože kontrola roste



Společnosti Microsoft Corp. a Apple Inc. se rozhodly vzdát se rolí v představenstvu společnosti OpenAI v souvislosti s rostoucí regulační kontrolou vlivu velkých technologických společností na umělou inteligenci. Společnost Microsoft, která do OpenAI investovala 13 miliard dolarů, odstoupí z role pozorovatele, k čemuž ji přiměly regulační tlaky ze strany USA a Evropy. Tyto regulační orgány vyjádřily obavy z dominantního postavení společnosti Microsoft v oblasti umělé inteligence, zejména díky integraci služeb OpenAI do svých platforem. Navzdory odstoupení od smlouvy tato změna pravděpodobně nezmírní obavy americké Federální obchodní komise a dalších regulačních orgánů ohledně úzkých vazeb společnosti Microsoft s OpenAI. (vp)

---

Mohou se umělé inteligence stát vědomými? V tuto chvíli to nevíme.



 Díky pokroku v oblasti umělé inteligence je stále obtížnější rozlišovat mezi jedinečným lidským chováním a chováním, které mohou stroje napodobit. Pokud se v plné síle objeví umělá inteligence (AGI) - umělá inteligence, která překoná lidskou inteligenci - hranice mezi lidskými a počítačovými schopnostmi se zcela zmenší.
 
V posledních měsících byla tomuto potenciálně dystopickému tématu věnována značná část novinářského prostoru. Pokud stroje AGI vyvinou schopnost vědomě prožívat život, morální a právní ohledy, které jim budeme muset poskytnout, se rychle stanou nepřehlednými. Budou mít pocity, které je třeba brát v úvahu, myšlenky, které je třeba sdílet, vnitřní touhy a možná i základní práva jako nově vymyšlené bytosti. Na druhou stranu, pokud si umělá inteligence nevyvine vědomí - a místo toho bude prostě schopna nás přechytračit ve všech myslitelných situacích - mohli bychom se ocitnout v područí značně nadřazené, ale sociopatické entity.
 
Ani jedna z těchto možných budoucností není tak příjemná a obě vyžadují odpověď na mimořádně složité otázky: Co přesně je vědomí? A zůstane biologickou vlastností, nebo by ji nakonec mohla sdílet i zařízení AGI, která jsme vytvořili?

Vědomí ve Von Neumannových počítačích

Aby počítač mohl zažívat rozsáhlý repertoár vnitřních stavů, které jsou přístupné lidským bytostem, musí jeho hardware pravděpodobně fungovat podobně jako lidský mozek. Lidské mozky jsou energeticky mimořádně úsporná analogová "zařízení" schopná vysokého stupně paralelního zpracování.
 
Moderní počítače založené na Von Neumannově architektuře nejsou nic z toho - jsou to energeticky náročné digitální stroje složené především ze sériových obvodů.
 
Von Neumannovy počítačové čipy fyzicky oddělují paměť od zpracování a před provedením výpočtů vyžadují načtení informací z paměti. "Klasické Von Neumannovy počítače mají paměť a zpracování oddělené. Instrukce a data jsou mimo paměť a procesor je vtahuje, jak jen může paralelně, a pak čísla rozmělní a data vrátí zpět do paměti," vysvětluje Stephen Deiss, neuromorfní inženýr v důchodu z Kalifornské univerzity v San Diegu.
 
Toto omezení množství informací, které lze přenést v určitém časovém rámci, a omezení rychlosti zpracování se označuje jako Von Neumannovo úzké hrdlo. Von Neumannovo úzké hrdlo brání tomu, aby se naše současné počítače vyrovnaly - nebo dokonce přiblížily - kapacitě zpracování lidského mozku. Z tohoto důvodu se mnoho odborníků domnívá, že vědomí současných počítačů je velmi nepravděpodobné.

Vědomí v neuromorfních počítačích

Počítačoví vědci aktivně vyvíjejí neuromorfní počítačové čipy, které se vyhýbají omezením zpracování Von Neumannových počítačů tím, že se přibližují architektuře neuronů. Některé z nich kombinují paměťové úložiště a výpočetní jednotky na jediném čipu. Jiné využívají ke zvýšení účinnosti specializované, málo výkonné výpočetní prvky, jako jsou memristory, což je typ tranzistoru, který si "pamatuje" minulé stavy napětí. Neuromorfní čipy napodobují paralelní zapojení mozku a nízké energetické nároky.
 
"Zařízení typu compute-in-memory, kam patří například neuromorfní počítače, využívá k výpočtu skutečnou fyziku hardwaru," vysvětluje Deiss s odkazem na memristory. "Paměťovými prvky jsou výpočetní prvky."
 
Pokud se podaří vyvinout neuromorfní technologii na úroveň potřebnou k reprodukci neuronální aktivity, mohly by mít neuromorfní počítače větší potenciál vědomě prožívat život, než jen inteligentně počítat. "Pokud někdy dosáhneme úrovně složitosti zpracování, kterou dokáže lidský mozek, pak budeme moci ukázat na [neuromorfní počítače] a říci: 'Tohle funguje stejně jako mozek - možná to cítí věci stejně jako my,'" říká Deiss.
 
Přesto i v budoucnosti, která je plná počítačového hardwaru podobného mozku a připravená pro umělé vědomí, zůstává velká otázka: Jak poznáme, zda naše systémy AGI prožívají smutek, naději a nádherný pocit zamilovanosti, nebo zda jen vypadají, že tyto věci prožívají?
 
Jak se vůbec dozvíme, co se odehrává v mysli stroje?

Hojnost teorií vědomí

Existuje pouze jeden způsob, jak můžeme vědět: empiricky zjistit, jak vědomí funguje v organických formách života, a vyvinout metodu, pomocí níž ho můžeme důsledně rozpoznat. Než budeme mít naději rozpoznat přítomnost vědomí v umělých systémech, musíme pochopit vědomí v nás samých. Než se tedy ponoříme do složitých důsledků vnímajícího křemíku a představíme si budoucnost plnou vědomých počítačů, musíme vyřešit starou otázku: Co je to vědomí a kdo ho má?
 
V posledních desetiletích vyrvali neurovědci tuto tisíciletou otázku ze spárů filozofů a uznali, že souvislost mezi aktivitou neuronů a vědomou zkušeností je nezpochybnitelná. Existují desítky neurovědeckých teorií vědomí (ToC) - ve skutečnosti jich je tolik, že probíhá soustředěná snaha o zúžení seznamu na zvládnutelných několik. Zde se budeme zabývat pouze třemi z nich: Teorie integrované informace, teorie globálního neuronálního pracovního prostoru a teorie schématu pozornosti.
 
Podle Teorie integrované informace (IIT), ToC, kterou vyvinul Giulio Toloni, ředitel Wisconsinského institutu spánku a vědomí na UW v Madisonu, spočívá klíč k vědomí v množství integrované informace systému - v tom, jak důmyslně spolu jeho součásti komunikují prostřednictvím sítí neuronů nebo tranzistorů. Systém s vysokou úrovní integrovaných informací je vědomý; systém s nízkou úrovní integrovaných informací vědomý není.
 
Christof Koch, zasloužilý badatel v Allenově institutu pro vědu o mozku v Seattlu ve státě Washington a zastánce IIT, vysvětluje, že lidský mozek má vysokou úroveň integrovaných informací díky rozsáhlému paralelnímu zapojení neuronových sítí. Informace mohou procházet více neuronovými drahami současně, což zvyšuje kapacitu mozku pro zpracování dat. Moderní počítače, které podléhají Von Neumannovu úzkému hrdlu, se skládají především ze sériových obvodů, takže srovnatelná úroveň zpracování informací je nedosažitelná.
 
Teorie schématu pozornosti (AST), kterou vyvinul Michael Graziano, profesor psychologie a neurovědy na Princetonu, zastává jiný názor: Náš mozek si vytváří model toho, čemu věnujeme pozornost, který se nazývá "schéma pozornosti". Tento model je podobně jako model letadla reprezentací. Model letadla neobsahuje plně vybavenou kabinu ani funkční kokpit. Podobně i schéma pozornosti našeho vlastního vědomí je přibližná představa: mentální model toho, čemu naše mysl věnuje pozornost a jak to prožíváme.
 
AST navrhuje, že navzdory svým omezením je naše schéma pozornosti natolik přesvědčivé, že máme tendenci nesprávně vyvozovat, že vědomí je něco mystického, něco "více než" hmota. Ve skutečnosti je nám umožněn přístup pouze k této reprezentaci naší mysli - nikoliv k mysli samotné -, takže nemůžeme přímo pochopit, jak naše mysl funguje, podobně jako model letadla nemůže replikovat zážitek z létání.
 
Teorie globálního neuronálního pracovního prostoru (GNWT), kterou založil Bernard Baars, přidružený pracovník v oboru teoretické neurobiologie na Neurovědním institutu Kalifornské univerzity v San Diegu, navrhuje, že informace, které náš mozek považuje za dostatečně důležité, jsou selektivně a dočasně umístěny do centrálního pracovního prostoru v našem mozku (obdoba kina), abychom jim mohli věnovat pozornost. Informace, kterým se nemusíme vědomě věnovat, jsou uloženy v propojených, ale oddělených oblastech (obdoba zákulisí).
 
"Základní myšlenka [GNWT] je poměrně jednoduchá. V každém okamžiku je pozornostními sítěmi vybrána pouze podmnožina nevědomých informací a tento výběr slouží k propojení nevědomých zpracovatelských modulů s 'globálním pracovním prostorem'. Jakýkoli obsah, který se v tomto pracovním prostoru nachází, je v daném okamžiku vědomě vnímán," říká Michael Pitts, profesor psychologie na Reed College v Oregonu.
 
Navzdory rozdílným přístupům mají IIT, GNWT a AST společný cíl - empiricky odhalit složitý vztah mezi mozkovou tkání a prožíváním života. Jakmile neurovědci pochopí, jak neuronální sítě vytvářejí vědomí, mohou tyto znalosti využít k pochopení vědomých zkušeností - nebo jejich nedostatku - v anorganických sítích.

Je počítačové vědomí pouhým futuristickým snem?

Podle IIT je vědomí v současných počítačích naprosto nemožné. Humbuk kolem umělého vědomí je zbytečný. Hardware je hardware. Bez ohledu na to, jak brilantní je stroj v hraní šachů, Go, Texas hold'emu nebo Scotland Yardu, na konci dne neví, že vyhrál hru, ani nepocítil emocionální horskou dráhu soutěže. Kochovými slovy: "Nezažilo přesně nic."
 
"Nestačí se na systém umělé inteligence podívat zvenčí a zeptat se, zda je vědomý na základě toho, jak se chová," říká Koch. "Musíte se podívat pod kapotu. Turingův stroj, který vypadá, že myslí, není vědomý."
 
Podle IIT spočívá neschopnost stroje "být něčím", co prožívá samo sebe ve vztahu k vnějšímu světu, přímo v jeho omezené kauzální síle. Kauzální síla je definována jako schopnost systému využít svůj minulý stav k ovlivnění svého současného stavu a využít svůj současný stav k ovlivnění svého budoucího stavu. Čím více může systém ovlivňovat sám sebe, tím větší má kauzální sílu. Neurovědci používají proměnnou "phi", která vyjadřuje množství kauzální síly v systému a měří se analýzou sebeovlivňujících spojení mezi součástmi obvodu.
 
Současné počítačové procesory jednoduše nemají potřebný počet sebeovlivňujících se vnitřních spojení, aby dosáhly prahové hodnoty integrované informace potřebné pro vznik zkušenosti. Na rozdíl od lidského mozku, který obsahuje přibližně 86 miliard neuronů se 100 biliony spojů mezi nimi, obsahuje počítač mnohem méně smyčkových neboli sebeovlivňujících spojů. Počítač se může chovat mimořádně inteligentně - dokonce inteligentněji než člověk - ale to se nerovná schopnosti působit sám na sebe: být vědomý.
 
"Populární způsob, jak shrnout IIT, je, že navrhuje, že systém je vědomý, když celek (integrace informací) je více než součet jeho částí," říká Pitts. "IIT se více zaměřuje na to, jak je systém uspořádán a jak sám sebe ovlivňuje, než na to, co dělá. Podle IIT mohou mít dva systémy stejné vstupně-výstupní chování, ale v závislosti na tom, jak je systém uspořádán, může být jeden vědomý, zatímco druhý ne."
 
Na rozdíl od naprosté většiny ToC, což jsou výpočetní funkcionalistické teorie, které předpokládají, že vědomí lze redukovat na fyzikální komponenty, které ho vytvářejí, "IIT začíná vědomím a postupuje zpět k fyzickému substrátu vědomí. IIT nezačíná fyzickým systémem, jako je mozek nebo stroj, a nepředpokládá, že jej lze redukovat natolik, aby nás dovedl ke zdroji vědomí," říká Koch.
 
Vzhledem k tomuto předpokladu IIT nespadá přesně do žádné z tradičních filozofických teorií mysli, jako je materialismus, dualismus, idealismus nebo panpsychismus. "To je výzva, když se setkáte s dva tisíce let starými 'ismy'. Učí se o nich na všech filozofických školách a ve všech knihách a jsou velmi dobře zavedené - ale jsou to všechno filozofie. IIT nezapadá do žádné [filozofie mysli]," říká Koch.
 
Navzdory přesvědčivému teoretickému rámci IIT někteří neurovědci zpochybňují strukturu této teorie. IIT je založena na pěti axiomech, které zastánci teorie považují za neomylně pravdivé. Pitts vysvětluje: "Někteří lidé mají problém s tím, jak IIT začíná, protože je to aspirační teorie, která si klade odvážné nároky. Místo toho, aby se vycházelo z dat a budovala se teorie, začíná se od prvních principů. Uvádí pět axiomů, které musí platit pro každou vědomou zkušenost. Na základě těchto axiomů pak odvozuje postuláty, které mohou vést k předpovědím.
 
"Pitts k tomu dodává: "Někteří badatelé kritizují IIT za to, že nikdy nemůžete získat experimentální výsledek, který by zpochybnil jádro teorie, protože axiomy jsou nastaveny jako univerzálně pravdivý výchozí bod. Je příliš flexibilní, není falzifikovatelná, řekli by někteří lidé."
 
IIT sice předpovídá, že uměle inteligentní počítače nemají to "něco" navíc, co je nutné pro vědomí (konkrétně kauzální sílu), ale nezavrhuje perspektivu rychle se blížících vysoce inteligentních strojů - systémů AGI, které svými výpočetními schopnostmi předčí člověka. Koch upozorňuje, že toto je zásadní rozdíl, který musíme mít na paměti, až budeme posuzovat, jak nejlépe uvést budoucnost plnou robotů AGI do života: "Je rozdíl mezi inteligencí a vědomím."

Je počítačové vědomí nevyhnutelnou realitou?

Na druhé straně mince neurovědeckého vědomí stojí počítačové funkcionalistické teorie, jako je teorie schématu pozornosti a teorie globálního neuronálního pracovního prostoru. Obě ToC považují umělé vědomí za nevyhnutelné. Ve skutečnosti AST naznačuje, že my sami jsme ve skutečnosti stroje, které se mylně domnívají, že jsou vědomé. Vědomí je prostě výsledkem výpočtů; na zdroji těchto výpočtů (mozek nebo stroj) nezáleží, pokud probíhají určitým způsobem.
 
Strojové vědomí se některým badatelům zdá natolik nevyhnutelné, že se rozhodli ověřit, zda tu již je. V srpnu 2023 zveřejnili Patrick Butlin, výzkumný pracovník na Oxfordské univerzitě, a Robert Long, výzkumný pracovník Centra pro bezpečnost umělé inteligence v San Franciscu, preprint článku na arXiv.org s názvem "Vědomí v umělé inteligenci: "Insights from the Science of Consciousness". Butlin, Long a 18 spolupracovníků vyhodnotili šest nejvýznamnějších výpočetních funkcionalistických teorií vědomí a vytvořili seznam indikátorových vlastností vědomí - vlastností, které jsou nezbytné pro vznik vědomí u člověka. Poté hledali důkazy těchto indikátorových vlastností v systémech umělé inteligence.
 
Butlin, Long a jejich spolupracovníci dospěli k následujícímu závěru: "Naše analýza naznačuje, že žádné současné systémy umělé inteligence nejsou vědomé, ale také naznačuje, že neexistují žádné zjevné technické překážky pro vytvoření systémů umělé inteligence, které by tyto ukazatele splňovaly."
 
Zastánci AST i GNWT jsou se závěry Butlina a Longa spokojeni. Graziano vysvětluje, že "AST vychází z předpokladu, že lidé jsou biologické stroje. Vše, co mozek o sobě ví, je nutně odvozeno z informací uvnitř tohoto mozku. Myslíme si, že máme vědomí - jsme si tím jisti -, protože mozek vytváří modely sebe sama, neboli svazky informací, které se takto popisují. Kdyby mozek tyto modely nevytvářel, nevěděli bychom o vědomí nic. Postavte umělý systém se stejnými informačními strukturami uvnitř sebe sama a bude mít stejná přesvědčení a jistoty. Mělo by být možné (a mnozí na tom pracují) vytvořit umělou inteligenci, která si také myslí, že je vědomá, a myslí si, že ostatní lidé jsou vědomí."
 
Grazianova důvěra v možnost vědomí umělé inteligence vychází ze dvou základních principů AST. Za prvé: "Informace, které vycházejí z mozku, musely být v tomto mozku" a za druhé: "Modely mozku nejsou nikdy přesné". Na základě těchto dvou zásad jako výchozího bodu Graziano píše, že neexistuje žádný "prostor pro kličkování" - jediné logické, metodické vysvětlení vědomí je, že vzniká v mozku a je, stejně jako vše ostatní, co vzniká v mozku, aproximací reality.
 
Koch s tím nesouhlasí. Podle IIT nemůže být subjektivní zážitek z ochutnávání jablka replikován počítačem kvůli jeho omezené schopnosti ovlivňovat sám sebe - "efekt" vědomí nemůže vzniknout. "To, že je něco dokonalou replikou lidského mozku, neznamená, že z toho vznikne vědomí," vysvětluje Koch. "Je rozdíl mezi simulací věci a věcí samotnou." I kdyby se počítače budoucnosti staly stejně složitými jako mozek (ve smyslu sebeovlivňujících vnitřních obvodů), vědomí se automaticky nevytvoří. Úroveň integrované informace v simulovaném mozku nebude nutně odpovídat integrované informaci ve skutečném mozku.
 
AST tomuto argumentu oponuje tvrzením, že subjektivní zkušenost, o níž hovoří IIT (a další teorie vědomí), není nic jiného než mentální schéma - přesvědčivá iluze. Když jíme jablko, ve skutečnosti nic subjektivně neprožíváme; náš mozek nás o tom přesvědčuje. Stejně tak umělá inteligence bude brzy schopna přesvědčit sama sebe prostřednictvím vnitřní reprezentace pojídání jablek, že ochutnala křupavé, šťavnaté, jasně červené Honeycrisp.
 
"Vědomí je vlastnost, kterou přisuzujeme ostatním lidem i sami sobě, a děláme to proto, že nám slouží jako užitečný způsob předvídání chování," říká Graziano. "AST navrhuje, že mozek si vytváří model nebo zjednodušenou reprezentaci stavu pozornosti. Tento stav pozornosti chápeme tak, že mu přisuzujeme vědomí. Díky tomu získáváme lepší schopnost předvídat sami sebe nebo jiné lidi."
 
Protože AST a GNWT říkají, že na vědomí není nic "zvláštního" - je to jen konečný výsledek posloupnosti výpočtů - oba zastávají názor, že počítače mají stejnou pravděpodobnost, že budou prožívat život jako my.
Butlin tento názor opakuje a říká: "Myslím, že je pravděpodobné, že brzy budou vytvořeny systémy umělé inteligence s mnoha indikačními vlastnostmi a že tyto systémy budou mnohem vážnějšími kandidáty na vědomí než všechny v současnosti existující. Tyto systémy pravděpodobně stále nebudou vědomé, ale díky nim budou těžké otázky týkající se vědomí velmi naléhavé."

Je možné sjednotit teorie vědomí?

V komunitě neurovědců existuje přehršel ToC. Dokud nebude tato nepřehledná skupina nesourodých teorií uceleně sjednocena nebo redukována na jedinou teorii, která by odpovídala experimentálním výsledkům, nebudeme mít k dispozici přesný způsob, jak určit strojové vědomí. Pro zahájení procesu redukce financuje Templetonova světová charitativní nadace (TWCF) řadu protichůdných spoluprací, jejichž cílem je zvýšit komunikaci mezi výzkumníky vědomí a zmenšit mezery mezi ToC. Tato práce je nezbytná a naléhavá, pokud chceme porozumět lidskému vědomí dříve, než budou počítače dostatečně složité na to, aby si ho potenciálně samy osvojily.
 
Michael Pitts připomíná pozornost médií, která provázela konferenci Asociace pro vědecké studium vědomí v New Yorku v červnu 2023. Pitts a jeho kolegové, Liad Mudrik z Univerzity v Tel Avivu a Lucia Melloni z Institutu Maxe Plancka, představili první výsledky první oponentní spolupráce, kterou navrhli za účelem důsledného testování dvou významných neurovědeckých teorií vědomí: Teorie integrované informace a teorie globálního neuronálního pracovního prostoru.
 
"Naše první výsledky jsme prezentovali loni v létě na konferenci v New Yorku a tisk si udělal špatný dojem. Jejich představa byla 'jedna teorie proti druhé' nebo 'jedna vyhraje a druhá prohraje', ale tak to nefunguje," řekl Pitts. Zaměření médií na soupeřivou povahu spolupráce podporuje dojem, že výzkum vědomí je nejednotný a nesoudržný.
 
Pitts a jeho kolegové jsou v počáteční fázi brainstormingu konceptu nazvaného Selektivní sjednocení s nadějí, že nesourodé teorie vědomí bude nakonec možné spojit do jednoho empiricky podloženého ToC: "Myšlenka selektivního sjednocení spočívá v tom, že můžeme pečlivě vybrat určité aspekty teorií, které jsou podpořeny daty, a sjednotit je do jedné teorie," říká Pitts.
 
Doufá, že na základě výsledků současné a budoucí oponentní spolupráce se mu podaří eliminovat části ToC, které neodpovídají experimentálním datům. Konkrétní prvky teorií, které přežijí vyřazení, lze podle jeho teorie následně spojit do nového ToC s předpověďmi, které odpovídají experimentálním důkazům. Pitts říká: "Nechceme kombinovat teorie frankensteinovským způsobem, ale tak, abychom zachovali konzistentní části a vypustili ty, které jsou experimentálně zpochybněny."
 
Koch, ačkoli je stejně odhodlán testovat ToC, nevěří, že je možné kombinovat vybrané prvky více teorií vědomí. Říká: "Jsou to prostě zásadně odlišná zvířata. Nemůžete je smáčknout dohromady. Obě se mohou mýlit, ale obě nemohou mít pravdu."

Příprava na AGI, vědomá či nevědomá

Debaty o povaze vědomí a o tom, zda AGI bude nakonec prožívat život stejně jako my, se pravděpodobně brzy nevyřeší. Přesto nás technologický pokrok žene warpovou rychlostí do budoucnosti plné strojů, které se budou ve všech ohledech chovat stejně jako my. Jak se na to připravit?
 
Koch navrhuje, abychom se snažili zvýšit lidskou inteligenci, abychom vyrovnali hrozící rozdíl mezi organickými a umělými mozky. Ať už vědomé nebo nevědomé, budoucí umělé inteligence budou mnohem chytřejší než my. Proč vedle umělé inteligence nezaměřit některé technologické zdroje na zvyšování lidské inteligence?
 
Graziano navrhuje, abychom se připravili na vědomou umělou inteligenci tím, že preventivně zvážíme sociopatii AI. S rozšířenou AGI se zvýší vliv a moc počítačů. Pokud umělá inteligence vyvine extrémní inteligenci, aniž by se současně naučila orientovat ve složitých lidských sociálních normách, mohli bychom mít po ruce sociopatické stroje, které se rozhodnou nás zabít, místo aby s námi spolupracovaly.
 
"Většina lidí se soustředí na vědomí jako na soukromou, vnitřní záležitost. Hraje však také ústřední roli v lidské sociální interakci," říká Graziano. "Poznáváme se navzájem jako vědomé bytosti a to nám umožňuje chovat se k sobě určitým způsobem. Když tato schopnost začne slábnout, objeví se asociální chování. Tehdy se lidé začnou zabíjet."

"Pokud chceme, aby umělá inteligence byla prosociální, možná bychom jí měli dát mechanismy, které dělají lidi prosociálními," navrhuje Graziano.
 
Koch nabízí poslední návrh: Místo toho, abychom se snažili vypořádat s nevyhnutelnou nadřazeností AGI a z toho plynoucími nejasnostmi potenciálního počítačového vědomí, radí, abychom umělou inteligenci regulovali hned teď. "Měli bychom na umělou inteligenci uvalit nějaké ochranné zábrany, jak je tomu v EU - to je jediné, co můžeme udělat. AGI se sem dostane velmi brzy. Uvidíme, jak se s tím popasujeme, v dobrém i zlém." (vp)
 

... opět velmi zajímavé úvahy ...

[meda]

@Rossi D: Ještě bys mohl Ai požádat o výcuc podstatných myšlenek v délce 25% slov původního článku.

[Rossi D]

@meda: Tak mě se to zdálo zajímavé celé a celé jsem si to i poctivě přečetl (jinak bych to sem nedával), příště tedy zkrátím na pouhý nadpis 

[meda]

@Rossi D: Tak jsem to nemyslel. Jen předpokládám, žes to neťukal sám ale zadal přeložit. Tak proč nezkusit zahustit.

Ano, přečetl jsem to celé.

[Rossi D]

@meda: Vše v pohodě, já to tak i bral a "zahuštěně" odpověděl 
Občas není dobré něco "vystrkat", co je jasné jednomu čtenáři, nemusí být jasné druhému a nit mu může utéci jedna, dvě. Ale je fakt, že je to dlouhé a pro většinu asi i nudné 

---

OpenAI vyvíjí pětistupňový systém pro sledování pokroku na cestě k umělé inteligenci na lidské úrovni



 Společnost OpenAI představila pětiúrovňový systém pro sledování pokroku na cestě k dosažení umělé obecné inteligence (AGI), jehož cílem je pomoci veřejnosti pochopit její pokroky v oblasti bezpečnosti a budoucího potenciálu AI. V současné době se nachází na úrovni 1, kdy se umělá inteligence dokáže zapojit do konverzace, a společnost OpenAI věří, že je na pokraji dosažení úrovně 2, známé jako "Reasoners". Tato další úroveň představuje systémy umělé inteligence, které jsou schopny bez jakýchkoli nástrojů řešit základní problémy na stejné úrovni jako člověk s doktorským vzděláním. Během nedávného setkání všech pracovníků předvedli vedoucí pracovníci společnosti OpenAI nový výzkum s modelem GPT-4, který ukazuje vznikající schopnosti uvažování podobné lidským.
 
Společnost, která je lídrem ve vývoji pokročilých technologií umělé inteligence, již dlouho pracuje na vývoji AGI, které by podle generálního ředitele Sama Altmana mohlo být dosaženo během tohoto desetiletí. Nový klasifikační systém, o který se podělil se zaměstnanci a který bude brzy představen investorům, nastiňuje strukturovanou cestu od konverzační AI k systémům, které mohou řídit organizaci (úroveň 5). Přístup společnosti OpenAI je podobný rámcům navrženým jinými výzkumníky v oblasti umělé inteligence, například výzkumníky ze společnosti Google DeepMind, kteří rovněž prosazují stupňovité chápání vývoje umělé inteligence, včetně stupňů jako "expert" a "nadčlověk".
 
Pět úrovní OpenAI začíná současným stavem konverzační AI (úroveň 1) a postupuje k "rozumářům" (úroveň 2), "agentům", kteří mohou autonomně jednat celé dny (úroveň 3), AI, která může vytvářet inovace (úroveň 4), a nakonec k "organizacím" (úroveň 5), které představují AI schopnou řídit celé podniky. Tento systém se stále zdokonaluje a společnost OpenAI se snaží získat zpětnou vazbu od zaměstnanců, investorů a členů představenstva, aby mohla jednotlivé úrovně případně upravit. Tato iniciativa odráží pokračující snahu společnosti OpenAI transparentně informovat o svých milnících a budoucích cílech v oblasti vývoje umělé inteligence.
 

[Rossi D]

Zapomeňte na ChatGPT. Tyto nástroje umělé inteligence z vás do minuty udělají DJe i fantasy kartografa



 Umělá inteligence vlétla do našich životů jako velká voda, která jen tak neopadne. Všichni mluví o chatovacích botech a generátorech obrázků, jako je ChatGPT nebo Midjourney, na internetu ovšem existuje obrovské množství nástrojů, které využívají sílu AI k dalším, mnohdy ještě zábavnějším účelům. Můžete s nimi vytvářet mapy fantasy světů, skládat hudební hity, během sekundy vypracovávat 3D modely či celé prezentace.
 
Vybrali jsme ty nejzajímavější nástroje, které nabízejí alespoň část svého obsahu k vyzkoušení zdarma. Většina z nich běží na systému kreditů, takže pokud vás některý zaujme, stačí je jen dokoupit. Pro testování je pak potřeba pouze registrace, k čemuž dobře postačí účet na Googlu, třeba speciálně zřízený právě pro tyto účely.
 

 

---

OpenAI pracuje na nové technologii uvažování pod kódovým označením "Strawberry"

Podle interních dokumentů, do kterých nahlédla agentura Reuters, pracuje společnost OpenAI, tvůrce ChatGPT, na novém projektu s kódovým označením "Strawberry", který má rozšířit schopnosti uvažování jejích modelů umělé inteligence. Cílem projektu, který zůstává přísně střeženým tajemstvím, je umožnit umělé inteligenci provádět hloubkový výzkum tím, že se bude samostatně pohybovat po internetu a plánovat dopředu řešení složitých problémů. Tento vývoj je součástí širší strategie OpenAI, jejímž cílem je zlepšit schopnost uvažování jejích modelů, což je rozhodující faktor pro dosažení inteligence podobné lidské nebo nadlidské.
 
Projekt Strawberry, dříve známý jako Q*, zahrnuje specializovaný proces post-trainingu, který vylaďuje předtrénované modely umělé inteligence a zdokonaluje jejich výkon v konkrétních oblastech. Tento přístup je podobný metodě "Self-Taught Reasoner" (STaR) vyvinuté na Stanfordu, která umožňuje modelům AI iterativně vytvářet vlastní tréninková data pro zvýšení jejich inteligence. Cílem společnosti OpenAI je pomocí Jahody umožnit svým modelům zvládat dlouhodobé úkoly, které vyžadují plánování a provádění řady akcí po delší dobu.
 
Společnost OpenAI signalizuje vývojářům a externím stranám, že je blízko uvolnění technologie s výrazně pokročilými schopnostmi uvažování. Cílem společnosti je pomocí Strawberry otestovat schopnost umělé inteligence provádět autonomní výzkum webu a potenciálně vykonávat úkoly, které obvykle provádějí softwaroví inženýři a inženýři strojového učení. Přestože přesné podrobnosti o fungování Strawberry a časový plán jeho vydání zůstávají nezveřejněny, představuje tento projekt významný krok směrem ke zlepšení schopností umělé inteligence uvažovat a řešit problémy.