[Rossi D]

Microsoft i Apple upustili od plánů představenstva OpenAI, protože kontrola roste



Společnosti Microsoft Corp. a Apple Inc. se rozhodly vzdát se rolí v představenstvu společnosti OpenAI v souvislosti s rostoucí regulační kontrolou vlivu velkých technologických společností na umělou inteligenci. Společnost Microsoft, která do OpenAI investovala 13 miliard dolarů, odstoupí z role pozorovatele, k čemuž ji přiměly regulační tlaky ze strany USA a Evropy. Tyto regulační orgány vyjádřily obavy z dominantního postavení společnosti Microsoft v oblasti umělé inteligence, zejména díky integraci služeb OpenAI do svých platforem. Navzdory odstoupení od smlouvy tato změna pravděpodobně nezmírní obavy americké Federální obchodní komise a dalších regulačních orgánů ohledně úzkých vazeb společnosti Microsoft s OpenAI. (vp)

---

Mohou se umělé inteligence stát vědomými? V tuto chvíli to nevíme.



 Díky pokroku v oblasti umělé inteligence je stále obtížnější rozlišovat mezi jedinečným lidským chováním a chováním, které mohou stroje napodobit. Pokud se v plné síle objeví umělá inteligence (AGI) - umělá inteligence, která překoná lidskou inteligenci - hranice mezi lidskými a počítačovými schopnostmi se zcela zmenší.
 
V posledních měsících byla tomuto potenciálně dystopickému tématu věnována značná část novinářského prostoru. Pokud stroje AGI vyvinou schopnost vědomě prožívat život, morální a právní ohledy, které jim budeme muset poskytnout, se rychle stanou nepřehlednými. Budou mít pocity, které je třeba brát v úvahu, myšlenky, které je třeba sdílet, vnitřní touhy a možná i základní práva jako nově vymyšlené bytosti. Na druhou stranu, pokud si umělá inteligence nevyvine vědomí - a místo toho bude prostě schopna nás přechytračit ve všech myslitelných situacích - mohli bychom se ocitnout v područí značně nadřazené, ale sociopatické entity.
 
Ani jedna z těchto možných budoucností není tak příjemná a obě vyžadují odpověď na mimořádně složité otázky: Co přesně je vědomí? A zůstane biologickou vlastností, nebo by ji nakonec mohla sdílet i zařízení AGI, která jsme vytvořili?

Vědomí ve Von Neumannových počítačích

Aby počítač mohl zažívat rozsáhlý repertoár vnitřních stavů, které jsou přístupné lidským bytostem, musí jeho hardware pravděpodobně fungovat podobně jako lidský mozek. Lidské mozky jsou energeticky mimořádně úsporná analogová "zařízení" schopná vysokého stupně paralelního zpracování.
 
Moderní počítače založené na Von Neumannově architektuře nejsou nic z toho - jsou to energeticky náročné digitální stroje složené především ze sériových obvodů.
 
Von Neumannovy počítačové čipy fyzicky oddělují paměť od zpracování a před provedením výpočtů vyžadují načtení informací z paměti. "Klasické Von Neumannovy počítače mají paměť a zpracování oddělené. Instrukce a data jsou mimo paměť a procesor je vtahuje, jak jen může paralelně, a pak čísla rozmělní a data vrátí zpět do paměti," vysvětluje Stephen Deiss, neuromorfní inženýr v důchodu z Kalifornské univerzity v San Diegu.
 
Toto omezení množství informací, které lze přenést v určitém časovém rámci, a omezení rychlosti zpracování se označuje jako Von Neumannovo úzké hrdlo. Von Neumannovo úzké hrdlo brání tomu, aby se naše současné počítače vyrovnaly - nebo dokonce přiblížily - kapacitě zpracování lidského mozku. Z tohoto důvodu se mnoho odborníků domnívá, že vědomí současných počítačů je velmi nepravděpodobné.

Vědomí v neuromorfních počítačích

Počítačoví vědci aktivně vyvíjejí neuromorfní počítačové čipy, které se vyhýbají omezením zpracování Von Neumannových počítačů tím, že se přibližují architektuře neuronů. Některé z nich kombinují paměťové úložiště a výpočetní jednotky na jediném čipu. Jiné využívají ke zvýšení účinnosti specializované, málo výkonné výpočetní prvky, jako jsou memristory, což je typ tranzistoru, který si "pamatuje" minulé stavy napětí. Neuromorfní čipy napodobují paralelní zapojení mozku a nízké energetické nároky.
 
"Zařízení typu compute-in-memory, kam patří například neuromorfní počítače, využívá k výpočtu skutečnou fyziku hardwaru," vysvětluje Deiss s odkazem na memristory. "Paměťovými prvky jsou výpočetní prvky."
 
Pokud se podaří vyvinout neuromorfní technologii na úroveň potřebnou k reprodukci neuronální aktivity, mohly by mít neuromorfní počítače větší potenciál vědomě prožívat život, než jen inteligentně počítat. "Pokud někdy dosáhneme úrovně složitosti zpracování, kterou dokáže lidský mozek, pak budeme moci ukázat na [neuromorfní počítače] a říci: 'Tohle funguje stejně jako mozek - možná to cítí věci stejně jako my,'" říká Deiss.
 
Přesto i v budoucnosti, která je plná počítačového hardwaru podobného mozku a připravená pro umělé vědomí, zůstává velká otázka: Jak poznáme, zda naše systémy AGI prožívají smutek, naději a nádherný pocit zamilovanosti, nebo zda jen vypadají, že tyto věci prožívají?
 
Jak se vůbec dozvíme, co se odehrává v mysli stroje?

Hojnost teorií vědomí

Existuje pouze jeden způsob, jak můžeme vědět: empiricky zjistit, jak vědomí funguje v organických formách života, a vyvinout metodu, pomocí níž ho můžeme důsledně rozpoznat. Než budeme mít naději rozpoznat přítomnost vědomí v umělých systémech, musíme pochopit vědomí v nás samých. Než se tedy ponoříme do složitých důsledků vnímajícího křemíku a představíme si budoucnost plnou vědomých počítačů, musíme vyřešit starou otázku: Co je to vědomí a kdo ho má?
 
V posledních desetiletích vyrvali neurovědci tuto tisíciletou otázku ze spárů filozofů a uznali, že souvislost mezi aktivitou neuronů a vědomou zkušeností je nezpochybnitelná. Existují desítky neurovědeckých teorií vědomí (ToC) - ve skutečnosti jich je tolik, že probíhá soustředěná snaha o zúžení seznamu na zvládnutelných několik. Zde se budeme zabývat pouze třemi z nich: Teorie integrované informace, teorie globálního neuronálního pracovního prostoru a teorie schématu pozornosti.
 
Podle Teorie integrované informace (IIT), ToC, kterou vyvinul Giulio Toloni, ředitel Wisconsinského institutu spánku a vědomí na UW v Madisonu, spočívá klíč k vědomí v množství integrované informace systému - v tom, jak důmyslně spolu jeho součásti komunikují prostřednictvím sítí neuronů nebo tranzistorů. Systém s vysokou úrovní integrovaných informací je vědomý; systém s nízkou úrovní integrovaných informací vědomý není.
 
Christof Koch, zasloužilý badatel v Allenově institutu pro vědu o mozku v Seattlu ve státě Washington a zastánce IIT, vysvětluje, že lidský mozek má vysokou úroveň integrovaných informací díky rozsáhlému paralelnímu zapojení neuronových sítí. Informace mohou procházet více neuronovými drahami současně, což zvyšuje kapacitu mozku pro zpracování dat. Moderní počítače, které podléhají Von Neumannovu úzkému hrdlu, se skládají především ze sériových obvodů, takže srovnatelná úroveň zpracování informací je nedosažitelná.
 
Teorie schématu pozornosti (AST), kterou vyvinul Michael Graziano, profesor psychologie a neurovědy na Princetonu, zastává jiný názor: Náš mozek si vytváří model toho, čemu věnujeme pozornost, který se nazývá "schéma pozornosti". Tento model je podobně jako model letadla reprezentací. Model letadla neobsahuje plně vybavenou kabinu ani funkční kokpit. Podobně i schéma pozornosti našeho vlastního vědomí je přibližná představa: mentální model toho, čemu naše mysl věnuje pozornost a jak to prožíváme.
 
AST navrhuje, že navzdory svým omezením je naše schéma pozornosti natolik přesvědčivé, že máme tendenci nesprávně vyvozovat, že vědomí je něco mystického, něco "více než" hmota. Ve skutečnosti je nám umožněn přístup pouze k této reprezentaci naší mysli - nikoliv k mysli samotné -, takže nemůžeme přímo pochopit, jak naše mysl funguje, podobně jako model letadla nemůže replikovat zážitek z létání.
 
Teorie globálního neuronálního pracovního prostoru (GNWT), kterou založil Bernard Baars, přidružený pracovník v oboru teoretické neurobiologie na Neurovědním institutu Kalifornské univerzity v San Diegu, navrhuje, že informace, které náš mozek považuje za dostatečně důležité, jsou selektivně a dočasně umístěny do centrálního pracovního prostoru v našem mozku (obdoba kina), abychom jim mohli věnovat pozornost. Informace, kterým se nemusíme vědomě věnovat, jsou uloženy v propojených, ale oddělených oblastech (obdoba zákulisí).
 
"Základní myšlenka [GNWT] je poměrně jednoduchá. V každém okamžiku je pozornostními sítěmi vybrána pouze podmnožina nevědomých informací a tento výběr slouží k propojení nevědomých zpracovatelských modulů s 'globálním pracovním prostorem'. Jakýkoli obsah, který se v tomto pracovním prostoru nachází, je v daném okamžiku vědomě vnímán," říká Michael Pitts, profesor psychologie na Reed College v Oregonu.
 
Navzdory rozdílným přístupům mají IIT, GNWT a AST společný cíl - empiricky odhalit složitý vztah mezi mozkovou tkání a prožíváním života. Jakmile neurovědci pochopí, jak neuronální sítě vytvářejí vědomí, mohou tyto znalosti využít k pochopení vědomých zkušeností - nebo jejich nedostatku - v anorganických sítích.

Je počítačové vědomí pouhým futuristickým snem?

Podle IIT je vědomí v současných počítačích naprosto nemožné. Humbuk kolem umělého vědomí je zbytečný. Hardware je hardware. Bez ohledu na to, jak brilantní je stroj v hraní šachů, Go, Texas hold'emu nebo Scotland Yardu, na konci dne neví, že vyhrál hru, ani nepocítil emocionální horskou dráhu soutěže. Kochovými slovy: "Nezažilo přesně nic."
 
"Nestačí se na systém umělé inteligence podívat zvenčí a zeptat se, zda je vědomý na základě toho, jak se chová," říká Koch. "Musíte se podívat pod kapotu. Turingův stroj, který vypadá, že myslí, není vědomý."
 
Podle IIT spočívá neschopnost stroje "být něčím", co prožívá samo sebe ve vztahu k vnějšímu světu, přímo v jeho omezené kauzální síle. Kauzální síla je definována jako schopnost systému využít svůj minulý stav k ovlivnění svého současného stavu a využít svůj současný stav k ovlivnění svého budoucího stavu. Čím více může systém ovlivňovat sám sebe, tím větší má kauzální sílu. Neurovědci používají proměnnou "phi", která vyjadřuje množství kauzální síly v systému a měří se analýzou sebeovlivňujících spojení mezi součástmi obvodu.
 
Současné počítačové procesory jednoduše nemají potřebný počet sebeovlivňujících se vnitřních spojení, aby dosáhly prahové hodnoty integrované informace potřebné pro vznik zkušenosti. Na rozdíl od lidského mozku, který obsahuje přibližně 86 miliard neuronů se 100 biliony spojů mezi nimi, obsahuje počítač mnohem méně smyčkových neboli sebeovlivňujících spojů. Počítač se může chovat mimořádně inteligentně - dokonce inteligentněji než člověk - ale to se nerovná schopnosti působit sám na sebe: být vědomý.
 
"Populární způsob, jak shrnout IIT, je, že navrhuje, že systém je vědomý, když celek (integrace informací) je více než součet jeho částí," říká Pitts. "IIT se více zaměřuje na to, jak je systém uspořádán a jak sám sebe ovlivňuje, než na to, co dělá. Podle IIT mohou mít dva systémy stejné vstupně-výstupní chování, ale v závislosti na tom, jak je systém uspořádán, může být jeden vědomý, zatímco druhý ne."
 
Na rozdíl od naprosté většiny ToC, což jsou výpočetní funkcionalistické teorie, které předpokládají, že vědomí lze redukovat na fyzikální komponenty, které ho vytvářejí, "IIT začíná vědomím a postupuje zpět k fyzickému substrátu vědomí. IIT nezačíná fyzickým systémem, jako je mozek nebo stroj, a nepředpokládá, že jej lze redukovat natolik, aby nás dovedl ke zdroji vědomí," říká Koch.
 
Vzhledem k tomuto předpokladu IIT nespadá přesně do žádné z tradičních filozofických teorií mysli, jako je materialismus, dualismus, idealismus nebo panpsychismus. "To je výzva, když se setkáte s dva tisíce let starými 'ismy'. Učí se o nich na všech filozofických školách a ve všech knihách a jsou velmi dobře zavedené - ale jsou to všechno filozofie. IIT nezapadá do žádné [filozofie mysli]," říká Koch.
 
Navzdory přesvědčivému teoretickému rámci IIT někteří neurovědci zpochybňují strukturu této teorie. IIT je založena na pěti axiomech, které zastánci teorie považují za neomylně pravdivé. Pitts vysvětluje: "Někteří lidé mají problém s tím, jak IIT začíná, protože je to aspirační teorie, která si klade odvážné nároky. Místo toho, aby se vycházelo z dat a budovala se teorie, začíná se od prvních principů. Uvádí pět axiomů, které musí platit pro každou vědomou zkušenost. Na základě těchto axiomů pak odvozuje postuláty, které mohou vést k předpovědím.
 
"Pitts k tomu dodává: "Někteří badatelé kritizují IIT za to, že nikdy nemůžete získat experimentální výsledek, který by zpochybnil jádro teorie, protože axiomy jsou nastaveny jako univerzálně pravdivý výchozí bod. Je příliš flexibilní, není falzifikovatelná, řekli by někteří lidé."
 
IIT sice předpovídá, že uměle inteligentní počítače nemají to "něco" navíc, co je nutné pro vědomí (konkrétně kauzální sílu), ale nezavrhuje perspektivu rychle se blížících vysoce inteligentních strojů - systémů AGI, které svými výpočetními schopnostmi předčí člověka. Koch upozorňuje, že toto je zásadní rozdíl, který musíme mít na paměti, až budeme posuzovat, jak nejlépe uvést budoucnost plnou robotů AGI do života: "Je rozdíl mezi inteligencí a vědomím."

Je počítačové vědomí nevyhnutelnou realitou?

Na druhé straně mince neurovědeckého vědomí stojí počítačové funkcionalistické teorie, jako je teorie schématu pozornosti a teorie globálního neuronálního pracovního prostoru. Obě ToC považují umělé vědomí za nevyhnutelné. Ve skutečnosti AST naznačuje, že my sami jsme ve skutečnosti stroje, které se mylně domnívají, že jsou vědomé. Vědomí je prostě výsledkem výpočtů; na zdroji těchto výpočtů (mozek nebo stroj) nezáleží, pokud probíhají určitým způsobem.
 
Strojové vědomí se některým badatelům zdá natolik nevyhnutelné, že se rozhodli ověřit, zda tu již je. V srpnu 2023 zveřejnili Patrick Butlin, výzkumný pracovník na Oxfordské univerzitě, a Robert Long, výzkumný pracovník Centra pro bezpečnost umělé inteligence v San Franciscu, preprint článku na arXiv.org s názvem "Vědomí v umělé inteligenci: "Insights from the Science of Consciousness". Butlin, Long a 18 spolupracovníků vyhodnotili šest nejvýznamnějších výpočetních funkcionalistických teorií vědomí a vytvořili seznam indikátorových vlastností vědomí - vlastností, které jsou nezbytné pro vznik vědomí u člověka. Poté hledali důkazy těchto indikátorových vlastností v systémech umělé inteligence.
 
Butlin, Long a jejich spolupracovníci dospěli k následujícímu závěru: "Naše analýza naznačuje, že žádné současné systémy umělé inteligence nejsou vědomé, ale také naznačuje, že neexistují žádné zjevné technické překážky pro vytvoření systémů umělé inteligence, které by tyto ukazatele splňovaly."
 
Zastánci AST i GNWT jsou se závěry Butlina a Longa spokojeni. Graziano vysvětluje, že "AST vychází z předpokladu, že lidé jsou biologické stroje. Vše, co mozek o sobě ví, je nutně odvozeno z informací uvnitř tohoto mozku. Myslíme si, že máme vědomí - jsme si tím jisti -, protože mozek vytváří modely sebe sama, neboli svazky informací, které se takto popisují. Kdyby mozek tyto modely nevytvářel, nevěděli bychom o vědomí nic. Postavte umělý systém se stejnými informačními strukturami uvnitř sebe sama a bude mít stejná přesvědčení a jistoty. Mělo by být možné (a mnozí na tom pracují) vytvořit umělou inteligenci, která si také myslí, že je vědomá, a myslí si, že ostatní lidé jsou vědomí."
 
Grazianova důvěra v možnost vědomí umělé inteligence vychází ze dvou základních principů AST. Za prvé: "Informace, které vycházejí z mozku, musely být v tomto mozku" a za druhé: "Modely mozku nejsou nikdy přesné". Na základě těchto dvou zásad jako výchozího bodu Graziano píše, že neexistuje žádný "prostor pro kličkování" - jediné logické, metodické vysvětlení vědomí je, že vzniká v mozku a je, stejně jako vše ostatní, co vzniká v mozku, aproximací reality.
 
Koch s tím nesouhlasí. Podle IIT nemůže být subjektivní zážitek z ochutnávání jablka replikován počítačem kvůli jeho omezené schopnosti ovlivňovat sám sebe - "efekt" vědomí nemůže vzniknout. "To, že je něco dokonalou replikou lidského mozku, neznamená, že z toho vznikne vědomí," vysvětluje Koch. "Je rozdíl mezi simulací věci a věcí samotnou." I kdyby se počítače budoucnosti staly stejně složitými jako mozek (ve smyslu sebeovlivňujících vnitřních obvodů), vědomí se automaticky nevytvoří. Úroveň integrované informace v simulovaném mozku nebude nutně odpovídat integrované informaci ve skutečném mozku.
 
AST tomuto argumentu oponuje tvrzením, že subjektivní zkušenost, o níž hovoří IIT (a další teorie vědomí), není nic jiného než mentální schéma - přesvědčivá iluze. Když jíme jablko, ve skutečnosti nic subjektivně neprožíváme; náš mozek nás o tom přesvědčuje. Stejně tak umělá inteligence bude brzy schopna přesvědčit sama sebe prostřednictvím vnitřní reprezentace pojídání jablek, že ochutnala křupavé, šťavnaté, jasně červené Honeycrisp.
 
"Vědomí je vlastnost, kterou přisuzujeme ostatním lidem i sami sobě, a děláme to proto, že nám slouží jako užitečný způsob předvídání chování," říká Graziano. "AST navrhuje, že mozek si vytváří model nebo zjednodušenou reprezentaci stavu pozornosti. Tento stav pozornosti chápeme tak, že mu přisuzujeme vědomí. Díky tomu získáváme lepší schopnost předvídat sami sebe nebo jiné lidi."
 
Protože AST a GNWT říkají, že na vědomí není nic "zvláštního" - je to jen konečný výsledek posloupnosti výpočtů - oba zastávají názor, že počítače mají stejnou pravděpodobnost, že budou prožívat život jako my.
Butlin tento názor opakuje a říká: "Myslím, že je pravděpodobné, že brzy budou vytvořeny systémy umělé inteligence s mnoha indikačními vlastnostmi a že tyto systémy budou mnohem vážnějšími kandidáty na vědomí než všechny v současnosti existující. Tyto systémy pravděpodobně stále nebudou vědomé, ale díky nim budou těžké otázky týkající se vědomí velmi naléhavé."

Je možné sjednotit teorie vědomí?

V komunitě neurovědců existuje přehršel ToC. Dokud nebude tato nepřehledná skupina nesourodých teorií uceleně sjednocena nebo redukována na jedinou teorii, která by odpovídala experimentálním výsledkům, nebudeme mít k dispozici přesný způsob, jak určit strojové vědomí. Pro zahájení procesu redukce financuje Templetonova světová charitativní nadace (TWCF) řadu protichůdných spoluprací, jejichž cílem je zvýšit komunikaci mezi výzkumníky vědomí a zmenšit mezery mezi ToC. Tato práce je nezbytná a naléhavá, pokud chceme porozumět lidskému vědomí dříve, než budou počítače dostatečně složité na to, aby si ho potenciálně samy osvojily.
 
Michael Pitts připomíná pozornost médií, která provázela konferenci Asociace pro vědecké studium vědomí v New Yorku v červnu 2023. Pitts a jeho kolegové, Liad Mudrik z Univerzity v Tel Avivu a Lucia Melloni z Institutu Maxe Plancka, představili první výsledky první oponentní spolupráce, kterou navrhli za účelem důsledného testování dvou významných neurovědeckých teorií vědomí: Teorie integrované informace a teorie globálního neuronálního pracovního prostoru.
 
"Naše první výsledky jsme prezentovali loni v létě na konferenci v New Yorku a tisk si udělal špatný dojem. Jejich představa byla 'jedna teorie proti druhé' nebo 'jedna vyhraje a druhá prohraje', ale tak to nefunguje," řekl Pitts. Zaměření médií na soupeřivou povahu spolupráce podporuje dojem, že výzkum vědomí je nejednotný a nesoudržný.
 
Pitts a jeho kolegové jsou v počáteční fázi brainstormingu konceptu nazvaného Selektivní sjednocení s nadějí, že nesourodé teorie vědomí bude nakonec možné spojit do jednoho empiricky podloženého ToC: "Myšlenka selektivního sjednocení spočívá v tom, že můžeme pečlivě vybrat určité aspekty teorií, které jsou podpořeny daty, a sjednotit je do jedné teorie," říká Pitts.
 
Doufá, že na základě výsledků současné a budoucí oponentní spolupráce se mu podaří eliminovat části ToC, které neodpovídají experimentálním datům. Konkrétní prvky teorií, které přežijí vyřazení, lze podle jeho teorie následně spojit do nového ToC s předpověďmi, které odpovídají experimentálním důkazům. Pitts říká: "Nechceme kombinovat teorie frankensteinovským způsobem, ale tak, abychom zachovali konzistentní části a vypustili ty, které jsou experimentálně zpochybněny."
 
Koch, ačkoli je stejně odhodlán testovat ToC, nevěří, že je možné kombinovat vybrané prvky více teorií vědomí. Říká: "Jsou to prostě zásadně odlišná zvířata. Nemůžete je smáčknout dohromady. Obě se mohou mýlit, ale obě nemohou mít pravdu."

Příprava na AGI, vědomá či nevědomá

Debaty o povaze vědomí a o tom, zda AGI bude nakonec prožívat život stejně jako my, se pravděpodobně brzy nevyřeší. Přesto nás technologický pokrok žene warpovou rychlostí do budoucnosti plné strojů, které se budou ve všech ohledech chovat stejně jako my. Jak se na to připravit?
 
Koch navrhuje, abychom se snažili zvýšit lidskou inteligenci, abychom vyrovnali hrozící rozdíl mezi organickými a umělými mozky. Ať už vědomé nebo nevědomé, budoucí umělé inteligence budou mnohem chytřejší než my. Proč vedle umělé inteligence nezaměřit některé technologické zdroje na zvyšování lidské inteligence?
 
Graziano navrhuje, abychom se připravili na vědomou umělou inteligenci tím, že preventivně zvážíme sociopatii AI. S rozšířenou AGI se zvýší vliv a moc počítačů. Pokud umělá inteligence vyvine extrémní inteligenci, aniž by se současně naučila orientovat ve složitých lidských sociálních normách, mohli bychom mít po ruce sociopatické stroje, které se rozhodnou nás zabít, místo aby s námi spolupracovaly.
 
"Většina lidí se soustředí na vědomí jako na soukromou, vnitřní záležitost. Hraje však také ústřední roli v lidské sociální interakci," říká Graziano. "Poznáváme se navzájem jako vědomé bytosti a to nám umožňuje chovat se k sobě určitým způsobem. Když tato schopnost začne slábnout, objeví se asociální chování. Tehdy se lidé začnou zabíjet."

"Pokud chceme, aby umělá inteligence byla prosociální, možná bychom jí měli dát mechanismy, které dělají lidi prosociálními," navrhuje Graziano.
 
Koch nabízí poslední návrh: Místo toho, abychom se snažili vypořádat s nevyhnutelnou nadřazeností AGI a z toho plynoucími nejasnostmi potenciálního počítačového vědomí, radí, abychom umělou inteligenci regulovali hned teď. "Měli bychom na umělou inteligenci uvalit nějaké ochranné zábrany, jak je tomu v EU - to je jediné, co můžeme udělat. AGI se sem dostane velmi brzy. Uvidíme, jak se s tím popasujeme, v dobrém i zlém." (vp)
 

... opět velmi zajímavé úvahy ...