Thumbnail play icon

Proč potřebujeme laboratoř na výzkum umělé inteligenceSvět Elona Muska

Přidat do sledovaných sérií 20
73 %
Tvoje hodnocení
Počet hodnocení:45
Počet zobrazení:2 608

Krom společnosti Neuralink stojí Elon Musk i za neziskovou organizací OpenAI – laboratoří na výzkum umělé inteligence. Elon se totiž obává, že by pokročilá umělá inteligence mohla v budoucnu ohrozit lidstvo. Hlavním cílem jeho OpenAI je tak je přispět k výzkumu takové pokročilé umělé inteligence, která bude lidstvu přínosem. Od vydání tohoto videa se agent umělé inteligence pro Dotu 2 značně zlepšil a dokáže už porazit tým bývalých profesionálů, více informací naleznete na webu ElonX.cz, partnerském webu pro tento pořad.

Poznámky k překladu:

Vědecký článek o bezpečnostních problémech umělé inteligence najdete na webu Cornell University Library (anglicky).
Agent umělé inteligence (anglicky AI agent) je hardwarový anebo softwarový systém umělé inteligence, který má určitou míru autonomie a kapacitu činit a vykonávat rozhodnutí

 

Přepis titulků

Elon Musk a Sam Altman založili společnost OpenAI v roce 2015 s pocitem velké naléhavosti a odpovědnosti. Většina lidí však nerozumí tomu, čím se tato společnost vlastně zabývá. Po přečtení většiny blogů a článků na webu společnosti OpenAI se s vámi konečně mohu podělit o své názory na tuto společnost. Tady Leigh. Pojďme na to. S umělou inteligencí bychom měli být velmi opatrní. Myslím, že...

je to právě umělá inteligence, která je pro nás největší hrozbou. Takže si na ni musíme dát opravdu dobrý pozor. Přivoláváme démona. Je to tak. OpenAI byla založena v průběhu velkých změn. Předpoklad jejího příběhu je přesvědčení, že umělá inteligence bude v budoucnu schopna vnímat. Nicméně, i když tomu ještě nevěříte, i tak musíme být uctiví k poslání OpenAI, které zní: "Nastolit cestu bezpečné obecné umělé inteligence a zajistit, že její přínosy jsou rozděleny tak rovnoměrně, jak je to jen možné."

Výzkum bezpečné umělé inteligence není žádnou novinkou a provádí se již roky. Problém je však to, že před rokem 2012 jsme u umělé inteligence neviděli takový pokrok. Růst umělé inteligence je neskutečný, hlavně s přívalem peněz a talentu do oboru. Elon při několika příležitostech zmínil fakt, že zde působí dvojí exponenciální růst. Prudký nárůst zdrojů na projekty umělé inteligence a také prudký nárůst hardwarové kapacity, kterou tyto projekty využívají.

Vědci jsou za jedno v tom, že umělá inteligence předčí tu lidskou. Pokud se shodneme na následujících předpokladech, umělá superinteligence je v zásadě nevyhnutelná. Předpoklady jsou následující: Zaprvé, inteligence je výsledkem zpracování informací. Zadruhé, umělou inteligenci budeme neustále vylepšovat. Zatřetí, lidé nejsou vrcholem inteligence. První dva předpoklady jsou celkem jasné, takže vám vysvětlím ten poslední.

Znamená to, že pokud tvrdíme, že jsme chytřejší než šimpanzi, je tu určitá šance, že může existovat superinteligence, která je chytřejší než my. Musíme tedy připustit, že je velmi pravděpodobné, že někdy v budoucnu bude vytvořena inteligence se schopností vnímat. A protože tu působí dvojitý exponenciální růst, dojde k nevyhnutelnému ještě rychleji. A protože umělá inteligence nemá žádné fyzické omezení, jsme si poměrně jistí, že se umělá inteligence nezastaví u té lidské.

Bude ve vývoji pokračovat a nakonec bude umělá inteligence ve srovnání s námi jako my v porovnání s mravenci. A teď si zkuste vzpomenout, kdy jste naposledy zabili mravence. Přesně tak. Nejspíš si jako já nemůžete vzpomenout, protože to není důležité. A přesně proto byla vytvořena společnost OpenAI. Abychom se ujistili, že vznikající superiteligence pro nás nebude nebezpečná a zároveň nás nebude vnímat jako nepodstatné. Když jde o naše přežití, nemůžeme to nechat náhodě.

Možná si říkáte, že umělá inteligence je skvělá pro naši budoucnost. Méně práce pro nás, že? Ano, máte pravdu. Umělá inteligence, která je naším přítelem, je jedním z pravděpodobných závěrů. Ale protože může být tak mocná, jak zajistíme, že ji nezneužijí zlí lidé? Kdyby Severní Korea měla umělou inteligenci jen pro sebe, jak by asi dopadlo USA? Rozhodně by to nebylo nic pěkného na pohled.

To je druhá část poslání společnosti OpenAI, kterou podle Elona je demokratizovat superinteligenci. Je to jako situace Avengers. Kdybyste měli jen mimozemšťany, mohli by si dělat, co by chtěli. Ale když máte i Hulka, Thora nebo Iron Mana, kteří mají mimozemšťany pod kontrolou, svět je mnohem bezpečnější. Teď když rozumíme pozadí naší situace, můžeme se konečně ponořit do řešení, které formulovala OpenAI s nejlepšími mozky na světě.

První agendou bylo identifikovat možná bezpečnostní rizika umělé inteligence. Ty byly obsahem 29 stránek vědeckého článku. Tady je souhrn pěti klíčových bezpečnostních rizik a jejich důsledků uvedených v článku. Článek také zmiňoval možnosti, jak s těmito problémy naložit, ale pro zjednodušení budu tuto část ignorovat. Odkaz na článek najdete pod videem.

Podle článku jsou bezpečnostní rizika následující: Zaprvé se má agent umělé inteligence vyvarovat vedlejších účinků. Zadruhé se agent umělé inteligence musí vyhnout tzv. "úpravě odměny". Zatřetí musí být agent odolný vůči distribučním posunům. Začtvrté musí agent provádět bezpečný průzkum. A v neposlední řadě musí agent provádět škálovatelný dohled. Upřímně řečeno, každý z těchto bodů vydá na samostatné video. Ale protože je dnes řeč o společnosti OpenAI a ne rizicích umělé inteligence, tak se jimi zabývat nebudeme.

Kvůli možným problémům s rychle se vyvíjející technologií umělé inteligence a naší neschopností se s těmito změnami vyrovnat vytvořila OpenAI čtyři konkrétní cíle pro další směřování společnosti. Všimněte si, že všechny čtyři cíle jsou aktivity, na kterých se již pracuje. Uvidíte, jak do toho zapadá Dota 2, jakmile je vám postupně představím. Tak jdeme na to. Prvním cílem je učinit růst společnosti měřitelnějším.

OpenAI začala vytvořením metrik pro své výsledky. To je velmi důležité, protože se jedná o neziskovou organizaci, která za účelem skutečného pokroku musí mít sadu metrik. Tyto metriky obsahují celou škálu cvičných prostředí OpenAI Gym, které poskytují prostor pro jednotnou akci a pozorování. Takže abych ten technický žargon upřesnil: OpenAI vytvořila několik výzkumných míst, která zahrnují hry, robotiku a jazykové úlohy, aby mohla měřit kapacitu vytvořeného agenta umělé inteligence.

Jedná se o open-source projekt, takže agenta umělé inteligence může vytvořit kdokoliv na světě a výsledky budou sdíleny se všemi. Další tři cíle se týkají výzkumného cíle společnosti a jsou spolu spojeny. Tudíž vám je představím najednou. Jsou to: Postavit domácího robota. Postavit agenta s užitečnou mírou pochopení přirozeného jazyka.

A také vyřešit několik her pomocí jediného agenta. Tyto tři cíle spolu zdánlivě nesouvisí. Ale tak to není. Já vám to vysvětlím. Největší výzvou hlasových asistentů je v současné době porozumění jazyku. Pokud jde o konkrétní dotazy, má většina existujících řešení skvělé výsledky. Hlasoví asistenti jako Siri nebo Google Assistant však postrádají komplexnost. V podstatě se od vás očekává, že se budete ptát na určitou sadu otázek. Open IA chce dosáhnout všeobecného pochopení jazyka na úrovni člověka.

Umělá inteligence musí zvládnout pochopit kontext a odkazy. Když spolu navíc komunikují stroje, můžou tak činit pomocí kódu a čísel. Tomu by lidé intuitivně nerozuměli, jazyk je totiž stále rozhraním mezi lidmi a počítači. To je důvod, proč OpenAI klade tak velký důraz na přirozené chápání jazyka a proč je to jeden z jejích technických cílů. Druhým cílem je postavit robota, který zvládne plnit základní domácí práce. Teď už je vám nejspíš jasné, jak spolu tyto cíle souvisí.

Se schopností zpracovat a analyzovat jazyk budou roboti schopni provádět úkony na základě instrukcí. To je obzvláště náročné pro univerzální roboty. V současné době už máme chytré lednice, které vám pomůžou s online nákupem. Chytré vysavače a kávovary a tak dále. Nicméně, pokud po kávovaru budete chtít uklidit podlahu a po lednici, aby uvařila kávu, nebudou vám rozumět. OpenAI tedy chce vytvořit inteligentní roboty, kteří se nakonec naučí provést jakýkoliv zadaný úkol.

Tím se roboti stanou univerzálními. Nakonec je tu cíl, kdy jeden agent vyřeší několik her. Je důležité, aby všechny hry vyřešil jeden agent, jen tak se ukáže schopnost umělé inteligence učit a přizpůsobit se. Jak jsem již zmiňoval, máme umělou inteligenci, která velmi dobře zvládá specializované úlohy. Ale OpenAI chce, aby se obecná umělá inteligence zvládla naučit a provést jakoukoliv zadanou úlohu.

Teď například umíme naučit umělou inteligenci, aby porazila světové hráče Doty v souboji jeden na jednoho. Ale dokážeme stejnou umělou inteligenci naučit hrát šachy? A to je účelem posledního technického cíle společnosti OpenAI. Hry jsou také virtuální světy, které simulují realitu v parametrech jako zdraví, peníze, růst, dovednosti atd. Proto hraní hry s umělou inteligencí může vědcům přinést informace o tom, jak se v čase umělá inteligence zlepšuje a jak je ji také možné využít v běžném životě.

Pro shrnutí poslání OpenAI bych závěrem použil moudro ze seriálu Hra o trůny. Ačkoliv jsme každý den zaneprázdněni válkami mezi sebou, skutečná hrozba na nás čeká severně od zdi. Protože... umělá inteligence se blíží. Díky za zhlédnutí. Překlad: sethe www.videacesky.cz

Komentáře (9)

Zrušit a napsat nový komentář

Odpovědět

Doporučuji ke zhlédnutí film:
https://www.csfd.cz/film/282527-eva/komentare/

z komentářů na CSFD:
"Robot Max s volitelnou empatií je pro mě jeden z nejlepších robotů filmového světa."
"Víc scifi, než jsem čekal. Asimovovy robotické zákony holt nejsou jen pro srandu králíkům."

Já se snažil ignorovat tu "drama" část a soustředil jsem se na chování robotů.
Postupem času viděno zatím 2× a minimálně jednu příležitost tomu ještě dám – vychutnat si sci-fi část.
tu kočku bych chtěl !!!

41

Odpovědět

Tohle jsem neviděl, ale za sebe doporučuji film Ex Machina. A pro mladší ročníky samozřejmě Železného obra. ;)

11

Odpovědět

+scr00chyDíky, film Ex Machina jsem samozřejmě viděl.
A což tohleto?
https://www.csfd.cz/film/299780-robot-a-frank/komentare/

11

Odpovědět

+mykanecJe to fajn film, ale nejde o serióznější pohled na problematiku umělé inteligence.

00

Odpovědět

Záznam z turnaje v Dota 2:
https://blog.openai.com/openai-five-benchmark/
https://www.twitch.tv/videos/293517383
Brzy prostě boty na nejtěžší obtížnost neporazíme. Pěkně frustrující.

31

Používáme cookies, abychom mohli provozovat tuto internetovou stránku a zlepšit Vaši uživatelskou spokojenost. Budete-li pokračovat beze změny nastavení, předpokládáme, že souhlasíte s ukládáním souborů cookies z internetových stránek. Více informací o použití cookies.
OK