Proč potřebujeme laboratoř na výzkum umělé inteligence

Elon Musk a Sam Altman založili
společnost OpenAI v roce 2015 s pocitem velké naléhavosti a odpovědnosti. Většina lidí však nerozumí tomu,
čím se tato společnost vlastně zabývá. Po přečtení většiny blogů a článků
na webu společnosti OpenAI se s vámi konečně mohu podělit
o své názory na tuto společnost. Tady Leigh. Pojďme na to. S umělou inteligencí
bychom měli být velmi opatrní. Myslím, že...

je to právě umělá inteligence,
která je pro nás největší hrozbou. Takže si na ni musíme dát
opravdu dobrý pozor. Přivoláváme démona. Je to tak. OpenAI byla založena
v průběhu velkých změn. Předpoklad jejího příběhu je přesvědčení, že umělá inteligence bude
v budoucnu schopna vnímat. Nicméně, i když tomu ještě nevěříte, i tak musíme být uctiví
k poslání OpenAI, které zní: "Nastolit cestu bezpečné
obecné umělé inteligence a zajistit, že její přínosy jsou rozděleny
tak rovnoměrně, jak je to jen možné."

Výzkum bezpečné umělé inteligence není
žádnou novinkou a provádí se již roky. Problém je však to, že před rokem 2012 jsme
u umělé inteligence neviděli takový pokrok. Růst umělé inteligence je neskutečný,
hlavně s přívalem peněz a talentu do oboru. Elon při několika příležitostech zmínil
fakt, že zde působí dvojí exponenciální růst. Prudký nárůst zdrojů
na projekty umělé inteligence a také prudký nárůst hardwarové kapacity,
kterou tyto projekty využívají.

Vědci jsou za jedno v tom,
že umělá inteligence předčí tu lidskou. Pokud se shodneme
na následujících předpokladech, umělá superinteligence
je v zásadě nevyhnutelná. Předpoklady jsou následující: Zaprvé, inteligence je
výsledkem zpracování informací. Zadruhé, umělou inteligenci
budeme neustále vylepšovat. Zatřetí, lidé nejsou vrcholem inteligence. První dva předpoklady jsou celkem jasné,
takže vám vysvětlím ten poslední.

Znamená to, že pokud tvrdíme,
že jsme chytřejší než šimpanzi, je tu určitá šance, že může existovat
superinteligence, která je chytřejší než my. Musíme tedy připustit,
že je velmi pravděpodobné, že někdy v budoucnu bude vytvořena
inteligence se schopností vnímat. A protože tu působí
dvojitý exponenciální růst, dojde k nevyhnutelnému ještě rychleji. A protože umělá inteligence
nemá žádné fyzické omezení, jsme si poměrně jistí, že se
umělá inteligence nezastaví u té lidské.

Bude ve vývoji pokračovat
a nakonec bude umělá inteligence ve srovnání s námi
jako my v porovnání s mravenci. A teď si zkuste vzpomenout,
kdy jste naposledy zabili mravence. Přesně tak. Nejspíš si jako já nemůžete
vzpomenout, protože to není důležité. A přesně proto byla vytvořena
společnost OpenAI. Abychom se ujistili, že vznikající
superiteligence pro nás nebude nebezpečná a zároveň nás nebude
vnímat jako nepodstatné. Když jde o naše přežití,
nemůžeme to nechat náhodě.

Možná si říkáte, že umělá inteligence
je skvělá pro naši budoucnost. Méně práce pro nás, že? Ano, máte pravdu. Umělá inteligence, která je naším přítelem,
je jedním z pravděpodobných závěrů. Ale protože může být tak mocná,
jak zajistíme, že ji nezneužijí zlí lidé? Kdyby Severní Korea měla
umělou inteligenci jen pro sebe, jak by asi dopadlo USA? Rozhodně by to nebylo
nic pěkného na pohled.

To je druhá část poslání
společnosti OpenAI, kterou podle Elona je
demokratizovat superinteligenci. Je to jako situace Avengers. Kdybyste měli jen mimozemšťany,
mohli by si dělat, co by chtěli. Ale když máte i Hulka, Thora nebo Iron Mana,
kteří mají mimozemšťany pod kontrolou, svět je mnohem bezpečnější. Teď když rozumíme pozadí naší situace, můžeme se konečně ponořit do řešení, které formulovala OpenAI
s nejlepšími mozky na světě.

První agendou bylo identifikovat možná
bezpečnostní rizika umělé inteligence. Ty byly obsahem
29 stránek vědeckého článku. Tady je souhrn pěti
klíčových bezpečnostních rizik a jejich důsledků uvedených v článku. Článek také zmiňoval možnosti,
jak s těmito problémy naložit, ale pro zjednodušení
budu tuto část ignorovat. Odkaz na článek najdete pod videem.

Podle článku jsou
bezpečnostní rizika následující: Zaprvé se má agent umělé inteligence
vyvarovat vedlejších účinků. Zadruhé se agent umělé inteligence
musí vyhnout tzv. "úpravě odměny". Zatřetí musí být agent odolný
vůči distribučním posunům. Začtvrté musí agent
provádět bezpečný průzkum. A v neposlední řadě musí
agent provádět škálovatelný dohled. Upřímně řečeno, každý z těchto bodů
vydá na samostatné video. Ale protože je dnes
řeč o společnosti OpenAI a ne rizicích umělé inteligence,
tak se jimi zabývat nebudeme.

Kvůli možným problémům s rychle se
vyvíjející technologií umělé inteligence a naší neschopností
se s těmito změnami vyrovnat vytvořila OpenAI čtyři konkrétní cíle
pro další směřování společnosti. Všimněte si, že všechny čtyři cíle
jsou aktivity, na kterých se již pracuje. Uvidíte, jak do toho zapadá Dota 2,
jakmile je vám postupně představím. Tak jdeme na to. Prvním cílem je učinit
růst společnosti měřitelnějším.

OpenAI začala vytvořením
metrik pro své výsledky. To je velmi důležité,
protože se jedná o neziskovou organizaci, která za účelem skutečného pokroku
musí mít sadu metrik. Tyto metriky obsahují celou škálu
cvičných prostředí OpenAI Gym, které poskytují prostor
pro jednotnou akci a pozorování. Takže abych ten technický žargon upřesnil: OpenAI vytvořila několik výzkumných míst, která zahrnují hry,
robotiku a jazykové úlohy, aby mohla měřit kapacitu
vytvořeného agenta umělé inteligence.

Jedná se o open-source projekt, takže agenta umělé inteligence
může vytvořit kdokoliv na světě a výsledky budou sdíleny se všemi. Další tři cíle se týkají výzkumného cíle
společnosti a jsou spolu spojeny. Tudíž vám je představím najednou. Jsou to:
Postavit domácího robota. Postavit agenta s užitečnou mírou
pochopení přirozeného jazyka.

A také vyřešit několik her
pomocí jediného agenta. Tyto tři cíle spolu zdánlivě nesouvisí. Ale tak to není. Já vám to vysvětlím. Největší výzvou hlasových asistentů
je v současné době porozumění jazyku. Pokud jde o konkrétní dotazy, má většina
existujících řešení skvělé výsledky. Hlasoví asistenti jako Siri nebo Google
Assistant však postrádají komplexnost. V podstatě se od vás očekává,
že se budete ptát na určitou sadu otázek. Open IA chce dosáhnout všeobecného
pochopení jazyka na úrovni člověka.

Umělá inteligence musí zvládnout
pochopit kontext a odkazy. Když spolu navíc komunikují stroje,
můžou tak činit pomocí kódu a čísel. Tomu by lidé intuitivně nerozuměli, jazyk je totiž stále
rozhraním mezi lidmi a počítači. To je důvod, proč OpenAI klade
tak velký důraz na přirozené chápání jazyka a proč je to jeden z jejích technických cílů. Druhým cílem je postavit robota,
který zvládne plnit základní domácí práce. Teď už je vám nejspíš jasné,
jak spolu tyto cíle souvisí.

Se schopností zpracovat a analyzovat jazyk budou roboti schopni
provádět úkony na základě instrukcí. To je obzvláště náročné
pro univerzální roboty. V současné době už máme chytré lednice,
které vám pomůžou s online nákupem. Chytré vysavače a kávovary a tak dále. Nicméně, pokud po kávovaru
budete chtít uklidit podlahu a po lednici, aby uvařila kávu,
nebudou vám rozumět. OpenAI tedy chce
vytvořit inteligentní roboty, kteří se nakonec naučí
provést jakýkoliv zadaný úkol.

Tím se roboti stanou univerzálními. Nakonec je tu cíl,
kdy jeden agent vyřeší několik her. Je důležité,
aby všechny hry vyřešil jeden agent, jen tak se ukáže schopnost umělé inteligence
učit a přizpůsobit se. Jak jsem již zmiňoval, máme umělou inteligenci, která velmi
dobře zvládá specializované úlohy. Ale OpenAI chce,
aby se obecná umělá inteligence zvládla naučit a provést
jakoukoliv zadanou úlohu.

Teď například umíme
naučit umělou inteligenci, aby porazila světové hráče Doty
v souboji jeden na jednoho. Ale dokážeme stejnou
umělou inteligenci naučit hrát šachy? A to je účelem posledního
technického cíle společnosti OpenAI. Hry jsou také virtuální světy,
které simulují realitu v parametrech jako zdraví, peníze, růst, dovednosti atd. Proto hraní hry s umělou inteligencí může
vědcům přinést informace o tom, jak se v čase umělá inteligence zlepšuje a jak je ji také možné
využít v běžném životě.

Pro shrnutí poslání OpenAI bych závěrem
použil moudro ze seriálu Hra o trůny. Ačkoliv jsme každý den
zaneprázdněni válkami mezi sebou, skutečná hrozba na nás čeká severně od zdi. Protože... umělá inteligence se blíží. Díky za zhlédnutí. Překlad: sethe
www.videacesky.cz