Hrozba zbraní s umělou inteligencíVeritasium

Thumbnail play icon
Přidat do sledovaných sérií 81
92 %
Tvoje hodnocení
Počet hodnocení:86
Počet zobrazení:8 860

Na kanálu Just Write došla (ta lepší) videa, od tohoto týdne tedy budeme ve čtvrtek od 17:00 vysílat Veritasium. Je to pořad o vědeckých tématech, který už u nás v minulosti pravidelně vycházel.

V tomto videu bude s animacemi na pozadí mluvit Stephen Fry o budoucnosti války – používání válečných robotů.

Přepis titulků

Vysvětlím to později, ale teď video uvedu v pěti slovech. Roboti zabijáci. Stephen Fry. Koukejte. Autonomní zbraně jsou považovány za třetí revoluci ve válčení po střelném prachu a atomových bombách. Mohli by vést rychlé a ničivé útoky v obrovském měřítku.

Tisíce expertů včetně Elona Muska a Stephena Hawkinga podepsaly otevřený dopis žádající zákaz těchto zbraní. INSPIRACE MILIONŮ LIDÍ 8. LEDEN 1942 – 14. BŘEZEN 2018 Tvrdí, že autonomní drony, které zabíjí lidi podle určitých kritérií, by mohly být realitou během několika roků namísto desetiletí.

Ale požadavky zákazu jsou odmítány deseti největšími armádami světa. Musk varoval, že mezinárodní závod ve vývoji UI je nejpravděpodobnější příčina třetí světové války. Můžeme tedy čekat katastrofu? Začneme momentální situací. Během Obamovy vlády se počet amerických vojáků ve válečných zónách snížil o devadesát procent.

Ale desetinásobně přibylo útoků dronů. Rusko vyvíjí několik bezpilotních tanků a zcela autonomní obrněná vozidla hlídkující u raketových základen. Amerika chce vylepšit své tanky Abrams, aby ovládaly robotický doprovod, který útočí na nepřítele a chrání tank s posádkou. Také zvažuje verzi ovládanou na dálku rychlého vozidla Ripsaw.

V letectví se už bez následků používají a brzy budou piloti ovládat doprovázející drony, které mohou být ozbrojené, testovat protivzdušnou obranu a držet nebezpečí dál od lidských pilotů. Všude na světě protiraketové obrany a drony oslabují moc zastrašování jadernými zbraněmi. Tohle je nová bezpilotní loď amerického námořnictva. Může ničit ponorky i cíle na hladině moře.

Její používání stojí dvacet tisíc dolarů za den, na rozdíl od pilotovaného torpédoborce, který stojí 700 000 za den. V simulaci výzkumné laboratoře vzdušných sil drony řízené pomocí UI opakovaně pokořily lidského pilota. Bývalý velitel vzdušných sil Jean Lee se bez úspěchu pokoušel dron sestřelit a pokaždé byl drony zničen.

Řekl, že drony zdánlivě znaly jeho úmysly a okamžitě reagovaly na jeho pohyby a střelbu. Autonomní zbraně by byly levně vyrobitelné a možná by na černém trhu byly dostupné teroristům a diktátorům. Nedávná zpráva od Komise pro vědeckou obranu požadovala okamžité urychlení vývoje vojenské UI a porozumění vývoje u ostatních mocností. Také poznamenala, že soukromé drony se rychle zlepšují a soukromé firmy jsou ve vývoji UI daleko před armádou.

Někteří lidé tvrdí, že UI sníží neúmyslné ztráty tím, že bude dělat méně chyb. Když voják něco považuje za hrozbu, jejich život závisí na rychlém rozhodnutí. Robot by na druhou stranu mohl reagovat zlomek vteřiny před útokem, nebo dokonce čekat, dokud na něj někdo nezaútočí. Ale tyto zbraně by mohly být efektivní i při atentátech, podrobení obyvatelstva a cíleného vyvražďování etnických skupin.

Druhá revoluce ve válčení svět přiblížila třetí světové válce při Kubánské krizi. Třetí revoluce by mohla být ještě nevyzpytatelnější. Musíme počítat s tím, že samotná UI může být ještě větší hrozbou. Mnoho expertů se domnívá, že lidskou inteligenci překoná za pár desetiletí.

Pak může ovládnout i všechny robotické zbraně na světě. Použila by je pro udržování míru, nebo k rychlému vyhlazení lidstva? Ať už si lidé udrží nadvládu nebo ne, závod ve zbrojení a vývoji UI může být Armageddon. Věříme, že zákaz, který je těžké udržet pod kontrolou, je lepší než svět zahlcený levnými, autonomními a anonymními zbraněmi.

Co si myslíte vy? Překlad: Šaman Bobo www.videačesky.cz

Komentáře (19)

Zrušit a napsat nový komentář

Odpovědět

Toto úspěšně směřuje k výroku Alberta Einsteina, který prohlásil: "Nevím, jakými zbraněmi bude vedena třetí světová válka, ale čtvrtá rozhodně klacky a kameny."

61

Odpovědět

vzdyt je to hrozny nesmysl :D pokud by se lidstvo vyhladilo na uroven, ze bychom se mlatili zase klacky a kameny, tak prece nebudeme schopni globalniho konfliktu, nebude to tedy 4. svetova valka :D

00

Odpovědět

ked niekto bude chcieť spáchať atentát, alebo vyvražďovať ľudí, tak k tomu drony rozhodne nepotrebuje :) tieto obavy ma nechávajú úplne chladným...Čím viac autonomnych zbraní, tým vyššia efektivita a menej mrtvych vojakov...a že sa to pacifistom nepáči? :D heh, no a? :) Pacifisti budú p*****? pokiaľ budú existovať hranice, armáda a všetci nebudeme obojpohlavný hnedý intelektuáli s menom Mahmud...

314

Odpovědět

Toto je absolútna blbosť, čo si napísal. Síce je možné vyvražďovať alebo páchať atentát aj bez dronov, ale tie zvyšujú šancu na úspech a efektivitu. Okrem toho je naivné myslieť si, že budú používané len na vojenské účely a nie na potlačovanie slobôd ľudí v diktátorských režimoch. Ty píšeš tieto tvoje sračky, lebo si nedokážeš predstaviť, že by to raz bolo použité proti tebe.

72

Odpovědět

Zákaz samotný nic nevyřeší, stejně se to bude někde zkoumat a zemím se zákazem ujede vlak.
Co by se ale mělo vyřešit je - kdo zodpovídá za AI a její činy? Z tohoto hlediska si myslím nesmíme dopustit polidštění AI = dát ji nějaké práva (jak ten soudobý občanský robot) a přenést na ni zodpovědnost. Veškeré právní důsledky chování AI musí nést její tvůrce, jinak z toho bude robotický divoký západ. Takže ne zákazy, ale jasná databáze a dohledatelnost od koho daný stroj pochází. Stejně jako každý pes musí mít pána, který je za něj zodpovědný.

90

Odpovědět

Jde o stejnou úmluvu, jakou jsou zákazy chemických a biologických zbraní, kazetových bomb, atp. Ano, vývoji a použití nezabráníš, ale významně to omezíš. O to jde.

10

Odpovědět

Selektivní vyhlazení etnických skupin. Hmm, to by se nám jednou mohlo hodit.

1119

Odpovědět

Tupí novinkáři už i zde? :(((

22

Odpovědět

ak nebude mat AI pristup k vyrobe tak zlyha ako vojnovy najstroj, kde by si našiel priestor na vyrobu dalšich dronov?

10

Odpovědět

Většina průmyslových zařízení na výrobu už je plně automatická. Na tohle téma jsme měli přednášku od lidí co dělají "AI" (strojové učení) přes 10 let, a říkají že se toho nebojí jelikož tohle všechno selže na paměti. Stroje sice jsou už v mnoha kategoriích lepší než lidé, ale nejsou až tak inteligentní, všechno jsou to instrukce a učení není tak úplně učení(jsou to tzv. "hloupé stroje"). Pro generalizaci učení už jsou nějaké pokusy, akorát jde o to že by se AI přeplnilo daty a selhalo by, jednoduché vyřešené, nic takového se nemůže stát zatím.

00

Odpovědět

AutonomousWeapons.org je sice chvályhodná iniciativa, ale reálně prostě nemá šanci uspět. Stejně tak jako v současnosti si může kdejaký studentík doma rozchodit TensorFlow, tak v době plnohodnotné AI to bude veřejně dostupná věc. Nikdo pak nezabrání Číně nebo jiné zemi, aby své stroje vybavila umělou inteligencí. A v reakci na to se bude muset podobně vyzbrojit i zbytek světa, jinak by v případné válce s takovou zemí měl zásadní nevýhodu.

Bude to v podstatě podobná situace jako v současnosti s jadernými zbraněmi. Hodně zemí je má hlavně proto, že je mají i ostatní.

51

Odpovědět

Já bych ty A.I. zakázala...

80

Odpovědět

Video je super, téma nadmíru zajíjamý a aktuální...
Má nějakej speciální důvod, že jsou titulky jen do konce animované části? (Něco rozbitýho u mě, něco rozbitýho u Vás?)

52

Odpovědět

Zbytek videa už není k tématu, ale propagace tvůrců animace a vysvětlení, proč poslední dobou nepřibývala nová videa od Veritasium na YouTube (což tady není moc relevantní). Proto jsem přeložil jen to hlavní :)

60

Odpovědět

+Šaman BoboJe nějaký speciální důvod, proč se tato informace neobjeví už předem v popisku videa?
Předešlo by se dotazům jako měl předřečník a zabránilo zbytečnému rozladění uživatelů z na první pohled "odfláknuté" práce překladatele.
Stačila by jen jedna univerzální větička použitelná u všech takovýchto souborů; např.:
"Nepřeložená část videa je reklamní a nemá s vlastním videem dějovou souvislost."

67

Odpovědět

+mykanecSorry jako, ale to ti nedošlo? Ty dnešní děti neumí používat selského rozumu.

00

Odpovědět

John Connor nás povede.

140

Používáme cookies, abychom mohli provozovat tuto internetovou stránku a zlepšit Vaši uživatelskou spokojenost. Budete-li pokračovat beze změny nastavení, předpokládáme, že souhlasíte s ukládáním souborů cookies z internetových stránek. Více informací o použití cookies.
OK