V blízké budoucnosti existují superzbraně – autonomní drony, kterým k nalezení cíle stačí pouze několik údajů. Jak daleko může zajít lidská touha po lepších technologiích?
Podívejte se v krátkém filmu od DUST, s následným komentářem Stuarta Russella, profesora výpočetní techniky na univerzitě v Berkley.
Naši zákazníci provedli loni téměř 3 000 přesných úderů. Jsme na to moc pyšní. Můžete díky tomu odlišit špatné lidi od těch dobrých. A to je důležité. Máme ale něco ještě mnohem většího. PRIMÁRNÍ CÍL Vaše děti asi taky jeden mají, že? Ne tak docela.
OHROŽENÍ: ÚHYB Že je pilot třída? Ne. Ne, tohle vše dělá AI. Dron se ovládá sám. Procesor dronu reaguje 100krát rychleji než člověk. Ten neustálý pohyb je ochrana proti ostřelovačům. Jak je dnes běžné u všech mobilních přístrojů, má kamery a senzory.
A stejně jako vaše telefony či aplikace rozeznává tváře. Tady uvnitř jsou tři gramy trhaviny. Takhle to funguje. PRIMÁRNÍ CÍL Viděli jste to? Taková malá rána stačí, aby dron pronikl lebkou a zničil její obsah. Říká se, že nezabíjejí zbraně, zabíjejí lidé.
Inu, lidé nezabíjejí. Podlehnou emocím, neuposlechnou rozkaz, míří moc vysoko. Podívejme se, jak se rozhodují zbraně. Věřte mi. Všichni to byli lumpové. Tohle je letecký úder s chirurgickou přesností. Máme celou řadu produktů. Když vzájemně spolupracují, proniknou do budov, aut, vlaků, vyhnou se lidem, kulkám, obejdou téměř každé protiopatření.
Nelze je zastavit. Říkal jsem, že jde o velkou věc. Proč? Protože máme velké plány. Dívejte se. Za 25 milionů dolarů si dnes pořídíte toto. Dost k usmrcení půlky města. Té špatné půlky. Jaderné zbraně jsou přežitek. Zbavte se všech nepřátel prakticky bez rizika.
Prostě je označte, vypusťte hejno a buďte v klidu. Jsou k dispozici již nyní, máme distribuční síť, která přijímá zakázky od armády, policie a speciálních jednotek. Národ se stále vzpamatovává ze včerejšího incidentu, který úřady označují za automatizovaný útok, během kterého v budově Kapitolu zemřelo 11 senátorů. Přiletěly odevšad, útočily jen na jednu stranu uličky.
Byl to chaos, lidé křičeli… Vidíte malá okna ve výšce, která precizně perforovaly, aby se dostaly do budovy. - Jak jste oběti pomohl? - Udělal jsem, co šlo. Ty věci se o mě ani nezajímaly, jen bzučely… Vládní zdroje uvádějí, že zpravodajské služby netuší, kdo útok spáchal, zda šlo o stát, skupinu, či dokonce jednotlivce.
Pokud se nemůžeme bránit, vrátíme úder. Intenzivně se věnujeme tajným projektům ochrany… Ať máme odstrašující příklad jako u jaderných zbraní. Uděláme si zásoby. Miliony. Miliardy. …klíčových míst, jako je Bílý dům, Newyorská burza, Wall Street… - Je veřejnost doma v bezpečí? - Chceme mít vojáky v každé obci, ale… Olie? - Čau mami.
- Ahoj. Zlato, jak je dnes v Edinburghu, jak jde škola? - Dobrý. - Fajn. Dneska si nebudeme volat s obrazem? - Nó, mám tu kámoše… - Aha. No tak, Olivere, ukaž mi ji. Ale ne, takhle to není. Vidím tě tady s někým na fotkách a taky hodně lajků. - O co jde?
Jo a na tvé zdi… - Mami, tys dělala pro výzvědné služby? Cože? Co to tu máš za video? - Nebudu na to klikat. - To je jen o potlačování lidských práv, nebo tak něco… Zlato, nedal ses na politiku, že ne? Chci říct… Ne, mami. Tady je to bezpečný, přesně, jak jsi říkala. Na silnici A720 je dnes ráno hustý provoz. Policie dnes ráno neobjasnila, co vyvolalo poplach. Přijetí zákona o klidu zbraní by bylo proti tzv.
Robovrahům k ničemu. Vyhýbejte se davům, jste-li uvnitř, zatemněte okna. Chraňte svou rodinu. Zůstaňte uvnitř. Mami, mami! Olivere? Slyšíš mě? Olivere, slyšíš? Poslouchej mě. Slyším je. Bzučí někde blízko. Olivere.
Úřady stále nenacházejí vysvětlení pro útoky, vedené na vysoké školy po celé zemi, které cílily jen na některé studenty a na jiné ne. Pátrání po motivu se v tuto chvíli zaměřuje na sociální sítě a video, sdílené oběťmi, odhalující korupci na vysokých… Takže je často překvapivé, že zbraně snižovaly výdaje, nebezpečí a riziko válečného konfliktu. Teď si nemůžeme dovolit kohokoli zpochybnit, dokonce ani tu nejmenší skupinu nebo pomatence.
Kdo to mohl udělat? Kdokoli. Hloupé zbraně střílí, kam zamíříte. Chytré zbraně využívají data. Když můžete najít nepřítele pomocí dat, dokonce jen podle hashtagu, můžete podchytit zlou ideologii hned v zárodku.
Tento krátký film je víc než spekulace. Ukazuje výsledky toho, jak propojujeme a minimalizujeme stávající technologie. Jsem Stuart Russell, profesor IT na univerzitě v Berkley. V oblasti AI pracuji více než 35 let. Má potenciál lidstvu nesmírně prospět, i v oblasti obrany. Dovolit zbraním vybrat si, že zabijí lidi, bude pro naši bezpečnost i svobodu devastující.
Tisíce mých kolegů souhlasí. Máme možnost zabránit budoucnosti, kterou jste právě viděli, ale čas k akci se rychle krátí. Pro více informací jděte na Autonomousweapons.org. Přeložila: Mia www.videacesky.cz
MiaPublikováno: 6 let
