Koho sejme robotické auto: Matku s kočárkem nebo čtyři děti na chodníku?

Obavy, kam až mohou zajít schopnosti umělé inteligence, a nezodpovězené otázky odpovědnosti za její rozhodování, překotný vývoj robotů nebrzdí. Dokud ale nebudou chtít algoritmy samy chtít měnit svět, nemusíme se až tak podle odborníků bát. Přesto ho ale změní, třeba tím, jak se budou v případě krizových situací rozhodovat autonomní vozidla.
Škoda Octavia napěchovaná senzory pro autonomní řízení. Všimněte si charakteristického „majáku“ na střeše. Foto FAEI.cz/autor

„Pro investory bude etika u společností využívající umělou inteligenci pravděpodobně problémem. Existují také obavy týkající se porušování autorských práv, zatímco všudypřítomnost modelů by mohla přitáhnout i regulační kontrolu,“ shrnuje jedny z rizik zpráva společnosti Invesco.

Ani tyto obavy ale největší hráče nepřibrzdí. „Letos umělá inteligence ještě spíše posílí pozici velkých technologických společností. Google, Meta, Tencent a Alibaba mají přístup k mnohem větším souborům dat,“ konstatovala Eva Miklášová z Invesco.

Podle ní to vytváří potřebu vytvářet ještě rychlejší čipy schopné tyto obří datové balíky zpracovávat. Odborníci soudí, že je v překotném vývoji možností umělé inteligence každopádně klíčové, jak se nastaví etické limity, tedy hlavně jak roboti mohou ovlivňovat uživatele, respektive jejich rozhodování.

„V současnosti se, že žádný z těchto nástrojů sám nedokáže rozhodnout k akci, protože nemá touhu a vůli,“ konstatoval František Zeman ze společnosti Algotech.

Naplní algoritmy některé naše touhy?

„Člověk má touhu něčeho dosáhnout. Stroj jen reaguje na tyto naše touhy. Zatím to dělá dobře. Učí se s každým dotazem. Věřím tomu, že část našich tužeb bude schopen na základě dat, která má k dispozici, algoritmicky vyplnit,“ míní Zeman.

Připustil, že v momentě, kdy se dostaneme technologicky do stavu, že „bude chtít stroj sám něco měnit, tak bude mít lidstvo trochu problém“.

„Stejně jako člověk bude mít i tento sám sebe si uvědomující stroj okamžitě touhu po moci, kterou pak už nebude mít problém zhmotnit. Takže budu rád, pokud se tak daleko rozvoj umělé inteligence nedostane,“ zdůraznil Zeman.

Specialista společnosti Valeo vysvětluje návštěvníkům na letošní pražské automobilové výstavě Legendy možnosti autonomních vozů, a jak se testují. Foto FAEI.cz/autor

Rozhodování o životě a smrti v binárním kódu

Podle něho obří rozměr etiky u umělé inteligence vystihuje dilema autonomních vozidel. „V momentě, kdy bude mít takové vozidlo nehodu, tak není nikdo, kdo by nesl za událost odpovědnost. To je problém, zejména v případě, že se srazí s vozidlem, které řídí člověk a dojde ke zranění či úmrtí,“ zdůraznil Zeman.

Předpokládá, že výrobci softwaru, ani hardwaru se k takové odpovědnosti nikdy neupíšou. „Představte si situaci, kdy jede autonomní vozidlo po silnici, do které najednou vejde žena s kočárkem a vedle si na chodníku hrají čtyři děti. Do čeho auto vrazí, když zanalyzuje, že už situaci nezvládne vyřešit jinak?“ ptá se Zeman.

Umělá inteligence přemýšlí stále jen binárně, tak si vybere menší zlo, tedy podle Zemana zřejmě matku s kočárkem. Kdežto člověk by pravděpodobně dokázal najít řešení i v takové situaci. A pokud ne, bude člověk za svůj čin zodpovědný, kdežto autonomní vozidlo ne a pasažér uvnitř pravděpodobně také ne, protože do řízení nijak nezasahoval.

Zavřít reklamu
Sdílet článek
Diskuse 0
Sdílet článek
Diskuse k tomuto článku je již uzavřena
Kurzovní lístek
Chci nakoupit
Chci nakoupit
Chci prodat
EUR
EUR
USD
GBP
CHF
JPY
DKK
NOK
SEK
CAD
AUD
PLN
HUF
HRK
RUB