Úvod Quanta SMART Spoločnosť Bosch navrhla etický kódex umelej inteligencie

Spoločnosť Bosch navrhla etický kódex umelej inteligencie

13

Bosch si stanovil zásady pre používanie umelej inteligencie. Jeho hlavné princípy sú: Umelá inteligencia by mala byť bezpečná, robustná a sledovateľná a nesmie o ľuďoch rozhodovať bez ľudí.

Umelá inteligencia je pre Bosch kľúčovou technológiou. Od roku 2025 by všetky produkty Bosch mali mať umelú inteligenciu alebo by mali byť vyvíjané alebo vyrábané s ich pomocou.

Spoločnosť tvrdí, že jej produkty umelej inteligencie sú bezpečné, robustné a sledovateľné. „V prípade, že umelá inteligencia nie je pre človeka blackboxom, vzniká dôvera, ktorá sa stáva kľúčovým prvkom kvality v prepojenom svete,“ povedal Michael Bolle, CDO a CTO spoločnosti Bosch. Spoločnosť Bosch sa zaviazala vyrábať dôveryhodné produkty umelej inteligencie. Kódex vychádza z motta spoločnosti Bosch „Stvorené pre život“, ktorý spája snahu o inovácie so spoločenskou zodpovednosťou. V budúcich dvoch rokoch plánuje Bosch vyškoliť 20 000 svojich zamestnancov pre používanie umelej inteligencie. Program zahŕňa kódex umelej inteligencie pre zodpovedné používanie technológie.

Bosch
Bosch: “Umelá inteligencia nemsie o ľuďoch rozhodovať bez ľudí.”

Umelá inteligencia je motorom celosvetového pokroku a rastu. Napríklad poradenská spoločnosť PwC očakáva, že hrubý domáci produkt v Číne vzrastie do roku 2030 o 26 percent, v Severnej Amerike o 14 percent a v Európe asi o 10 percent. Či už ide o mobilitu, medicínu alebo poľnohospodárstvo – v takmer všetkých oblastiach života môže technológia pomôcť prekonať výzvy ako napr. ochrana klímy a optimalizovať výsledky.

O ľuďoch iba s ľuďmi

Vyhodnocujú sa veľké objemy dát, algoritmy vyvodia závery a sú schopné rozhodovať. Ešte pred zavedením záväznej EÚ normy sa spoločnosť Bosch vedome zaoberá etickými otázkami, ktoré sa pri používaní novej technológie objavili. Morálnym základom pre to sú hodnoty, ktoré sú definované vo Všeobecnej deklarácii ľudských práv.

Podľa Kódexu umelej inteligencie spoločnosti Bosch nesmie umelá inteligencia rozhodovať o ľuďoch bez ľudského dohľadu. Skôr by mala ľuďom slúžiť ako nástroj. Sú možné tri scenáre. Ich spoločný menovateľ: Človek si ponecháva kontrolu nad rozhodnutiami produktov umelej inteligencie vyvinutých spoločnosťou Bosch.

Bosch

V prvom scenári je umelá inteligencia čistým pomocníkom – napríklad v aplikáciách na podporu rozhodovania, v ktorých sú ľudia podporovaní pri klasifikácii predmetov alebo živých bytostí (Human-in-command). V druhom scenári inteligentný systém sám prijíma rozhodnutia, ktoré však človek môže kedykoľvek zmeniť (Human-in-the-loop). Príkladom je poloautomatická jazda: Človek môže napríklad priamo zasiahnuť do rozhodnutia parkovacieho asistenta. V treťom scenári, napríklad v prípade asistenta núdzového brzdenia, stanovili odborníci určité parametre ako základ pre rozhodnutie umelej inteligencie počas vývoja inteligentného produktu, nemôžu však zasiahnuť do samotného rozhodnutia. Potom vývojár skontroluje, či stroj dodržal špecifikácie dané človekom. Ak je to nutné, môže parametre zmeniť (Human-on-the-loop).

Problém, ktorý treba artikulovať

 

Svojím Kódexom umelej inteligencie chce Bosch taktiež prispieť k spoločenskej debate o umelej inteligencii. „Umelá inteligencia zmení všetky oblasti života,“ povedal Denner. „Je preto nutná široká spoločenská diskusia.“ Okrem technického know-how je na vytvorenie dôvery v inteligentné systémy dôležitá taktiež úzka diskusia s politikmi, vedcami a spoločnosťou. Spoločnosť Bosch je preto zastúpená v expertnej skupine na vysokej úrovni Európskej komisie v Bruseli, ktorá sa tiež zaoberá etickým rozmerom umelej inteligencie. V globálnej sieti v súčasnosti so siedmimi závodmi a v spolupráci s University of Amsterdam a Carnegie Mellon University v Pittsburghu v USA spoločnosť taktiež robí výskum v oblasti bezpečnej a dôveryhodnej umelej inteligencie.

Čítajte viac: Japonci učia roboty používať príbory. Chcú, aby starým osamelým ľuďom uľahčili život

Vo výskumnej sieti Cyber Valley v Bádensku-Württembersku je Bosch zakladajúcim členom a do výstavby centra umelej inteligencie investuje 100 miliónov eur. V blízkej budúcnosti tam bude spolupracovať približne 700 odborníkov firmy Bosch, externých výskumných pracovníkov a pracovníkov „startupov“. Digital Trust Forum, ktoré založila spoločnosť Bosch a ktorých jedenásť účastníkov sa znovu stretne na akcii Bosch ConnectedWorld 2020, je taktiež o úzkej spolupráci odborníkov z popredných medzinárodných asociácií a organizácií. „Naším spoločným cieľom je zaistiť bezpečný a dôveryhodný internet vecí,“ povedal Bolle.

Na prvý pohľad: Zásady kódexu umelej inteligencie spoločnosti Bosch:

  • Každý produkt umelej inteligencie od spoločnosti Bosch by mal zodpovedať nášmu mottu Stvorené pre život, ktorý spája snahu o inovácie so spoločenskou zodpovednosťou.
  • Umelá inteligencia by nemala rozhodovať o ľuďoch bez ľudskej kontroly. Umelá inteligencia by mala človeku slúžiť ako pomôcka a nástroj.
  • Chceme vyvíjať bezpečné, robustné a sledovateľné produkty umelej inteligencie.
  • Dôvera je jednou zo základných hodnôt našej spoločnosti. Naším cieľom je vývoj dôveryhodných produktov umelej inteligencie.
  • Pri vývoji produktov umelej inteligencie dodržujeme právne požiadavky a orientujeme sa na etické zásady.