K umělé inteligenci, ochraně dat a občanství

Projev Pavla Fischera na 14. schůzi Senátu ve 13. funkčním období dne 21. července 2021 k Návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie (senátní tisk EU N 041/13)

Vážený pane předsedající, pane ministře, dámy a pánové,

já jsem chtěl velmi poděkovat všem, kteří přinesli toto téma dnes do Senátu. Můj předřečník brilantně shrnul šíři problému, který máme dnes na stole a který neřešíme zdaleka poprvé. Začíná to tím, že nám někdo online poradí, kam kliknout, aby nám zkrátil hledání. Zkouší nám potom nabízet řešení, ale kde je ta hranice mezi nabídkou a aktivním ovlivňováním našeho rozhodování? Kde potom vede hranice mezi svobodou nabídky a diskriminací? Kde začíná nárok na absolutní ochranu soukromí a kde končí marketingový sběr informací o uživatelích, o zákaznících nebo o voličích? Kde začíná šmírování a kde je právo na spravedlivý proces a na obhajobu?

Pokud se pohybujeme na veřejném prostranství, kde jsou instalovány kamery, takzvaně z důvodů zvýšené bezpečnosti, kde začíná policejní stát, a může to být samozřejmě i rozhodnutím soukromých společností, kdy nás bude vytahovat z davu, zkoušet identifikovat podle tváří nebo podle biometrických znaků, se kterými, tak jak známo, jsme všichni tak trochu podezřelí? Kde končí svoboda toho závratného prostoru, kde se potkává s naší svobodou myšlení a kde začíná cenzura? Zdá se mi, že skutečně mluvíme o něčem velmi závažném, protože za pomoci umělé inteligence se mohou dnes, jak známo, vytvářet také falešné, cíleně zfalšované zprávy. Může se masivně průmyslově vytvářet propaganda. A začíná být nemožné rozlišit realitu od těch hlubokých manipulací nejen s textem, ale i s obrazem nebo s hlasem.

Nedávno mě zaujala zpráva, že jedna z největších světových firem shromažďuje data, shromažďuje obrovskou banku informací o pacientech, kteří prošli nejrůznějšími testy. Tahle firma se jmenuje BGI. Sbírá vzorky v celém světě. A protože sídlí v Číně, tak v rozporu s GDPR a ochranou soukromí a práv pacientů provádí sekvenování genomu, například za účely vojenství. Tohle bychom mohli brát jako sci-fi. Tahle firma ale prostřednictvím jedné ze společností ze známého svěřenského fondu našeho pana premiéra sbírá také informace u nás v našich nemocnicích nebo laboratořích. Co s tím?

Zdá se mi, že musíme právě toto veliké téma přinášet, vyhodnocovat dopady rozvoje technologie, požadovat transparentnost, hlídat, kdo za tato data odpovídá a podle jakých pravidel se tam rozhoduje. A vyžadovat, aby nejenom privátní firmy, privátní operátoři, ale i veřejné instituce skládaly účty. Parlament je tím místem, kam bychom měli přicházet. Ukazuje se, že bychom, měli na těchto věcech pracovat na evropské úrovni, kde platí pravidla jednotného trhu. Proto jsem chtěl poděkovat evropskému výboru, že toto téma sem přináší, a poděkovat panu ministrovi za to, jak nám vysvětlil, s jakou prioritou k této otázce rozvoje umělé inteligence přistupuje dnešní vláda. Je to jistě dobře, ale my musíme z toho učinit prioritu i pro nás, kteří kontrolujeme, zda některé technologické vynálezy náhodou nejsou jako ti džinové vypuštění z lahve, které tam bude hrozně těžké vracet nazpátek.

Mluvíme o ochraně dat každého z nás, o ochraně soukromí, o ochraně základních práv a svobod. O důrazu, aby ten svět offline, ten svět kamenných institucí, měl také odpovídající rozměr v online světě. A tak nás to vede k otázce, co je vlastně člověk? Jestli bereme člověka jako partnera, nebo jako někoho, koho stačí jenom sledovat, protože vypadá podezřele. Je pro nás člověk uživatel, zákazník, anebo se vrátíme do ideálu republiky, kde je pro nás člověk přeci především občan? A občan, to je suverén. A v tomto smyslu je toto téma tématem, které sluší parlamentu. A proto jsem tak rád, že o něm dneska tady můžeme mluvit. Jak říkal můj předřečník, rozhodně to není poprvé a rozhodně to není naposled. Ta antropologická otázka, co je člověk, právě v kontaktu se světem moderních technologií a raketovým rozvojem umělé inteligence, má svoji plnou hodnotu a plné místo. Je to otázka výsostně politická, patří do parlamentu a děkuji všem, kdo ji sem dnes přinesli.