Rok 2024 by mohol vyzerať ako „1984“, varuje prezident Microsoftu

Rok 1984 nám nie je až taký vzdialený. Netreba ho ale hľadať v minulosti. Prezident spoločnosti Microsoft Corporation Brad Smith pri svojom tvrdení, že rok 2024 by mohol vyzerať ako rok 1984, naráža na román britského spisovateľa Georgea Orwella, v ktorom hrá veľkú rolu aj umelá inteligencia.

Dokumentárny program televízie BBC Panorama sa v posledných dieloch pozrel na rolu umelej inteligencie pri pretváraní sveta, pričom nevynechal pohľad na vedecké objavy aj hrozivé následky, aké môžeme očakávať v prípade, že sa nám technológia vymkne z rúk.

Dokument opisuje aj to, ako vlády na celom svete pristupujú k umelej inteligencii ako k nástroju na stráženie občanov. Asi najvýraznejším príkladom je v tomto smere Čína, ktorá sa do roku 2030 chce stať jednotkou v oblasti AI (umelej inteligencie). Technologický pokrok pri sledovaní občanov využívajú aj ďalšie štáty, vrátane Spojených štátov, ktoré v roku 2020 použili softvér na rozpoznávanie tváre pri dohliadaní na dodržiavanie zákona na protestoch Black Lives Matter.

Mnohé osobnosti upozorňujú na to, že používanie umelej inteligencie na zabezpečenie všeobecného poriadku poskytuje nebezpečný precedent.

Svet AI by nefungoval bez prístupu k dátam používateľov internetu. Najcennejšou komoditou na svete už dávno nie je ropa, ale informácie o vašich koníčkoch, o tom, kde sa pohybujete, s kým sa kamarátite a pre koho pracujete. Tieto údaje sa okrem iného môžu zneužiť na predpovedanie a ovplyvňovanie vášho správania. Umelá inteligencia vie tiež rozoznať vaše sociálne postoje a predsudky len na základe toho, ako sa správate v online priestore. To však neznamená, že sa nemôže mýliť.

„Neustále si pripomínam poučenie z knihy Georgea Orwella 1984,“ hovorí v dokumente prezident spoločnosti Microsoft Corporation Brad Smith. „Hlavná dejová línia sa zaoberá vládou, ktorá vidí všetko, čo občania robia a počuje všetko, čo hovoria. V roku 1984 k takému scenáru síce reálne nedošlo, ale ak si nedáme pozor, dočkáme sa toho v roku 2024,“ varuje Smith, podľa ktorého by sa už dnes mali prijímať zákony na zaistenie bezpečnosti verejnosti.

Obavy z budúcnosti netrápia len prezidenta Microsoftu. Aj mnohí vedci a technológovia už viackrát upozornili na rastúci vplyv umelej inteligencie a žiadali jej regulovanie. S neustálym zdokonaľovaním inteligencie AI sa čoskoro môže stať, že jej moc sa nám vymkne z rúk.

„Som veľmi blízko k dosiahnutiu vrcholu v oblasti AI a mám z toho plné gate,“ povedal Elon Musk ešte v roku 2018. „Poznačte si moje slová, AI je oveľa nebezpečnejšia ako atómovka. Oveľa. Prečo ju teda nijako neregulujeme,“ pýtal sa Musk, ktorý je generálny riaditeľ a zakladateľ spoločnosti Tesla a vlastník firmy SpaceX.