The umělá inteligence (AI) Celosvětově se etablovala jako jedna z nejvíce transformačních technologií ve vědě a inovacích. Podle Raye Kurzweila ve své knize Jedinečnost je blížAI zažije v nadcházejících letech exponenciální vývoj, který bude poháněn snížením nákladů a zlepšenou efektivitou výpočtů. Jak se technologie vyvíjí, uvidíme její konvergenci s dalšími nově vznikajícími technologiemi, jako jsou biotechnologie a neurovědy. Tyto pokroky však přinesou také významné výzvy související s etika, bezpečnost a soukromí, což bude vyžadovat důslednou regulaci a odpovědný přístup k maximalizaci jejich pozitivního dopadu na společnost.
V evropském kontextu nabízí AI jedinečnou příležitost (i) zlepšit konkurenceschopnost vůči Spojeným státům a Číně, (ii) urychlit přenos výsledků výzkumu na trha (iii) řešit složité výzvy v oblastech, jako je zdravotnictví, zemědělství, energetika, společenské vědy, správa věcí veřejných, kybernetická bezpečnost, vzdělávání a změna klimatu. Evropská unie řídila regulaci umělé inteligence pomocí politik, jako je „zákon o AI“, které zavádějí regulační rámec pro zaručení etického rozvoje a nasazení této technologie. Tyto iniciativy se snaží zajistit, aby umělá inteligence byla výkonná, ale zároveň respektovala základní hodnoty evropské společnosti, jako jsou lidská práva a udržitelnost.
Nástroje založené na umělé inteligenci mění způsob, jakým výzkumní pracovníci a společnosti řeší sociální výzvy. Ve zdravotnictví pokročilé systémy umělé inteligence, jako jsou modely hlubokého učení, zlepšují diagnostiku nemocí z lékařských snímků, předpovídají zdravotní rizika, urychlují objevování léků a vyvíjejí personalizovanou léčbu. Kromě toho možnost provádět „virtuální“ klinické studie bez potřeby skutečných pacientů představuje novou éru ve validaci léčby.
V tomto prostředí přijímají projekty výzkumu a vývoje v Evropě AI jako a křížový nástroj který zvyšuje efektivitu ve výzkumu, od predikce výsledků po automatizaci úkolů, masivní analýzu dat a vývoj inovativních řešení ve všech oblastech vědy a průmyslu. Přijetí umělé inteligence však také čelí značným problémům. Technologická složitost, předsudky v modelech umělé inteligence a nedostatek transparentnosti v některých systémech vyvolávají obavy o rovnost, soukromí a spravedlivost výsledků. Evropa musí zajistit, aby její investice do umělé inteligence vedly nejen z hlediska technologické kapacity, ale také při vytváření ekosystému, který podporuje důvěra veřejnosti a podpora spolupráce mezi veřejným a soukromým sektorem.
Nástroje založené na umělé inteligenci mění způsob, jakým výzkumní pracovníci a společnosti řeší sociální výzvy
Výzva je dvojí. Maximalizujte potenciál umělé inteligence k vytváření pokroku v klíčových sektorech a zároveň zajistit jeho etické použitírespektující základní práva a soukromí jednotlivců při jakémkoli rozhodování. Legislativa EU, jako např Obecné nařízení o ochraně osobních údajů (GDPR) a Zákon o AIhrají klíčovou roli při vyvažování těchto zájmů.
Etické a bezpečnostní aspekty
Jednou z hlavních výzev používání AI ve výzkumu a vývoji je zaručit její etické, spolehlivé a bezpečné používání. AI musí splňovat vysoké standardy transparentnost, vysvětlitelnost a lidská kontrola. To znamená, že algoritmy jsou auditovatelné, jejich rozhodnutí srozumitelná a dopady na soukromí jasné. EU stanovila klíčové zásady, jako je respekt k lidské autonomii a prevence škod, kterými by se měl řídit vývoj důvěryhodných systémů umělé inteligence.
Z hlediska zabezpečeníSystémy umělé inteligence musí být robustní a odolné vůči útokům a musí chránit jak osobní údaje, tak generované výsledky. To je zvláště důležité ve výzkumných prostředích, kde je integrita dat zásadní pro udržitelnost systému.
Budoucnost výzkumu a vývoje umělé inteligence v Evropě je plná potenciálu, ale také složitosti. Jak technologie postupuje, je nezbytné, aby se do vývoje a zavádění systémů umělé inteligence zapojili odborníci na etiku, bezpečnost a soukromí. Mít jasný etický rámec a pevné předpisy bude zásadní pro udržení vysokých standardů kvality ve vědeckém výzkumu a pro zajištění odpovědného využívání umělé inteligence.
Reference
- Etické pokyny pro používání umělé inteligence ve vzdělávání a školení (Evropská komise, 2022): Tento zdroj obsahuje pokyny pro použití umělé inteligence ve vzdělávací oblasti, které se zabývají jak výhodami umělé inteligence, tak etickými a bezpečnostními výzvami. Zejména se zaměřuje na význam transparentnosti, spravedlnosti a ochrany základních práv. Pokyny také navrhují regulační rámec pro systémy umělé inteligence, který je v souladu s politikami EU v oblasti ochrany soukromí a údajů.
- Pokyny pro důvěryhodnou umělou inteligenci (Skupina odborníků na vysoké úrovni Evropské komise, 2018): Tyto pokyny vytvářejí rámec pro etické a robustní umělé inteligence, založené na základních etických principech, jako je lidská autonomie, prevence škod a spravedlnost. Poskytují návod, jak důvěryhodným a odpovědným způsobem vyvíjet, nasazovat a používat systémy umělé inteligence, přičemž zdůrazňují důležitost zajištění technické spolehlivosti a lidského dohledu.
- Living Guidelines on the Responsible Use of Generative AI in Research (Evropská komise, 2025): Tento dokument se zaměřuje na odpovědné používání generativní umělé inteligence ve výzkumu a zdůrazňuje klíčové principy, jako je spolehlivost, poctivost, respekt k právům účastníků výzkumu a odpovědnost výzkumníků. Doporučení se rovněž zabývají vhodnou správou ochrany soukromí, důvěrnosti a práv duševního vlastnictví a zároveň podporují udržitelnost ve využívání umělé inteligence ve vědeckém výzkumu.
- Pravidla pro transparentnost obsahu generovaného umělou inteligencí (Evropská komise, 2025): Kodex postupů zaměřený na zajištění transparentnosti obsahu generovaného umělou inteligencí v souladu s článkem 50 zákona o umělé inteligenci.
Fernando Gomez
Technický manažer evropských fondů ve společnosti Euro-Funding
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
