top of page

AI Act: Směrem k inovativní a bezpečné budoucnosti v oblasti umělé inteligence

Evropská unie se připravuje na spuštění nejmodernější legislativy v oblasti umělé inteligence, která slibuje, že bude nejúplnější a pokročila na globální úrovni.



Hlavním cílem této legislativy je podporovat rozvoj umělé inteligence a zároveň zajistit plné dodržování základních lidských práv . Po vyčerpávajících jednáních, která během tří dnů trvala přes 36 hodin, dosáhly tři hlavní evropské instituce – Evropský parlament, Evropská komise a Evropská rada – politické dohody o tzv. AI Act. Přestože text vyžaduje v nadcházejících týdnech další upřesnění, dosažená dohoda zaručuje, že legislativa bude ratifikována do konce současného parlamentního mandátu a následně v následujících dvou letech postupně implementována. Tento výsledek nebyl vůbec zřejmý, zejména s ohledem na rozdílné výchozí pozice: na jedné straně Evropský parlament, více nakloněný ochraně občanských práv, a na druhé straně národní vlády, více orientované na potřeby hospodářského rozvoje a veřejné objednávky.


Jeden z nejchoulostivějších bodů jednání se týkal regulace nejpokročilejší umělé inteligence, jakou vyvinuly přední společnosti jako OpenAi , Meta a Google. Ve čtvrtek byla překonána překážka související s těmito technologiemi: budou podléhat závazným předpisům o transparentnosti a bezpečnosti, spíše než jednoduchým kodexům chování na dobrovolném základě. Kromě toho bylo dosaženo kompromisu v posledním kritickém bodě, konkrétně v použití aplikací umělé inteligence v policejním sektoru: biometrické rozpoznávání, abych zmínil jeden z nejkontroverznějších aspektů, bude povoleno pouze v případech závažných trestných činů a bude podléhat soudnímu povolení. .


Evropský komisař Thierry Breton oslavil tento okamžik tím, že jej označil za historický a zdůraznil, že zákon o umělé inteligenci představuje odrazový můstek pro výzkumníky a evropské společnosti, aby se dostali do čela globálního závodu umělé inteligence. Brando Benifei, poslanec Evropského parlamentu za Demokratickou stranu a zpravodaj legislativy, zdůraznil, že tento zákon staví práva a svobody do středu vývoje této revoluční technologie, přičemž vyvažuje inovace a ochranu. Přetrvává však řada nejistot ohledně konečné rovnováhy, aplikace a účinnosti zákona o umělé inteligenci.


Jádro zákona o umělé inteligenci spočívá v klasifikaci aplikací umělé inteligence na základě úrovně rizika, které představují pro základní práva. V této souvislosti jsou zakázány některé oblasti považované za nadměrně rizikové, jako jsou sociální skórovací systémy, které již byly v některých zemích teoretizovány a testovány, a ty, které manipulují s lidskými rozhodnutími a chováním. Algoritmy rozpoznávání emocí budou zakázány ve školách a na pracovištích, přičemž se zdá, že budou schopny najít uplatnění v kontextech souvisejících s imigrací a bezpečností, jak požadují vlády. Evropský parlament dosáhl významného vítězství v oblasti kategorizačních systémů založených na citlivých údajích, jako je rasa, náboženství, sexuální orientace, které budou zakázány.


Zákon o umělé inteligenci, legislativní návrh Evropské unie, se prezentuje jako ambiciózní krok vpřed při řešení problémů, které představuje umělá inteligence. Tento zákon si klade za cíl být globálním modelem pro regulaci umělé inteligence, který klade do středu zájmu lidská práva a bezpečnost, aniž by zanedbával inovace a ekonomický růst.


Nařízení je rozděleno do různých úrovní a rozděluje aplikace umělé inteligence do kategorií podle rizika, které představují. Aplikace s nízkým rizikem, jako jsou chatboti a algoritmy doporučení, budou podléhat minimálním požadavkům na transparentnost. U středně rizikových technologií, jako jsou technologie používané ve zdravotnictví nebo dopravě, budou vyžadovány větší záruky, pokud jde o bezpečnost a spolehlivost.


Zásadní aspekt legislativy se týká zpracování osobních údajů. Zákon o AI zavádí přísná omezení používání biometrických údajů, jako jsou otisky prstů nebo rozpoznávání obličeje, přičemž jejich použití omezuje na konkrétní případy a je pod přísnou kontrolou. Kromě toho vyžaduje, aby algoritmy umělé inteligence používané pro profilování a pro rozhodnutí, která mají významný dopad na životy lidí, byly transparentní a vysvětlitelné, aby bylo zaručeno právo na odvolání.


Plánují se také opatření na podporu inovací. Zákon o AI podporuje vytváření "sandboxů" regulační, prostory, kde mohou společnosti experimentovat s řešeními umělé inteligence v kontrolovaném prostředí a získat podporu a pokyny od úřadů. Tento přístup má za cíl vyvážit potřebu regulace s potřebou nedusit technologický pokrok.


Zákon o AI také stanoví mechanismus dohledu a kontroly s vytvořením evropského orgánu, který bude mít za úkol sledovat implementaci zákona a zasahovat v případě porušení. Sankce pro společnosti, které nedodržují předpisy, budou přísné, s pokutami, které mohou dosáhnout 4 % celosvětového obratu.


Reakce na nové nařízení byly smíšené. Někteří odborníci a aktivisté za digitální práva chválili holistický přístup EU, jiní ji kritizovali za to, že není dostatečně přísný vůči velkým technologickým společnostem. Na druhou stranu technický průmysl vyjádřil obavy z možnosti, že by příliš přísná pravidla mohla bránit inovacím.


Závěrem, AI Act představuje významný krok v regulaci umělé inteligence, který se snaží vyvážit rizika a přínosy této rychle se vyvíjející technologie. Jak bude implementováno a jaké dopady bude mít na technologický sektor a společnost jako celek, se teprve uvidí.

107 vues0 commentaire

Comments


bottom of page