FUNKCE SCIOLINKU

Regulace AI ve vzdělávání? Ano, ale nelze na ni pohlížet jako na univerzální riziko, jsou tam velké rozdíly

Regulace AI ve vzdělávání? Ano, ale nelze na ni pohlížet jako na univerzální riziko, jsou tam velké rozdíly

V červnu letošního roku se poslanci Evropského parlamentu shodli na regulaci používání umělé inteligence (AI). Nyní začnou se zeměmi EU jednání o konečné podobě zákona. Cílem je dosáhnout dohody do konce letošního roku. První komplexní zákon o AI na světě, tzv. AI Act, má zajistit lepší podmínky pro rozvoj a využívání této inovativní technologie v Evropě. Předkládaná agenda evropské směrnice o regulaci AI pracuje také s využitím AI v oblasti vzdělávání, které je univerzálně vnímáno jako rizikové, a do této oblasti spadá také e-proctoring, který Scio využívá při svých online zkouškách. Jak se na regulaci AI ve vzdělávání díváme ve Scio? Vyzpovídali jsme vedoucího rozvoje platformy pro online testování ScioLink, Martina Drnka. 

Jak hodnotíte návrh nařízení o evropském přístupu k AI (AI Act), který rozlišuje čtyři plus jednu skupinu systémů AI podle míry rizika? Souhlasíte s kritérii a kategoriemi, které jsou v návrhu stanoveny?

Opakovaně říkáme, že regulace AI je potřeba a stejně tak, že i e-proctoring potřebuje jasný právní rámec. Respektive vymezení toho, jak má vypadat řádné využití proctoringu a co už je tzv. za hranou.

Navržený přístup ze strany EU je však z našeho pohledu problematický. Obecně se velmi podezíravě dívá na jakékoliv využití AI ve vzdělávání a proctoring zařazuje do skupiny s nejvyšší úrovní rizika. Vychází se z obavy, že by AI nějakým způsobem mohla rozhodovat o budoucnosti lidí, jejich vzdělávání. 

Prakticky se nic takového však neděje a navržená úprava nereflektuje, že existují různé typy proctoringu. Live proctoring je model, kdy celou zkoušku sleduje školený lidský proktor živě, automatizovaný proctoring s lidskou kontrolou vytváří záznam, který následně opět prochází školený proktor. Pouze použití automatizovaného proctoringu bez lidského zásahu by mělo být vnímané jako velmi rizikové. Současná úprava však komplikuje budoucí využití technologie i systémům, které mají standardizovaný lidský prvek v průběhu kontroly. Vše, co se označuje jako proctoring, tak aktuální úprava hází do jednoho pytle a označuje za rizikové.

Vše, co se označuje jako proctoring, aktuální úprava hází do jednoho pytle a označuje za rizikové. Nereflektuje, že existují různé typy proctoringu. /

Jaké jsou podle vás hlavní výhody a nevýhody zákazu vzdálené biometrické identifikace ve veřejném prostoru v reálném čase bez výjimek, který prosazuje europoslanec Marcel Kolaja? Jak se tento zákaz dotýká vaší činnosti v oblasti online testování?

Zde osobně postoj pana Kolaji a EU plně podporuji. Jakékoliv systematické sbírání biometrie ve veřejném prostoru a bez souhlasu lidí je nebezpečné. Zvláště ve spojení se systémy AI. Je pak už jen malý krůček ke světu, který si ve své době nedokázal představit ani Orwell v 1984. Praktické důsledky už nyní můžeme sledovat například v Číně, kde je to doplněno i o prvky social scoringu. Z mého pohledu děsivá kombinace technologií a kontroly obyvatelstva.

Nás ve Scio se toto omezení nijak nedotýká. Bylo nám jasné, už když jsme systém ScioLink začali vyvíjet, že biometrii ve ScioLinku nechceme. Prakticky nemá z našeho pohledu využití biometrie velký význam. Víme, že některé proctoringové systémy s biometrií umějí pracovat, dle našeho pohledu a zkušenosti však nepřináší tento přístup žádnou přidanou hodnotu a v reálném světě je velmi chybový. Problém například je, že webové kamery účastníků testování nejsou schopny vytvořit záznam v takové kvalitě, aby biometrii bylo možné aplikovat s dostačující přesností. Toto by ve světě proctoringu mělo být tedy zakázáno, nebo jasně regulováno. Dále je při využití biometrie nutné mnohem důsledněji ošetřit nakládání s daty. Držet například údaje o průkazu totožnosti je již nyní velmi citlivé. Oproti tomu uchovávat a zpracovávat biometrické údaje je něco, co v kontextu účelu, tedy online zkoušky, je dle mého už za hranou přípustnosti.

Jak se díváte na rizika systémů odhalujících podvody při školním testování, tzv. e-proctoring? Jaké opatření jste přijali ve Scio, abyste zajistili spravedlivost, bezpečnost a transparentnost online zkoušek se vzdáleným dohledem?

V prvé řadě je třeba zdůraznit, že technologie je zde jen pomocník. Většinu práce stále zastává člověk. V našem případě jsme již od počátku zavedli pravidlo, že vyloučení účastníka ze zkoušky musí být schváleno vždy minimálně dvěma školenými lidskými proktory. 

Férovost a transparentnost zkoušek je následně založena na principu, že všem jsou známá pravidla zkoušky a všichni mají srovnatelné podmínky v jejím průběhu. Pravidla jsou aplikována při kontrole na každého stejně. V médiích či na sociálních sítích se občas objeví zpráva o tom, že při těchto zkouškách se dá jednoduše podvádět. Z naší zkušenosti to však není tvrzení založené na datech a zkušenosti. Máme např. srovnání výsledků shodných testů, které uchazeči dělali online a i prezenčně. Nic nenasvědčuje tomu, že by při online zkouškách docházelo k systematickému podvádění.

Co se týče bezpečnosti, je to komplexní otázka. Nicméně z širší perspektivy jde o soubor vnitřních pravidel a postupů, které mají zajistit, aby se s daty účastníků pracovalo s maximální šetrností, aby bylo zřejmé kdo a kdy k datům může přistupovat a nakládat s nimi. To je náš interní závazek a jedno z témat, na které ve Scio dlouhodobě dbáme už od dob prezenčních testů.

Technologie je při online testování ve Scio jen pomocník. Většinu práce stále zastává člověk.

Jaké jsou podle vás hlavní výzvy a překážky pro širší uplatnění e-proctoringu v České republice i na Slovensku?

V prvé řadě je potřeba odbourat obavy, spojené s férovostí tohoto přístupu. Setkáváme se i po více než 4 letech aktivního využívání těchto služeb s neporozuměním. A osobně vidím i jeho zdroj. V období lockdownů proctoring zkusila aplikovat v zahraničí velká škála škol a univerzit. Bez znalosti pravidel, nastavených procesů a jakéhokoliv standardu napáchala jejich praxe hodně reputačních škod. Ne vždy byla technologie využita vhodně. Vytvořil se obrázek nespolehlivé a rizikové technologie. To však nikdy nebyl náš případ ve Scio a i celosvětově se přístup za poslední léta významně proměnil.

Pak je tu oblast, ve které máme i my ve Scio stále hodně práce před sebou, a to je edukovat uchazeče, jak projít zkouškou řádně a bez komplikací. I nízká procenta uchazečů, které vyloučíme kvůli formálním nedostatkům z jejich strany, nás trápí a chceme množství takto vyloučených uchazečů dále snižovat. I proto na letošní sezónu chystáme velký redesign klientské aplikace.

Jak se snažíte přesvědčit vysoké školy a další instituce o spolehlivosti a efektivitě vaší online testovací platformy?

Zejména čísly a zkušenostmi. Dnes již existují fakulty a univerzity, které s námi budou testovat třetí či čtvrtou sezónu online. A rozhodně se nejedná o okrajové instituce, ale například největší lékařské fakulty na Slovensku. U nich je rozhodně liché přesvědčení, že bezpečnost a spolehlivost neřeší. Z mého pohledu podobné příklady jsou jasným argumentem i pro ostatní.

Je důležité si uvědomit, že pokud budeme chtít ověřovat i jiné věci než faktografické znalosti, které se uchazeči naučí nazpaměť, pak online testování nabízí širší škálu možností. Zvláště pokud hovoříme o ověřování měkkých dovedností.

Jak vidíte budoucnost online testování ve vzdělávání? Jaké jsou vaše dlouhodobé cíle a plány pro rozvoj ScioLinku? Jaké nové funkce nebo služby byste chtěli nabídnout svým klientům a partnerům?

Online testování vnímáme jako už trvalou a důležitou část našich služeb. Uvědomujeme si, že v některých konkrétních případech může být stále lepší varianta klasická tužka a papír. Takových případů však bude i s vývojem technologie ubývat a výhody on-line testování převáží.

Je důležité si uvědomit, že pokud budeme chtít ověřovat i jiné věci než faktografické znalosti, které se uchazeči naučí nazpaměť, pak online testování nabízí širší škálu možností. Zvláště pokud hovoříme o ověřování měkkých dovedností.

Ve ScioLinku se nyní soustředíme zejména na uživatelskou část aplikace, protože víme, že zde máme jistý dluh vůči uchazečům s různými typy handicapů. Intenzivně řešíme jak aplikaci upravit, aby ji např. mohli používat i nevidomí zájemci o studium na VŠ. Směrem k partnerům řešíme optimalizaci a automatizaci procesů, které jsou často velmi citlivé. Jde například o předávání a digitalizaci testů pro účastníky, předávání seznamů účastníků apod.

PRVNÍ KROK JE NA VÁS

Vším vás provedeme

Kontaktujte nás