Event report

A workshop első része a szakértői előadás feldolgozása és a témához tartozó saját élmények, tapasztalatok megosztása volt. Itt gyűjtöttük továbbá össze, hogy milyen értékek, érzések, elvárások fogalmazódnak meg a résztvevőkben a téma kapcsán. A második részben a résztvevők ötletelni kezdtek, majd priorizálták az így megszületett felvetéseket, javaslatokat, mindkét asztalnál a két-két legfontosabbat meghatározva. Ezek a prezentálásra kerültek az előadónak, aki további megfontolásra érdemes szempontokat, perspektívákat fűzött hozzájuk. A harmadik blokkban a csoportok a két legfontosabbnak értékelt EU felé címzett javaslat részletes kibontásán dolgoztak. A résztvevők kiemelték, hogy az AI-jal kapcsolatos szabályozások egyik kihívása, hogy az AI fejlesztések nagyon maiak, a jelenben történnek, sokszor nincs rájuk vonatkozó szabályozás. Ezért először megtörténnek a nem kívánt esetek, amire csupán reaktív módon szület(het)nek szabályozások. Ilyen témakör például az automata fegyverek köre. A másik, ami megragadta a csoportok figyelmét, az az AI megoldásokból hiányzó ‘erkölcs’, vagy ‘bölcsesség’, ami bizonyos viselkedéseket, döntéseket emberivé tenne. Ezzel kapcsolatban a résztvevők sok félelmet megfogalmaztak. Előjöttek olyan példák, ahol az AI morálisan megkérdőjelezhető döntést hozott, az általa használt információk részlegessége miatt, pl. a bírói döntéshozatalban, egészségügyben, HR folyamatokban, beléptető rendszerekben stb. A résztvevők arra jutottak, hogy az AI-jal kapcsolatos problémák eredendően abból fakadnak, hogy az AI megoldások nem képesek kontextusban értelmezni a feladatokat. Az AI jelenlegi hibáival kapcsolatos félelem afelé vitte csoportot, hogy az AI használatát korlátozni kell előkészítő folyamatok során, nem pedig pl. törekedni kellene az AI megoldások etikai fejlesztésére. A beszélgetések során felmerült a kérdés, hogy mikor jön el az a pont, amikor valamilyen területen meg kell tiltani az AI fejlesztéseket? A kérdést elsősorban a hadászattal kapcsolatos dilemmák inspirálták. A félelmeken túl említés szintjén megjelent, hogy az AI-nak lehet pozitív hozadéka is: felszabadulnak eddig lekötött emberi kapacitások. Bár ez a diskurzus nem haladta meg a lehetséges 4 napos munkahét gondolatát. A résztvevők azt is kiemelték, hogy aggodalomra ad okot, hogy túl nagy hatalom csoportosul túl kevés befolyásos ember kezében, és ezt a hatalmi egyenlőséget az AI robbanásszerű fejlődése csak még tovább fokozza. A nagy cégek a saját anyagi érdekeiket tartják szem előtt, nem érdekeltek a felhasználást meghatározó etikai irányelvek megalkotásában. Szkepticizmus jelent meg a beszélgetésben amiatt, hogy az ajánlások önmagukban – jogi eszközök nélkül - nem szabályozó erejűek; hogy az EU mit tehet, ha amerikai kézben lévő cégről van szó; és hogy a felhasználás bizonyos veszélyei nem láthatóak előre, a jog nem tudja lekövetni az ugrásszerű fejlődést. A résztvevőkben megfogalmazódott az igény, hogy fontos lenne objektíven definiálni, hogy a mesterséges intelligencia különböző felhasználási területein mit tekintünk etikus használatnak. Területtől függetlenül a felelősségre vonhatóság, az adatvédelmi szempontok és az adatok felhasználási köréről való tájékoztatás merültek fel kiemelt szempontokként. További neuralgikus pontokként került azonosításra: - a választási eredmények manipulálhatóságának veszélye – például az AI-k által megjósolt eredmények nyilvánosságra kerülése; - hogy az USA (és Kína) mennyivel előrébb jár a fejlődésben mint az EU és az ebből adódó kiszolgáltatottság veszélye; - valamint a mesterséges intelligenciát használó fordító- és nyelvi programok negatív hatása az Unión belüli (és globálisan is a) nyelvi kultúrákra és szuverenitásra. A résztvevők hangsúlyozták, hogy a témában kevesen tájékozottak, a watchdog szerep mellett fontos lenne, hogy legyen az ismert és hiteles munkát végző civil szervezeteknek szerepük abban is, hogy a téma eljusson a társadalom szélesebb rétegeihez. A diákok szavazata és a szakértői visszajelzés alapján a résztvevők két, nagy prioritást élvező javaslatot részletesen is kidolgoztak: 1. Bizonyos kritikus területeken az AI ne lehessen döntéshozó, csak ajánlási rendszerként működhessen pl bíróság, hadászat területén: A javaslat alapgondolata az a félelem volt, hogy az mivel az AI technológia jelenleg nem rendelkezik morállal, így a kritikus, pl emberi élettel kapcsolatos döntésekben esetleg olyan döntést hozna, ami nem felel meg az emberi erkölcsnek, normáknak. Beszéltünk a hadászat automata fegyvereiről, amik pl egyenruha alapján lőhetnek esetleg figyelmen kívül hagyva az életkort; vagy a bírói döntésekről, amikor elítéltekről van szó; illetve egészségügyi vagy segélyezési rendszerekről, amik kontextus hiányában, elérhető információk csupán egy részét felhasználva (erkölcs nélkül) hoznak döntéseket. A javaslat lefedne területeket, és döntéshozási szinteket, ahol és ameddig AI működhetne mint döntéshozási rendszer, és ahonnan csak mint ajánlási rendszer szerepelhetne. A csoport egyetértett, hogy az ajánlási rendszerrel is egyszerűsödnének és felgyorsulnának a folyamatok, ugyanakkor megmaradna az ember kontrollja a döntéshozás felett az AI nagyobb adatfeldolgozási képességével segítheti a döntés megalapozását, és ezzel csökkentené az emberi felelősséget. Ezáltal több idő maradna a döntéshozóknak. A javaslatban kidolgozandó, hogy milyen területeket kellene, hogy érintsen ez az ajánlási-döntéstámogatási határvonal. A csoport úgy gondolta, hogy pl. a hadászat kifejezetten ilyen területnek számít. A javaslat formálásakor felmerült az AI-ba táplált adatok szerepe, ti. a különböző felhasznált adatforrások különböző eredményekhez vezethetnek. Ez a kulcsfontosságú részlet további kidolgozást igényel. Fontos része a javaslatnak, hogy a kidolgozásával megszületne az a határvonal, ameddig tulajdonképp az AI-t használni lehet a döntéshozásban. Mindenképp szükséges AI és jogi szakértők bevonása illetve NGOkkal való konzultáció a javaslat kidolgozását illetően. 2. Az individuális adatok felett való rendelkezés kerüljön jelentős mértékben kibővítésre: Kerüljön vissza az adatok feletti teljes rendelkezési jog az adatok alanyaihoz, ami alapján - akár adatszövetkezetté közösen összeállva – eldönthetik, hogy az adataikat kinek adják át, milyen felhasználás céljából, és mekkora anyagi ellenértéket kérve ezeket értékesítve. Az EU technológiai szállítóként vegyen részt ennek a megvalósításában, alternatív adattechnológiai megoldások kidolgozásával, amiért egy az EU által felállított Bizottság feleljen. Szükséges a nemzeti kormányok bevonása is szankcionálási szerepkörben, amennyiben az adat visszaszolgáltatás akadályokba ütközik. Számolni kell az adatainkkal jelenleg kereskedő cégek erős ellenérdekeltségével. További szereplőként, a figyelemfelkeltés érdekében fontos bevonni jogvédő civil szervezeteket. Az adatok feletti személyes kontroll visszanyerése a jelenleg fennálló problémát a gyökerénél tudja kezelni A javaslat mellett szól, hogy megoldaná az adatainkkal való személyes kereskedelem lehetőségét, és korlátozná a visszaélések bármely formáját, pl. személyiséglopást és –hamisítást, zsarolhatóság lehetőségét. A jelenlegi gyakorlatban problémát jelent, hogy az adatkezelési nyilatkozatok nem felhasználóbarát módon vannak megfogalmazva, nem mindig világosan érthetőek, amikor harmadik félnek való átadásról, kereskedelmi célú felhasználásról beszélnek, és túl hosszúak, a hozzájárulásukat adók nem olvassák végig őket. Az adatok közvetlen tranzakciójával követelmény lenne a részletes, pontos, érthető tájékoztatás a felhasználás céljáról. A személyes adatok továbbításáról való felelősségteljes döntés erősítése érdekében fontos lenne az EU polgárainak adatvédelmi oktatása, már a középiskolában, etika tárgy keretében. (A javaslatról beszélgetve a résztvevőkben felmerült még, vajon lehetséges-e az adatok feletti teljes rendelkezési jog visszaszerzése. Hogyan valósítható ez meg? És ehhez is mesterséges intelligencia szükséges-e.)