Fogalmazd meg ugyanazt a kérést egy kicsit másképp, és a nyelvi modell teljesen más választ ad. A QuantPi projekt csapata szerint ez a leggyakoribb gond, amely a generatív mesterséges intelligencia tesztelésekor felbukkan. A kutatók olyan platformot építettek, amely magától hoz létre teszteket, kiszúrja az instabilitást és az elfogultságot, és dokumentációt készít az auditorok számára. Kipróbálták egy álláspályázókat ajánló rendszeren is — a végén pedig te is megnézheted, mennyire bízol az MI válaszaiban.
A generatív mesterséges intelligencia egyre gyakrabban segít állásjelöltek értékelésében, ügyfelek kiszolgálásában és üzleti döntések támogatásában. Legnagyobb erőssége a sebesség. Van azonban egy könnyen figyelmen kívül hagyható gyengesége: a kérdés megfogalmazásának, a nyelvnek vagy a kontextusnak egy apró változására teljesen másképp reagálhat. A cégek számára ez kettős feladatot jelent. Fel kell tárniuk az ilyen rendellenességeket, és olyan dokumentációra is szükségük van, amely bizonyítja, hogy a kockázatot tesztelték, és az kézben van tartva.
Ezzel a problémával foglalkozott az Európai Innovációs Tanács által támogatott QuantPi projekt. Létrehozott egy platformot a generatív mesterséges intelligencia kockázatainak kezelésére, amely a PiCrystal technológiára épül. Az eszköz automatikusan teszteket állít össze, ellenőrzi a modell viselkedését, az eredményeket pedig az Európai Unió mesterséges intelligenciáról szóló rendeletének követelményeihez kapcsolódó, auditra kész dokumentációvá alakítja. A platform három szempontból vizsgálja a rendszereket: instabil kimenetek, elfogultság, valamint az auditon bemutatható bizonyítékok elérhetősége.
Mi bukkan fel leggyakrabban az ilyen tesztekben? Lukas Bieringer, a QuantPi szakpolitikai és pályázati vezetője kertelés nélkül válaszol: „Jellemzően a bemenetek realisztikus változásai mellett jelentkező következetlen vagy instabil viselkedés – ugyanaz a promptosztály jelentősen eltérő kimeneteket ad a megfogalmazástól, a nyelvtől vagy a kontextustól függően.”
A gyakorlatban egy rendszer simán átmehet egy egyszerű teljesítménymérésen, majd elbukhat, amikor valódi felhasználókkal találkozik, akik a maguk módján fogalmazzák meg a kéréseiket. Csak ekkor derül fény az elfogultságokra és a csoportok közötti egyenlőtlenségekre, azokra a különbségekre, amelyek az átlageredményekben láthatatlanok.
A csapat egy konkrét esetben ellenőrizte ezt. Egy nagy nyelvi modellre épülő jelöltajánló rendszert értékeltek, partnerként a Stepstone toborzóplatformmal és a TÜV AI.Lab MI-megbízhatósági laboratóriummal. A következtetés fontos mindenkinek, akinek az önéletrajza egy ilyen rendszerbe kerülhet. Az álláskeresésben használt MI-eszközök teszteléséhez nagy és reprezentatív adatkészletekre van szükség. Csak ezek teszik lehetővé az interszekcionális tesztelést, amelyben a különböző csoportok egymást átfedő jellemzői vizsgálhatók. Az átlagolás itt függönyként működik: elrejti, hogy a rendszer az egyes szegmensekkel hogyan bánik, pedig ezek a különbségek fontosak.
A QuantPi második ötlete, hogy különválasztja a bizonyítékok rétegét a bemutatás rétegétől. Ez egy egyszerű megfigyelésből következik: a cég különböző emberei ugyanarról a rendszerről más-más információt igényelnek.
Hogy ezek a nézetek ne távolodjanak el egymástól, egyetlen szabály van érvényben. Bieringer így magyarázza: „A tervezés kulcselve: minden nézetnek ugyanabból a statisztikai bizonyítékbázisból kell származnia, hogy a vezetőségi szintű állítás mindig visszavezethető legyen egy konkrét teszteredményre.”
Az automatizálás nem jelenti azt, hogy az emberi ítélőképesség fölöslegessé válik. Az emberek határozzák meg, mire való a rendszer, ők választják ki, a méltányosság vagy a biztonság mely meghatározásai érvényesek, ők állítják be az elfogadási küszöböket, és ők döntenek arról, hogy egy eszközt bevezetnek, elhalasztanak vagy visszavonnak. A szerepek megosztása egyértelmű: a platform méri a kockázatot, a felelős emberek pedig eldöntik, hogy az milyen szintig elfogadható.
Az egyszer elvégzett teszt sem elég örökre. A monitorozás akkor indul el, valahányszor változik a helyzet: modellfrissítés, módosított prompt vagy új visszakeresési index után. A bemenetek és a kimenetek eltolódása, valamint a szabályok változása szintén új értékelést kíván, mert ezek bármelyike érvénytelenítheti a korábbi eredményeket.
Bieringer szerint sok cég számára a legnagyobb akadály már nem a szabályok ismeretének hiánya. Őszintén fogalmaz: „Amit nem tudnak, az olyan műszaki megfelelőségi bizonyíték előállítása, amely megállja a helyét egy bejelentett szervezet vagy egy auditor előtt – különösen a generatív rendszereknél, ahol a hagyományos teljesítménymérési jelentések nem elegendők, és harmonizált szabványok mindeddig nincsenek.” A QuantPi platformja éppen ezt a rést hivatott betölteni: a műszaki teszteket olyan bizonyítékokká alakítja, amelyeket a különböző csapatok a bevezetés előtt és után is használhatnak.
A generatív MI szeszélyes tud lenni: ugyanaz a kérdés más szavakkal feltéve teljesen más választ hozhat, az átlagos tesztredmények pedig elrejthetik, hogy bizonyos csoportokkal egyenlőtlenül bánik. A QuantPi projekt megmutatja, hogy az ilyen rendszerek megalapozott értékeléséhez automatizált, megismételhető tesztekre, reprezentatív adatokra és mindenki számára közös bizonyítékbázisra van szükség, az elemzőtől a vezetőségig. Hogy melyik kockázat elfogadható, abban azonban továbbra is az embereké az utolsó szó.
5 kérdés · egy perc
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文