Az emberek általában megérzik, ha ismeretlen terepre lépnek, és a tudásuk elfogy. A mesterséges intelligenciának nincs ilyen ösztöne: kiválasztott adatokból tanul, és tehetetlen lehet, ha a világ másképp néz ki, mint a tanítás során. Az európai E-pi projekt megtanította az algoritmusokat felismerni a saját tudatlanságukat, és ott ellenőrizte, ahol a hiba a legtöbbe kerülhet: az önvezető autóknál. A végén kiderítheted, hogyan kezeled te magad a bizonytalanságot.
A mesterséges intelligencia ma már szinte mindenhová eljut. Hajtja a gazdaságot, és átalakítja otthonainkat, iskoláinkat és munkahelyeinket. Van azonban egy gyenge pontja, amelyről kevesebb szó esik, mint a sikereiről. A modell egy konkrét adathalmazból tanul, majd olyan világban kell működnie, amely nem mindig hasonlít arra, amit a tanítás során látott. Éppen ekkor kezdődnek a bajok.
Ezzel a problémával foglalkozott az uniós finanszírozású E-pi projekt, amelyet az Egyesült Királyságban működő Oxford Brookes University koordinált. A csapat öt éven át dolgozott az úgynevezett episztemikus mesterséges intelligencián, vagyis olyan mesterséges intelligencián, amely jobban kezeli a bizonytalanságot, és a tanítóadatoktól eltérő helyzetekben is képes előrejelzéseket adni.
Az episztemikus szó az episztemológiából ered, a filozófiának abból az ágából, amely a tudást vizsgálja. Innen származik egy olyan képesség, amely az ember számára teljesen természetes: észrevenni, hogy amit tudunk, az az adott helyzetben nem elég. Ez az emberi intelligencia egyik alapeleme.
Egy gép ezt magától nem tudja. A mesterséges intelligencia esetében a saját tudatlanság felismerését elméleti és matematikai keretekre kell építeni. Más szóval a bizonytalanság érzését szó szerint bele kell írni az algoritmus tervébe.
A projekt koordinátora, Fabio Cuzzolin rámutat, hogy a klasszikus gépi tanulási algoritmusok viszonylag kis tanítóhalmaz magyarázatára összpontosítanak, nem pedig az összes adatra, amely a valóságban felbukkanhat. A következmény könnyen megjósolható. „A hagyományos mesterségesintelligencia-modellek nehezen adnak robusztus előrejelzéseket, ha az adatokat előállító valószínűségi eloszlások eltérnek a tanítás idejében érvényesektől” – magyarázza a kutató.
Egyszerűen fogalmazva: az a modell, amely a világnak csak egy szeletét ismeri jól, eltévedhet, ha ezen a szeleten kívül eső dologgal találkozik. Az E-pi konzorcium arra a következtetésre jutott, hogy a másodrendű bizonytalanság elmélete a megoldás legígéretesebb alapja. A projekt előadásait lelkesen fogadták a szakmai konferenciákon, Cuzzolint pedig több kapcsolódó Horizont Európa-pályázatban való részvételre is felkérték. A csapat munkája az episztemikus mesterséges intelligencia nemzetközi ökoszisztémájának felépítését hivatott segíteni.
Hol érdemes a legjobban kipróbálni egy olyan mesterséges intelligenciát, amelynek a kiszámíthatatlannal kell megbirkóznia? A kutatók az önvezető járműveket választották. Az úton a helyzet hirtelen kitörhet minden mintából, akár a gyalogosok viselkedése, a szélsőséges időjárás vagy szokatlan útelrendezés miatt. A jelenlegi rendszerek hibái költségesek lehetnek, a legrosszabb esetben pedig halálos sérüléshez vezethetnek.
A csapat a ROAD adathalmazt használta, amely az önvezető járművek közlekedési eseményfelismerésével foglalkozik. Ez szolgált a modell tanítására és az új episztemikus objektumdetektorok tesztelésére is. A ROAD folyamatosan bővül, és Európából, Észak-Amerikából, Dubajból és Abu-Dzabiból származó videókat tartalmaz, így valóban globális forrássá vált.
A biztonságosabb vezető nélküli autók csak az egyik cél. Ugyanez a logika más területeken is hasznos lehet:
A magfúzió különösen igényes példa. „Olyan bizonytalanságtudatos neurális operátormodelleket fejlesztünk, amelyek megjósolják, hogyan áramlik majd a fúziós plazma egy tokamakban, és a reaktorok mely területeit érinti leginkább” – mondja Cuzzolin. Az ilyen modellek feladata, hogy előre jelezzék a plazma áramlását a tokamak, vagyis a reaktor belsejében, és megmutassák, hogy annak mely részei lesznek a leginkább kitéve. Itt is ugyanarról van szó: a modellnek nemcsak eredményt kell adnia, hanem őszintén be kell számolnia arról is, mennyire biztos benne.
Egy másik irány a generatív mesterséges intelligenciát érinti. „A jelenlegi legkorszerűbb nagy nyelvi modellek (LLM-ek) köztudottan hamis állításokat generálnak” – ismeri be Cuzzolin. Szerinte a kiút az lehet, ha új paradigmára épülő modelleket készítenek: „Az episztemikus LLM-ek jelentősen mérsékelhetik e modellek túlzott magabiztosságát.”
A tervek között szerepelnek az elmeelmélethez kapcsolódó megoldások és a folyamatos tanulás révén fejlődő rendszerek is. A közös nevező változatlan: a mesterséges intelligenciának nemcsak válaszolnia kell, hanem tudnia is, mikor ingatag alapokon nyugszik a válasza.
Az E-pi projekt, amelynek teljes költsége nagyjából 3 millió euró volt, hozzájárult a biztonságosabb önvezető járművek és robotok, valamint a nem hallucináló generatív mesterséges intelligencia fejlesztéséhez. A gépi tanulás szakértőiből dinamikus hálózatot is kiépített. A szerzők szerint az episztemikus mesterséges intelligencia képes megváltoztatni a világot és mindennapi életünket. Az egész pedig egy nagyon emberi képességgel kezdődik: beismerni, hogy valamit nem tudsz.
5 kérdés · egy perc
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文