Projekt kategóriák:
Kedvezményezett neve: Óbudai Egyetem
Projekt azonosítószáma: 2019-2.1.11-TÉT-2020-00217
Megítélt támogatás: 4 938 780 Ft
Támogatás mértéke: 100%
Megvalósítás időtartama: 2021. 09. 01. – 2023. 08. 31.
Projekt rövid összefoglalója
Az átláthatóság korunk mesterséges intelligencia kutatásának egyik legnagyobb kihívása. A mély tanulás területén elért robbanásszerű fejlődésnek köszönhetően a neurális hálók az élet szinte minden területén alkalmazásra találnak. A meglepően eredményes előrejelző képességnek azonban ára van: a háttérben zajló algoritmusok nehezen, vagy egyáltalán nem interpretálhatóak, ez a gyakran emlegetett feketedoboz- jelenség (black-box nature). Ahhoz, hogy az alkalmazások biztonságosabbak és megbízhatóbbak lehessenek, fontos lépéseket tenni az interpretálhatóság irányába, ami nemcsak az ügyfelek és partnerek bizalmának megnyeréséhez szükséges, hanem különösen nagy jelentőséggel bír magas kockázatú területeken történő alkalmazás esetén (önvezető autók, arc- és személyfelismerés, sebészrobotok, egyéb orvosi alkalmazások, stb.). Ezekben az esetekben nem elég a gépi tanulás segítségével eljutni egy kielégítő eredményig, az eredményeket meg is kell tudnunk magyarázni, azaz minél többet érthetővé kell tennünk a folyamatból, a gép által használt algoritmusokból, valamint azok választásának okáról.
Kutatásunk fókuszában olyan új típusú neurális modell áll, mely magába foglalja a komplex neurális hálózatok összes előnyét, de egyúttal lehetővé teszi a döntéshozatali mechanizmus értelmezését is. A új típusú neurális modell első prototípusai a logikai operátorok és klasszikus neuronok “házasítása” révén került kidolgozásra. Folytonos logikai és döntéselméleti eszközök implementációja segítségével a gépi tanulás folyamata értelmezhetőbbé, egyúttal a paraméterszám jelentős csökkenése révén lényegesen gyorsabbá is tehető. Az elméleti háttér sikeres kidolgozása után e projekt keretében az alkalmazások felé szeretnénk fordulni. Olyan prototípus hálózatok kidolgozása a célunk, melyekre és melyekből építkezve az értelmezhető döntéshozású komplex MI algoritmusok használata elsősorban a kép- és videó-feldolgozás területén mindennapossá válhat.
