2021-ben Izrael azt állította, hogy mesterséges intelligenciát használt a Gázai övezetben lezajlott militáns csoportok elleni rövid konfliktusában, ami az első „AI-háborúról” szóló híreket váltott ki. A legújabb jelentések azt állítják, hogy Izrael jelenlegi gázai háborújában sokkal intenzívebben használják a mesterséges intelligenciával működő rendszereket, bár az izraeli hírszerzés szigorúan titkosított jellege, valamint a folyamatban lévő háború körüli félre- és félretájékoztatás miatt ezekre a rendszerekre vonatkozó részletek továbbra is szűkösek. Az információhiány ellenére indokolt az óvatosság az izraeli katonai mesterséges intelligencia állítólagos képességeiről és szerepéről szóló vitákban.
Habsora: AI célzás?
2019-ben az izraeli kormány bejelentette egy „célponti igazgatóság” létrehozását, amely célpontokat állít elő az Izraeli Védelmi Erők (IDF), különösen az Izraeli Légierő (IAF) számára. A korábbi konfliktusok során az IAF néhány hetes harc után kifogyott a célpontjaiból, miután eltalálta az összes célpontot, amelyről tudtak. A célpontokért felelős igazgatóságot azért hozták létre, hogy enyhítsék ezt a hiányt azáltal, hogy minden konfliktus előtt megelőzően létrehozták a militáns célpontok „bankját”, így elegendő célpontot biztosítva az ellenségeskedés megkezdésekor. A több száz katonából és elemzőből álló igazgatóság különféle forrásokból származó adatok – drónfelvételek, lehallgatott kommunikációk, megfigyelési adatok, nyílt forráskódú információk, valamint egyének és nagy csoportok mozgásának és viselkedésének megfigyeléséből származó adatok – összesítésével hozza létre a célpontokat.
A média és az IDF forrásai is azt állítják, hogy a célirányító igazgatóság a mesterséges intelligenciát használja az összesített adatok feldolgozására, majd a célpontok generálására sokkal gyorsabban, mint az emberi elemzők. A használt mesterséges intelligencia rendszer (amely „Habsora” (בשורה) vagy „Evangélium” néven ismert) állítólag az összegyűjtött hírszerzést arra használja fel, hogy a militánsok lelőhelyein működő célpontokat dandár- vagy hadosztály-szintű célzáshoz adja ki. A jelentés azt állítja, hogy a célkimenetek között szerepelnek a polgári áldozatok valószínű számáról szóló jelentések is. A médiaforrások azt állítják, hogy a humán elemző szerepe a cél megerősítésére korlátozódik, mielőtt azt a parancsnok elé adnák elutasítás vagy jóváhagyás céljából. Az IDF kijelenti, hogy a cél egy „teljes egyezés” Habsora és egy humán elemző sztrájk előtti célzási ajánlása között.
Alternatív nézet
Az IDF technológiailag az egyik legfejlettebb és legintegráltabb hadsereg a világon, ennek ellenére kicsi az esélye annak, hogy még az IDF is ilyen kifinomult és önálló MI-t használjon.
Az információhiány ellenére indokolt az óvatosság az izraeli katonai mesterséges intelligencia állítólagos képességeiről és szerepéről szóló vitákban.
Bár a „célpontok létrehozása” egyszerű fogalomnak tűnhet, a célzás rendkívül összetett feladat, ami azt jelenti, hogy a Habsora mérföldekkel messzebbre állna bármely más taktikai/hadműveleti rendszeren, amelyet a világ hadseregei telepítenek. Az AI-nak képesnek kell lennie arra, hogy többféle adatformátumot fogadjon el számos forrásból, mérlegelje az egyes adatpontok relevanciáját és megbízhatóságát, kombinálja ezeket az adatokat a meglévő rekordokkal, és hozzon létre egy használható célprofilt, miközben állítólag megbecsüli a polgári járulékos károkat is.
Bár ez a képesség technikailag megvalósítható, még kisebb a valószínűsége annak, hogy egy ilyen rendszer ilyen széles körű hatáskört kapjon egy harci környezetben, mivel továbbra is hiányzik az AI, különösen a katonai AI iránti bizalom. Egy olyan rendszer, mint a Habsora, mivel a jelentések szerint hiányzik a célkiválasztás okait részletező kimenet, nem valószínű, hogy csökkenti ezt az aggodalmat.
Még az IDF által leírt Habsora kevésbé autonóm, de még homályos szerepében sem adnak leírást arról, hogy a rendszer hogyan hoz létre célpontokat, vagy mi történik, ha a kettő nem illeszkedik egymáshoz. A parancsnokok valószínűleg több emberi forrásból származó jelentős keresztellenőrzést szeretnének, mielőtt megerősítenék a sztrájkot, ami az igazgatóság humán elemzői közül sokan lekötelezné magát, így legalább egy részét megcáfolná a mesterséges intelligencia bevetésével nyert hatékonyságot.
Minden sztrájkról szóló döntést a célhely körülményeinek és a sztrájk várható hatásainak, köztük a várható áldozatoknak csaknem átfogó ismerete alapján hozzák meg.
Sokkal valószínűbb az a forgatókönyv, hogy a célzási igazgatóság gépi automatizált rendszereket használ az intelligencia koherenciájára, hogy azonosítsa a mintákat a hatalmas mennyiségű gyűjtött adatban, és az ember hozza létre a tényleges célpontot. Még egy olyan másodlagos szerepben is, mint ez, a mesterséges intelligencia által továbbfejlesztett feldolgozás kétségtelenül növelné az igazgatóság célpontok előállításának sebességét, szemben az elemzőkkel, akik ezt kézzel végzik. A rendszer használata az összegyűjtött intelligencia felhalmozására és automatikus feldolgozására nem újdonság; az ilyen számítástechnikát évtizedek óta használják a célzásban, igaz, változó technikai képességekkel. Az intelligencia (amely a térinformatikaitól a jelintelligenciaig bármi lehet) fogadása után egy gépi automatizált rendszer jelezheti azokat az érdeklődési területeket, ahol további figyelmet vagy cselekvést érdemelne, de nem adhat ki célpontokat.
Belevonás
Az explicit mesterséges intelligencia-célzás hiánya azonban nem jelenti azt, hogy Izrael gázai légi háborúja pontatlan lenne, vagy hogy ne lenne képes elkerülni a polgári áldozatokat csapásai során. A „buta” lőszerek széleskörű használata ellenére Izrael hatalmas mennyiségű precíziós lőszerhez fér hozzá. Ezek a precíziós lőszerek különféle robbanófejekkel és képességekkel állnak rendelkezésre, lehetővé téve az IDF számára, hogy tetszés szerint korlátozza vagy kiterjessze a megsemmisítés mértékét, és jelzi, hogy a légicsapásokból származó polgári járulékos károk többsége szándékos és elszámolható.
Az IDF hosszú évek óta rendkívül sűrű felügyeleti hálózatot tart fenn Gáza felett, és megőrzi az abszolút felsőbbséget az elektronikus, kommunikációs, térinformatikai, valamint mérési és aláírási intelligencia terén. A sztrájkra vonatkozó minden döntést a célhely körülményeinek és a sztrájk várható hatásainak – beleértve a várható áldozatokat is – csaknem átfogó ismerete alapján hozzák meg. Izraelnek is van egy szigorú jogi magja a hadseregén belül, amelynek ügyvédeinek minden célpontot – emberi vagy mesterséges intelligencia által generált – alá kell írniuk, még akkor is, ha egy napon több száz célpontot. Amikor az izraeli légicsapások civilek tízezrei halálát okozzák vagy megsebesítik, minden kétséget kizáróan úgy tűnik, hogy minden egyes célpontot az IDF-operátorok teljes tudtával és beleegyezésével állítanak elő, hagynak jóvá, rendelnek el és csapnak le.
A jelen kommentárban kifejtett nézetek a szerző nézetei, és nem képviselik a RUSI vagy bármely más intézmény nézeteit.
Van ötleted egy kommentárral kapcsolatban, amit szívesen írnál nekünk? Küldjön egy rövid bemutatót a commentaries@rusi.org címre, és felvesszük Önnel a kapcsolatot, ha megfelel a kutatási érdeklődési körünknek. A közreműködőknek szóló teljes útmutató itt található.
