Проектот GEMS на ЕУ развива алатка за откривање радикализација во онлајн гејминг просторите
Проектот GEMS (Gaming Ecosystem as a Multilayered Security Threat), финансиран од Европската Унија, ја испитува постапката со која ранливите поединци се идентификуваат и регрутираат во онлајн гејминг просторите. Проектот, исто така, разви и алатка за модерирање поддржана од вештачка интелигенција, која открива екстремистичка активност во разновидниот свет на гејмингот и во реално време ги прекинува обидите за регрутирање. Системот, предводен од Тринити колеџ, би можел да стане вредна алатка за органите за спроведување на законот во Европа и пошироко.
Алатката Watchtower е дизајнирана да им помага на аналитичарите во спроведувањето на законот при следење на јавни онлајн чет-платформи како YouTube Live, Twitch, Reddit, Discord и други гејминг и сродни четови. Системот моментално се тестира во оперативни услови и се доработува во соработка со ирската полиција и други европски партнери од областа на спроведувањето на законот, што им овозможува на службениците директно да ја оценуваат алатката врз реални јавни податоци.
Според проектот, гејмингот и сродните простори можат да послужат како основа за рана подготовка и како фаза на филтрирање пред однапред избраните корисници да бидат пренасочени на други места, како помалку модерирани или повеќе шифрирани платформи и апликации. Регрутирањето може да вклучи постепен премин од неформално учество кон подлабока идеолошка вклученост и преместување во други онлајн простори. Со човечки надзор, Watchtower може да помогне да се препознае (насилно) екстремистичко присуство во гејминг екосистемот и да помогне во прекинување на обидите за регрутирање во реално време.
Проектот GEMS ги гледа гејмингот и сродните простори како претежно позитивен социјален простор за повеќето играчи, но и како простор што можат да го искористат (насилни) екстремистички и терористички актери кои се прилагодуваат на дигиталните младински култури. Истражувањата покажуваат дека радикализацијата во гејминг средините ретко е директна — почесто се развива постепено преку хумор, иронија, заеднички симболи, конкурентна динамика и поттикнување чувство на припадност. Дополнителен проблем е гемификацијата на криминалот и присвојувањето на гејминг естетиката за нелегални цели, вклучително тероризам и насилен екстремизам, што таквата содржина ја прави попривлечна и разбирлива за целната публика.
Доказите од проектот покажуваат дека екстремистичкиот дискурс често се појавува во форма на секојдневен дискриминаторски јазик, а не како отворена пропаганда, при што особено преовладуваат анти-ЛГБТК+, расистичка и мизогинистичка содржина. Клучна ранливост е нормализацијата на таквото однесување: кога омразата се отфрла како „шега“ или позадинска токсичност, границите на прифатливото можат да се поместат. Наместо да создаваат одделни екстремистички гејминг простори од самиот почеток, таквите актери вообичаено се вградуваат во постоечките заедници, искористувајќи ги заедничките интереси, незадоволства и врските засновани на идентитет.
Прашањето за радикализација, вклучително и регрутирање, во онлајн гејминг екосистемот е институционално признаено и веќе се преземаат конкретни дејствија. Низ Европа и меѓународно, владите, јавните институции, органите за спроведување на законот, индустриските сојузи и технолошките компании, како и академската заедница и граѓанското општество, одговараат на искористувањето на гејминг средините од (насилни) екстремистички и терористички актери.
За да се поттикне соработка, проектот GEMS иницираше основање на Европската мрежа против екстремизмот поврзан со гејминг (ENgaGE), меѓусекторска мрежа составена од европски полициски власти, гејминг професионалци, претставници на заедниците и граѓанското општество. Со платформата Watchtower, развојот на истражување за социологијата на гејмингот и радикализацијата и обуки за органите за спроведување на законот, GEMS даде важен придонес во напорите за спречување на онлајн радикализација.
Проектот траеше од септември 2023 година до крајот на август 2026 година и доби 2.864.352 евра финансирање од ЕУ во рамки на кластерот „Цивилна безбедност за општеството“ на програмата Хоризонт Европа.