ЕУ-проектот GEMS развива алатка за откривање радикализација во онлајн гејминг просторите
Некои од најпопуларните видео игри во светот се злоупотребуваат за радикализација на млади луѓе. Во одредени случаи, платформите поврзани со гејминг станале неочекувано место за регрутирање од страна на терористички и насилни екстремистички групи, како и за други нелегални активности на интернет. Ова го покажува истражувањето на проектот GEMS (Gaming Ecosystem as a Multilayered Security Threat), финансиран од Европската Унија, кој испитува како ранливите поединци се идентификуваат и регрутираат во онлајн гејминг просторите.
Проектот, предводен од Тринити колеџ, разви и алатка за модерирање поддржана од вештачка интелигенција, која открива екстремистичка активност во разновидниот свет на гејмингот и во реално време ги прекинува обидите за регрутирање. Според проектот, системот би можел да стане вредна алатка за органите за спроведување на законот во Европа и пошироко.
Алатката Watchtower е дизајнирана да им помага на аналитичарите во спроведувањето на законот при следење на јавни онлајн чет-платформи. Системот моментално се тестира во оперативни услови и се доработува во соработка со ирската полиција и други европски партнери од областа на спроведувањето на законот, што им овозможува на службениците директно да ја оценуваат алатката врз реални јавни податоци.
Според проектот, гејминг и сродните простори можат да послужат како основа за рано „подготвување" на жртвите и како фаза на филтрирање пред однапред избраните корисници да бидат пренасочени на други места, како помалку модерирани или повеќе шифрирани платформи и апликации. Регрутирањето може да вклучи постепен премин од неформално учество кон подлабока идеолошка вклученост и преместување во други онлајн простори. Со човечки надзор, Watchtower може да помогне да се препознае (насилното) екстремистичко присуство во гејминг екосистемот и да се прекинат обидите за регрутирање во реално време.
Проектот GEMS гледа на гејмингот и сродните простори како претежно позитивен социјален простор за повеќето играчи, но и како простор што можат да го злоупотребат (насилни) екстремистички и терористички актери кои се приспособуваат на дигиталните младински култури. Истражувањата покажуваат дека радикализацијата во гејминг средините ретко е директна — почесто се развива постепено преку хумор, иронија, заеднички симболи, конкурентна динамика и поттикнување чувство на припадност. Дополнителен проблем е гемификацијата на криминалот и присвојувањето на гејминг естетиката за нелегални цели, вклучително тероризам и насилен екстремизам, што таквата содржина ја прави попривлечна и поразбирлива за целната публика.
Доказите од проектот покажуваат дека екстремистичкиот дискурс често се појавува во форма на секојдневен дискриминаторски јазик, а не како отворена пропаганда, при што особено преовладуваат анти-ЛГБТК+, расистичка и мизогинистичка содржина. Клучна ранливост лежи во нормализацијата на таквото однесување: кога омразата се отфрла како „шега" или позадинска токсичност, границите на прифатливото можат да се поместат. Наместо да создаваат одделни екстремистички гејминг простори, таквите актери типично се вградуваат во постоечките заедници, искористувајќи ги заедничките интереси, незадоволства и идентитетски врски.
Прашањето за радикализација, вклучително регрутирање, во онлајн гејминг екосистемот е институционално признаено и веќе се преземаат конкретни дејствија. Низ Европа и меѓународно, владите, јавните институции, органите за спроведување на законот, индустриските сојузи и технолошките компании, како и академската заедница и граѓанското општество, одговараат на злоупотребата на гејминг средините од (насилни) екстремистички и терористички актери. За поттикнување соработка, проектот GEMS иницираше основање на Европската мрежа против екстремизам поврзан со гејминг (ENgaGE), меѓусекторска мрежа составена од европски полициски власти, гејминг професионалци, претставници на заедниците и граѓанското општество.
Проектот траеше од септември 2023 до крајот на август 2026 година и доби 2.864.352 евра финансиска поддршка од ЕУ во рамки на кластерот „Цивилна безбедност за општеството" на програмата „Хоризонт Европа".